Kunstig intelligens tager også genveje

Du har måske overvejet følgende genvej: hvis baggrunden er en ørken, så viser fotografiet en kamel; og hvis baggrunden er græs, så viser billedet en hest. Dette er en genvej, der løser alle træningsbillederne perfekt. Men det vil selvfølgelig ikke løse andre eksempler korrekt. Det er muligt, at AI-værktøjet fra internettet, som vi brugte i introduktionen, lærte en lignende genvej og derfor lavede en fejl på de billeder, hvor vi ændrede baggrunden.

Det viser sig, at mange succesrige versioner af AI til beskrivelse af billeder er fristet til at lære lignende genveje. En undersøgelse offentliggjort i 2022 evaluerede flere banebrydende AI-værktøjer til billedbeskrivelse [1]. Undersøgelsen fandt, at når værktøjerne blev bedt om at beskrive et hvilket som helst billede fra internettet, var de korrekte over 80 % af tiden. Men når objektet blev flyttet til en anden baggrund, var de kun korrekte 35 % af tiden. Tilsyneladende er genvejen, der identificerer et objekt i et billede baseret på dets baggrund, særligt fristende!

Problemer med AI-genveje

En undersøgelse samlede en masse beviser for genveje af denne type [2]. I et eksempel lærte AI at identificere lungebetændelse ud fra røntgenbilleder af brystet og på baggrund heraf at afgøre, om en person var syg eller rask. Det viste sig imidlertid, at systemet slet ikke analyserede lungerne på billedet, men i stedet opdagede, at hospitalets mærke på billedet kunne indikere, om personen var rask eller syg, og fokuserede på det. Denne genvej er ekstremt farlig: måske var mærket relevant i de træningseksempler, som AI’en så, men det er skræmmende at forestille sig, hvad der ville ske, hvis den blev bedt om at undersøge en anden patient fra et andet hospital.

En artikel offentliggjort i 2024 rapporterede om en undersøgelse af 14 forskellige AI-værktøjer designet til medicinsk diagnose og fandt, at de i vid udstrækning bruger genveje [3]. Værktøjerne blev testet på en række forskellige opgaver, herunder identifikation af coronavirusinfektion eller forstørret hjerte på røntgenbilleder, diagnosticering af hjertesygdomme ved at lytte gennem et stetoskop og meget mere. Forskerne fremsatte den hypotese, at AI’en ikke udelukkende ville fokusere på medicinske oplysninger, men ville lære at udnytte de unikke måleforhold for hvert enkelt tilfælde, hvilket gjorde det muligt at tage genveje. Hvis en læge f.eks. mistænker, at en patient har coronavirus, kan han sende patienten til røntgenundersøgelse med et andet apparat end det, han ville sende en patient, der ser sund ud, til (f.eks. af hensyn til det medicinske personales sikkerhed). AI kan identificere forskellen mellem måleapparatet og afgøre, om en person er syg eller rask, baseret på den type apparat, der er brugt, uden at undersøge selve billedet. Forskerne fandt ud af, at alle 14 testede værktøjer anvendte en sådan genvej, der var baseret på udstyrets egenskaber snarere end på medicinske oplysninger. Da testene blev udført på et nyt hospital, faldt AI’ens ydeevne betydeligt, fordi genvejen ikke længere fungerede. Dette er naturligvis et alvorligt problem, når man forsøger at integrere AI i virkelige medicinske situationer.

Hvordan kan vi forbedre fremtidens AI?

AI-forskere arbejder på at udvikle mere effektive maskinlæringsmetoder, der kan forhindre genveje. En måde er at træne AI med et stigende antal eksempler. Lad os vende tilbage til vores diskussion om matematikøvelser: Hvis vi i stedet for kun at give AI fire træningseksempler giver den hele matematikbøger, er det sandsynligt, at den genvej, vi så, ikke længere vil fungere, og AI bliver nødt til at finde en anden løsning. Selv når antallet af eksempler er stort, kan vi dog ikke garantere, at AI’en ikke finder en anden genvej. I den nævnte undersøgelse om billedbeskrivelse blev det konstateret, at selv en AI, der var trænet på hundreder af millioner af billeder, brugte genvejen til at bestemme dyrearten ud fra baggrunden [1].

Hvis vi på forhånd vidste, hvilken genvej der kunne blive brugt, kunne vi forsøge at forhindre det i træningsfasen. Lad os for eksempel antage, at vi ikke ønsker, at AI’en genkender dyr ud fra deres baggrund under træningen. I så fald kan vi vise forskellige billeder, hvor hvert dyr ses på en tilfældig baggrund, f.eks. en kamel i sneen. Når vi tilføjer flere sådanne eksempler til træningen, vil genvejen, der identificerer dyret ud fra dets baggrund, ikke længere fungere. Men der er et problem her: denne tilgang fokuserer på genveje, som vi allerede kender. Selvom vi undgår denne genvej, kan vi ikke forhindre andre genveje, som vi ikke kender til, f.eks. afhængighed af lysforhold.

Mennesker og andre dyr (ikke-kunstig intelligens) har også en tendens til at lære af genveje. For eksempel forbereder mange studerende sig til en matematikprøve ved at løse opgaver fra tidligere prøver og giver nogle gange op med at forsøge at forstå stoffet. I begyndelsen af det 20. århundrede blev en hest ved navn Clever Hans berømt for angiveligt at kunne løse matematikopgaver. Når han blev spurgt, hvor meget 9 + 5 var, trommede han 14 gange med hoven. Psykologen Oskar Pfungst studerede hestens præstation og konkluderede, at den kunne “løse” matematikopgaverne ved hjælp af en genvej. Hesten fortsatte med at tromme, indtil spørgerens kropssprog “afslørede” for ham (uden spørgerens viden), at han havde nået det rigtige tal. Når hesten blev forhindret i at have øjenkontakt med spørgeren, virkede genvejen ikke længere, og Clever Hans’ svar var næsten altid forkerte.

På trods af alt det, vi har beskrevet, bør vi ikke miste håbet. I de senere år har vi set AI overgå ikke-AI på mange måder. For eksempel besejrede den verdensmesteren i skak og scorede højere end de fleste mennesker i advokateksamen. I dag hjælper AI også lærere og studerende med en række opgaver, fra at søge information til at sammenfatte tekster. AI-forskere fortsætter med at udvikle maskinlæringsmetoder, der vil reducere dens afhængighed af genveje betydeligt. Måske vil de en dag også overgå os i denne henseende.