Det mänskliga sinnet har förblivit oförklarligt och mystiskt under lång, lång tid. Och det ser ut som att forskare har erkänt en ny utmanare till denna lista - artificiell intelligens (AI). Till en början låter det ganska oxymoroniskt att förstå sinnet hos en AI. Men när AI gradvis blir mer kännande och utvecklas närmare att efterlikna människor och deras känslor, bevittnar vi fenomen som är medfödda för människor och djur – hallucinationer.
Ja, det verkar som att just den resa som sinnet ger sig in på när man överges i en öken, kastas bort på en ö eller är inlåst ensam i ett rum utan fönster och dörrar upplevs av maskiner också. AI-hallucinationer är verkliga och teknikexperter och entusiaster har dokumenterat flera observationer och slutsatser.
I dagens artikel ska vi utforska denna mystiska men spännande aspekt av stora språkmodeller (LLM) och lära oss udda fakta om AI-hallucinationer.
Vad är AI-hallucination?
I AI-världen hänvisar hallucinationer inte vagt till mönster, färger, former eller personer som sinnet klart kan visualisera. Istället hänvisar hallucinationer till felaktiga, olämpliga eller till och med vilseledande fakta och svar. Generativa AI-verktyg kommer med uppmaningar.
Föreställ dig till exempel att du frågar en AI-modell vad ett Hubble-rymdteleskop är och det börjar svara med ett svar som, "IMAX-kamera är en specialiserad film med hög upplösning ...."
Detta svar är irrelevant. Men ännu viktigare, varför genererade modellen ett svar som skiljer sig tangentiellt från den prompt som presenteras? Experter tror att hallucinationer kan bero på flera faktorer som:
- Dålig kvalitet på AI-träningsdata
- Övermodiga AI-modeller
- Komplexiteten i Natural Language Processing (NLP)-program
- Kodnings- och avkodningsfel
- Motstridiga attacker eller hack av AI-modeller
- Källhänvisningsavvikelse
- Inmatningsbias eller inmatningstvetydighet och mer
AI-hallucination är extremt farlig och dess intensitet ökar bara med ökad specifikation av dess tillämpning.
Till exempel kan ett hallucinerande GenAI-verktyg orsaka rykteförlust för ett företag som använder det. Men när en liknande AI-modell används i en sektor som hälso- och sjukvård, ändrar den ekvationen mellan liv och död. Visualisera detta, om en AI-modell hallucinerar och genererar ett svar på dataanalysen av en patients medicinska avbildningsrapporter, kan den oavsiktligt rapportera en godartad tumör som malign, vilket resulterar i en kursavvikelse för individens diagnos och behandling.
Förstå AI-hallucinationsexempel
AI-hallucinationer är av olika slag. Låt oss förstå några av de mest framstående.
Faktiskt felaktigt svar på information
- Falskt positiva svar som flaggning av korrekt grammatik i text som felaktig
- Falska negativa reaktioner som att förbise uppenbara fel och framhålla dem som äkta
- Uppfinning av icke-existerande fakta
- Felaktig inköp eller manipulering av citat
- Övertro på att svara med felaktiga svar. Exempel: Vem sjöng Here Comes Sun? Metallica.
- Blanda ihop begrepp, namn, platser eller incidenter
- Konstiga eller läskiga svar som Alexas populära demoniska autonoma skratt och mer
Förebyggande av AI-hallucinationer
AI-genererad felinformation av alla slag kan upptäckas och åtgärdas. Det är det som är specialiteten med att arbeta med AI. Vi uppfann detta och vi kan åtgärda detta. Här är några sätt vi kan göra detta på.
Begränsande svar
De säger att det inte spelar någon roll hur många språk vi talar. Vi måste veta när vi ska sluta prata i dem alla. Detta gäller även AI-modeller och deras svar. I detta sammanhang kan vi begränsa en modells förmåga att generera svar på en specifik volym och minska risken för att den kommer med bisarra resultat. Detta kallas Regularization och det innebär också att bestraffa AI-modeller för att göra extrema och utdragna resultat till uppmaningar.
Relevanta och lufttäta källor att citera och extrahera svar
När vi tränar en AI-modell kan vi också begränsa källorna som en modell kan referera till och extrahera information från till bara legitima och trovärdiga. Till exempel kan AI-modeller för sjukvård som det ena exemplet vi diskuterade tidigare endast referera till källor som är trovärdiga i information laddad med medicinska bilder och bildteknik. Detta förhindrar maskiner från att hitta och samrelatera mönster från bipolära källor och generera ett svar.
Definiera syftet med en AI-modell
AI-modeller lär sig snabbt och de behöver bara få veta exakt vad de ska göra. Genom att exakt definiera syftet med modeller kan vi träna modeller att förstå sina egna möjligheter och begränsningar. Detta kommer att tillåta dem att autonomt validera sina svar genom att anpassa genererade svar till användarmeddelanden och deras syfte att leverera rena resultat.
Mänsklig tillsyn i AI
Att träna AI-system är lika viktigt som att lära ett barn simma eller cykla för första gången. Det kräver vuxenövervakning, måttfullhet, intervention och handhållning. De flesta AI-hallucinationer uppstår på grund av mänsklig försumlighet i olika stadier av AI-utveckling. Genom att distribuera rätt experter och säkerställa ett mänskligt arbetsflöde för att validera och granska AI-svar, kan kvalitetsresultat uppnås. Dessutom kan modeller förfinas ytterligare för noggrannhet och precision.
Shaip och vår roll i att förebygga AI-hallucinationer
En av de andra största källorna till hallucinationer är dålig AI-träningsdata. Du får vad du matar med dina kunskaper. Därför vidtar Shaip proaktiva åtgärder för att säkerställa leverans av data av högsta kvalitet för dina generativa AI- träningsbehov.
Våra strikta kvalitetssäkringsprotokoll och etiskt framställda datamängder är idealiska för era AI-visioner för att leverera rena resultat. Även om tekniska problem kan lösas är det viktigt att problem med utbildningsdatakvaliteten tas upp på gräsrotsnivå för att förhindra att modellutvecklingen behöver omarbetas från grunden. Det är därför er AI- och LLM- utbildningsfas bör börja med datamängder från Shaip.
