A hallucination, magyarul AI-hallucináció, olyan jelenség, amikor egy generatív AI-modell tényszerűnek tűnő, de valójában hibás, nem alátámasztott vagy kitalált információt állít elő. Hallucináció lehet például egy nem létező tény, esemény, idézet, forrás vagy hivatkozás magabiztos közlése.
A hallucináció összefügg a nagy nyelvi modellek működésével. Egy LLM alapvetően nem egy adatbázisból keresi ki a „helyes választ”, hanem a rendelkezésére álló kontextus és a tanult mintázatok alapján generálja a következő tokeneket. Emiatt képes nyelvileg koherens választ előállítani akkor is, amikor nincs elegendő vagy megbízható információja a helyes válaszhoz.
Hallucináció többféle formában jelentkezhet. A modell kitalálhat például egy kutatási eredményt, hibás számadatot adhat meg, nem létező URL-re vagy tanulmányra hivatkozhat, illetve olyan következtetést fogalmazhat meg tényként, amelyet a rendelkezésére álló forrás nem támaszt alá.
A hallucináció nem azonos minden AI-hibával. Ha például a modell helyes információból hibás számítást végez, félreérti az utasítást vagy egy külső rendszerből rossz adatot kap, az eredmény hibás lehet anélkül, hogy szűk értelemben hallucinációról lenne szó.
Konkrét példa
Egy e-commerce döntéshozó megkérdez egy AI-asszisztenstől egy új Google-funkciót. Az AI részletesen leírja a funkció működését, majd egy állítólagos Google-dokumentációra hivatkozik.
Ha ez a dokumentáció valójában nem létezik, vagy a hivatkozott forrás nem tartalmazza az állítást, az AI hallucinált információt adott.
A válasz ettől még lehet nyelvileg teljesen meggyőző – éppen ezért fontos a forrásellenőrzés.
Miért fontos?
A hallucináció az LLM-alapú rendszerek egyik lényeges megbízhatósági kockázata. Különösen problémás lehet olyan üzleti folyamatokban, ahol az AI által előállított információ alapján pénzügyi, kereskedelmi, jogi vagy más jelentős döntés vagy művelet történik.
A kockázat csökkenthető például megfelelő források és retrieval használatával, az output ellenőrzésével, világos instrukciókkal és szükség esetén emberi felülvizsgálattal. Ezek azonban nem jelentik azt, hogy a hallucináció minden esetben teljesen megszüntethető. Az OpenAI kutatása szerint a jelenlegi nyelvi modellek értékelési és tanítási módszerei bizonyos helyzetekben még ösztönözhetik is a találgatást a bizonytalanság megfelelő jelzésével szemben.
Kapcsolódó fogalmak
Large Language Model (LLM)
Grounding
Retrieval-Augmented Generation (RAG)
Citation
Factual Accuracy