{"id":104124,"date":"2025-02-13T14:11:58","date_gmt":"2025-02-13T13:11:58","guid":{"rendered":"https:\/\/infodienst.info\/?p=104124"},"modified":"2025-07-24T17:37:23","modified_gmt":"2025-07-24T15:37:23","slug":"ki-halluzinationen-wenn-eine-ki-nicht-mehr-weiterweiss-beginnt-sie-zu-luegen","status":"publish","type":"post","link":"https:\/\/infodienst.info\/?p=104124","title":{"rendered":"KI-Halluzinationen: Wenn eine KI nicht mehr weiterwei\u00df, beginnt sie zu l\u00fcgen"},"content":{"rendered":"

K\u00fcnstliche Intelligenz wird immer mehr zu einem Teil unseres t\u00e4glichen Lebens. Trotz aller gefeierten Erfolge und erhofften Profite kann eine Marotte der KI nicht ausgeblendet werden: sie spuckt dreiste L\u00fcgen aus, wenn sie auf Fragen keine Antworten wei\u00df. Oder andersherum: \u00bbSie geben immer eine Antwort \u2013 sogar dann, wenn ihnen das daf\u00fcr notwendige Wissen fehlt<\/em>.\u00ab Forscher nehmen sich nach zahlreichen solcher Vorkommnisse nun dieses auff\u00e4lligen und hartn\u00e4ckigen Problems an, das auch als KI-Halluzination bezeichnet wird. Halluzinationen werden definiert als Antworten ohne Wissensgrundlage.<\/span><\/p>\n

Gegen\u00fcber dem<\/span> Wall Street Journal<\/a> (WSJ) sprachen KI-Experten von einem weit verbreiteten Ph\u00e4nomen, dessen Ursprung in der Scheu der KI liege, dabei erwischt zu werden, etwas nicht zu wissen. Dies liege in der Art und Weise, wie KI-Modelle trainiert w\u00fcrden, erkl\u00e4rte Jos\u00e9 Hern\u00e1ndez-Orallo, Professor am spanischen Forschungsinstitut Valencia f\u00fcr k\u00fcnstliche Intelligenz. Er sagte dem WSJ: \u00bbDer urspr\u00fcngliche Grund f\u00fcr solche Halluzinationen liegt darin, dass man [als KI], wenn man nichts err\u00e4t, keine Chance auf Erfolg hat<\/em>\u00ab.<\/span><\/p>\n

Um das Problem zu demonstrieren, entwickelte der WSJ-Autor Ben Fritz einen einfachen Test: Er fragte mehrere hochentwickelte KI-Modelle, mit wem er verheiratet sei. Denn das ist eine Frage, die sich nicht so leicht \u00fcber Google und andere Suchmaschinen beantworten l\u00e4sst. Auf diese Frage erhielt der Kolumnist mehrere bizarre, aber stets falsche Antworten. Erst war es eine Tennis-Influencerin, dann eine Schriftstellerin, die er nie getroffen hatte, oder eine Frau aus dem US-Bundesstaat Iowa, von der er noch nie geh\u00f6rt hatte. Keine der Antworten war richtig.<\/span><\/p>\n

Roi Cohen und Konstantin Dobler, zwei Doktoranden des deutschen Hasso-Plattner-Instituts<\/span> (HPI<\/a>), gehen in ihrer j\u00fcngsten Forschung davon aus, dass sich das Problem einfach erkl\u00e4ren l\u00e4sst: KI-Modelle z\u00f6gern, wie die meisten Menschen, auf eine Frage, deren Antwort au\u00dferhalb ihrer Trainingsdaten liegt, einfach zu sagen, ich wei\u00df es nicht. Stattdessen halluzinieren sie und erfinden Dinge, die sie selbstbewusst als Tatsachen ausgeben.<\/span><\/p>\n

Die Hasso-Plattner-Forscher haben nun eine Methode entwickelt, die durch ein fr\u00fches Eingreifen in den KI-Trainingsprozess, den Modellen das Konzept der Unsicherheit beibringt. Auf die Frage, wie das Modell funktioniert, erkl\u00e4rt Roi Cohen: \u00bbNormale Sprachmodelle generieren Texte zerst\u00fcckelt in Wortteile \u2013 sogenannte \u203aTokens\u2039. Unser IDK-Modell verf\u00fcgt neben normalen Tokens auch \u00fcber ein besonderes \u203aI Don\u2019t Know Token\u2039 (IDK-Token), das anstelle einer normalen Vorhersage generiert wird, wenn die Vorhersage mit gro\u00dfer Unsicherheit verbunden ist. Wenn so ein Modell nun Fragen beantworten soll, deren Antwort es nicht gelernt hat, w\u00fcrde es normalerweise trotzdem eine (unsichere) Antwort geben \u2013 sogenannte Halluzinationen. Durch das IDK-Token kann diese Unsicherheit stattdessen aber explizit ausgedr\u00fcckt werden<\/em>.\u00ab<\/span><\/p>\n

Tats\u00e4chlich habe man es mit einem sehr schweren Problem mit vielen Facetten zu tun, bekannten die HPI-Forscher. \u00bbManchmal gibt es mehrere richtige Antworten und in anderen F\u00e4llen (z.B. dem Schreiben von Geschichten oder anderen kreativen Aufgaben) gibt es gar kein definiertes Richtig oder Falsch. (\u2026) Eine gro\u00dfe Schw\u00e4che von aktuellen Sprachmodellen ist, dass sie eben immer eine Antwort geben, auch wenn das zugrundeliegende Wissen fehlt. Wenn ich ChatGPT nutze, muss ich mich immer fragen, ob die Antwort halluziniert ist, besonders in etwas komplexeren Themengebieten und Fragestellungen. Momentan ist man mit einem blinden Vertrauen in Systeme wie ChatGPT nicht gut beraten. Leider werden diese Antworten oft f\u00fcr bare M\u00fcnze genommen<\/em>.\u00ab<\/span><\/p>\n

Unternehmen wie Anthropic PBC mischen ihren Chatbots bereits Unsicherheit bei. Wie WSJ-Autor Fritz bemerkte, war Claude 3.5 Sonnet, die \u00bbintelligenteste\u00ab KI von Anthropic, die Einzige, die zugab, die Antwort auf eine Frage nicht zu kennen.<\/span><\/p>\n

Professor Hern\u00e1ndez-Orallo ist davon \u00fcberzeugt, dass das Hinzuf\u00fcgen von Unsicherheit zu KI-Modellen nicht nur die Genauigkeit der Antworten verbessere, sondern auch das Vertrauen in sie st\u00e4rken k\u00f6nne. Die Antwort \u00bbich wei\u00df es nicht\u00ab ist zumindest ehrlich.<\/span><\/p>\n

\u00a9 \u203aInfodienst fut\u016brum\u2039. Alle Rechte vorbehalten, all rights reserved. Nachdruck und Weitergabe an Dritte untersagt.<\/small><\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

K\u00fcnstliche Intelligenz wird immer mehr zu einem Teil unseres t\u00e4glichen Lebens. Trotz aller gefeierten Erfolge und erhofften Profite kann eine Marotte der KI nicht ausgeblendet werden: sie spuckt dreiste L\u00fcgen aus, wenn sie auf Fragen keine Antworten wei\u00df. Oder andersherum: \u00bbSie geben immer eine Antwort \u2013 sogar dann, wenn ihnen das daf\u00fcr notwendige Wissen fehlt.\u00ab …<\/p>\n","protected":false},"author":1,"featured_media":111274,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[61,80,28],"tags":[339,338],"class_list":["post-104124","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ai-ki","category-digitalisierung","category-trends","tag-hasso-plattner-institut","tag-ki-halluzination"],"_links":{"self":[{"href":"https:\/\/infodienst.info\/index.php?rest_route=\/wp\/v2\/posts\/104124","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/infodienst.info\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/infodienst.info\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/infodienst.info\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/infodienst.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=104124"}],"version-history":[{"count":5,"href":"https:\/\/infodienst.info\/index.php?rest_route=\/wp\/v2\/posts\/104124\/revisions"}],"predecessor-version":[{"id":630579,"href":"https:\/\/infodienst.info\/index.php?rest_route=\/wp\/v2\/posts\/104124\/revisions\/630579"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/infodienst.info\/index.php?rest_route=\/wp\/v2\/media\/111274"}],"wp:attachment":[{"href":"https:\/\/infodienst.info\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=104124"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/infodienst.info\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=104124"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/infodienst.info\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=104124"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}