{"id":7523,"date":"2025-01-09T11:47:06","date_gmt":"2025-01-09T17:47:06","guid":{"rendered":"https:\/\/idsinc.com\/?p=7523"},"modified":"2026-03-05T16:41:40","modified_gmt":"2026-03-05T22:41:40","slug":"ki-halluzinationen","status":"publish","type":"post","link":"https:\/\/idsinc.com\/de\/ai-hallucinations\/","title":{"rendered":"K\u00fcnstliche Intelligenz hat mir (nicht) beim Schreiben dieses Gutachtens geholfen"},"content":{"rendered":"\n\n\n
\n

Zusammenfassung<\/strong><\/h3>\n\n\n\n

\u2014<\/strong><\/p>\n\n\n\n

Die Anforderungen an Gutachten richten sich nach der Gerichtsbarkeit und dem Ort des jeweiligen Rechtsstreits. Eine allgemeing\u00fcltige Wahrheit ist jedoch, dass Gutachten auf Fakten und einer soliden Methodik beruhen sollten. K\u00fcnstliche Intelligenz (KI) erm\u00f6glicht es Experten, ihre Arbeit schneller und effizienter zu erledigen, doch diese Geschwindigkeit ist mit Risiken und Kosten verbunden. Bestenfalls kann KI den Zugang zu Informationen effizienter gestalten, doch ohne Erfahrung und Neugier \u2013 Eigenschaften, die Informationen in Wissen und Weisheit verwandeln k\u00f6nnen \u2013 laufen Experten Gefahr, Entscheidungen zu treffen, bei denen tiefere Erkenntnisse \u00fcbersehen werden, oder, schlimmer noch, sich auf \u201efalsche\u201c Informationen zu st\u00fctzen und schlichtweg falsch zu liegen. Wer die Grenzen von KI nicht erkennt und die entsprechenden Peer-Review-Standards nicht anwendet, kann als Experte scheitern, wie es in einem Fall in Minnesota der Fall war.<\/p>\n<\/div>\n\n\n\n

Einf\u00fchrung<\/strong><\/h3>\n\n\n\n

KI-Tools verbessern sich st\u00e4ndig hinsichtlich ihrer Zuverl\u00e4ssigkeit und Effektivit\u00e4t. Tools wie ChatGPT, Microsoft Copilot und verschiedene Open-Source-KI-Modelle werden zunehmend von Anw\u00e4lten und Experten gleicherma\u00dfen eingesetzt. Die Grenzen dieser Tools werden jedoch bei jedem Einsatz durch Experten regelm\u00e4\u00dfig auf die Probe gestellt. Ein aktueller Fall in Minnesota im Zusammenhang mit einem neuen Gesetz zum Verbot von \u201eDeep Fake\u201c-Technologien zur Wahlbeeinflussung bietet wichtige Einblicke in diese Grenzen. Einem Experten, bekannt f\u00fcr seine Forschung und Ausbildung im Bereich der T\u00e4uschungstechnologie, wurde vorgeworfen, in seiner eidesstattlichen Erkl\u00e4rung gef\u00e4lschte wissenschaftliche Arbeiten zitiert zu haben.<\/p>\n\n\n\n

Ziel dieses Whitepapers ist es, das Konzept der KI-Halluzinationen in Expertenberichten zu er\u00f6rtern, die Diskussion voranzutreiben und das Bewusstsein daf\u00fcr zu sch\u00e4rfen, wie man sie erkennt und wie Experten die Falle vermeiden k\u00f6nnen, nicht vorhandene Fakten zu zitieren.<\/p>\n\n\n\n

\n\n\n\n

Die Fallstudie: Kohls und Franson gegen Ellison und den Staat Minnesota (\u201eMinnesota Deep Fake Rechtsstreitigkeiten<\/em>\u201d)<\/strong><\/h2>\n\n\n\n

Hintergrund<\/strong><\/h3>\n\n\n\n

Im Minnesota Deep Fake Rechtsstreitigkeiten<\/em>Minnesotas Generalstaatsanwalt Keith Ellison beauftragte Jeff Hancock, den Gr\u00fcndungsdirektor des Social Media Lab der Stanford University, mit einer Expertenaussage zur Unterst\u00fctzung des neuen Gesetzes des Bundesstaates, das den Einsatz von \u201eDeep Fake\u201c-Technologie zur Wahlbeeinflussung verbietet. Ein k\u00fcrzlich von den Kl\u00e4gern eingereichter Daubert-Antrag behauptet jedoch, dass mehrere von Hancock zur Unterst\u00fctzung seiner Aussage zitierte wissenschaftliche Studien in Wirklichkeit Halluzinationen seien, die von KI-Tools (Large Language Models, \u201eLLM\u201c) erzeugt wurden.<\/p>\n\n\n\n

Wichtige Fakten zum Daubert-Antrag<\/strong><\/h3>\n\n\n\n

Hancock wurde aufgrund der folgenden Faktoren angefochten:<\/p>\n\n\n\n

    \n
  1. KI-Halluzination<\/strong>: Der Antrag von Daubert f\u00fchrt eine mutma\u00dfliche \u201eKI-Halluzination\u201c im Zusammenhang mit einer von Hancock herangezogenen Studie als Grund an, den gesamten Bericht einer Pr\u00fcfung zu unterziehen.<\/li>\n\n\n\n
  2. Ruf in Frage gestellt<\/strong>: Der Antrag von Daubert fordert, dass gegen den Angeklagten und Hancock Sanktionen wegen \u201efalscher Angaben\u201c verh\u00e4ngt werden.<\/li>\n\n\n\n
  3. Fr\u00fchere Arbeiten erschweren den aktuellen Bericht<\/strong>: Zu den meisten Anforderungen an die Berichterstattung von Experten geh\u00f6rt es, ihre Qualifikationen sowie eine Auflistung aller in den letzten f\u00fcnf Jahren verfassten Zeugenaussagen und Ver\u00f6ffentlichungen vorzulegen. Hancocks fr\u00fchere Ver\u00f6ffentlichungen wiesen auf das potenzielle Risiko von \u201eDeep Fakes\u201c hin, doch er unterlag nahezu identischen Fehlern, die er in anderen wissenschaftlichen Arbeiten festgestellt hatte.<\/li>\n<\/ol>\n\n\n\n

    Analyse<\/strong><\/h3>\n\n\n\n

    Der Daubert-Antrag zeigt, dass sich Prozessparteien und ihre Anw\u00e4lte des zunehmenden Einsatzes von KI in juristischen Dokumenten und der damit verbundenen Risiken bewusst werden. Ein wahrscheinlicher Grund daf\u00fcr, dass Sachverst\u00e4ndige Halluzinationen und anderen Fehlern zum Opfer fallen, ist sicherlich Zeitmangel. Ist der Zeitmangel jedoch selbstverschuldet und nicht gerichtlich verordnet, gibt es f\u00fcr seine Fehler kaum eine Entschuldigung.<\/p>\n\n\n\n

    Wie weiter unten erl\u00e4utert, k\u00f6nnen KI-Tools in der Arbeit von Gutachtern durchaus sinnvoll eingesetzt werden. Diese Unterst\u00fctzung durch KI eignet sich jedoch am besten f\u00fcr die Ideenfindung und die ersten Entw\u00fcrfe von Gutachten. Die Nutzung von KI-Tools f\u00fcr wesentliche Teile oder die Erstellung abschlie\u00dfender Gutachten wird von der juristischen Fachwelt nach wie vor als problematisch angesehen und birgt inh\u00e4rente Risiken.<\/p>\n\n\n\n

    \n\n\n\n

    KI-Halluzinationen und ihre Herkunft<\/strong><\/h3>\n\n\n\n

    Der Streit und die letztendliche Gesetzgebung drehten sich um \u201eDeep Fakes\u201c bei Wahlen. \u201eDeep Fakes\u201c entstehen dadurch, dass Menschen KI nutzen, um gef\u00e4lschte und irref\u00fchrende Medien zu erstellen. Ohne den menschlichen Faktor kann KI weder selbst \u201eDeep Fakes\u201c generieren noch verbreiten. Halluzinationen hingegen entstehen durch LLMs, die falsche Informationen als Wahrheit interpretieren und darauf basierend eine Antwort auf eine Anfrage generieren. In einem nahezu selbstversorgenden Teufelskreis gilt: Je mehr irref\u00fchrende \u201eDeep Fakes\u201c existieren, desto mehr k\u00f6nnen in die LLMs eingespeist werden, was wiederum zu weiteren Halluzinationen f\u00fchrt.<\/p>\n\n\n\n

    Wie man Halluzinationen erkennt und hoffentlich verhindert<\/em><\/strong><\/h4>\n\n\n\n