Dieses Thema fasziniert mich – wenig überraschend. Ich habe meinen Beruf und meine Jugend damit verbracht, Computer und Daten zu analysieren, um zu verstehen, wer was wann getan hat und wie das alles funktioniert. Meine heutige Frage lautet: Können Daten wirklich lügen? Gehen wir dem einmal genauer nach.
Gefälschte Beweismittel im Anwendungsbereich
Dies ist kein Einzelfall mehr, sondern ein regelrechter Trend. Unsere Teams stoßen in Verfahren aller Art auf vier Kontinenten in verschiedenen Rechtsordnungen auf mutmaßlich gefälschte Beweismittel (hauptsächlich Dokumente). Diese werden typischerweise einfach vorgelegt, anstatt forensisch gesammelt oder beschafft zu werden. Es hat also keine forensische Beweissicherung und -verarbeitung stattgefunden; stattdessen hat jemand gesagt: “Hier sind einige wichtige Dokumente.” In solchen Fällen sind die Umstände oft entscheidend. Unsere Lieblings-Punkteliste im Team:
- Komplizierte Vorgeschichte
- Eine einzige Quelle hochrelevanter Beweise
- Kein Original
Arten gefälschter Beweismittel
Ich wiederhole es oft, aber es lohnt sich, zu betonen, dass es einige Kategorien gefälschter Beweise zu berücksichtigen gilt:
- Veränderte Originale: Irgendwie existierte das Dokument zu einem bestimmten Zeitpunkt, wurde aber in irgendeiner Weise manipuliert. in situ oder mithilfe externer Tools.
- Komplett von Hand gefälscht: Ein Beispiel wäre der Screenshot einer WhatsApp-Konversation, der nicht authentisch ist und mithilfe von Software ästhetisch gestaltet wurde.
- KI-generierte Inhalte: Obwohl sie noch in den Kinderschuhen stecken, bedeutet die gesunkene Zugangshürde, dass diese Art von Inhalten (einschließlich ‘Müll’) bald allgegenwärtig sein wird.
Bei den ersten beiden handelt es sich um Kategorien, denen wir als Experten regelmäßig (und immer häufiger) begegnen, bei denen KI-generierte Inhalte aber bisher noch nicht in nennenswerter Weise in Streitigkeiten Einzug gehalten haben (was nicht heißt, dass es nicht geschieht).
Grund zur Besorgnis
Ich bin nach wie vor sehr besorgt über diese dritte Kategorie, nicht nur wegen möglicher Rechtsstreitigkeiten, sondern auch aus geopolitischen Gründen. Ein beeindruckendes Video, in dem ein Staatsoberhaupt etwas sagt oder tut, könnte leicht als glaubwürdig angesehen werden – idealerweise jedoch nach genauerer Prüfung. Die reflexartige Bereitschaft, dem Gesehenen blind zu vertrauen, gepaart mit den Mechanismen der sozialen Medien, die solche Inhalte verbreiten, kann die Kontrolle erschweren. Solche Szenarien sind bereits, zumindest in geringem Maße, allgegenwärtig. Die öffentliche Meinung unterscheidet sich grundlegend von den Gerichten, in denen wir unsere Rechtsstreitigkeiten austragen. Große Teile der Gesellschaft haben sich bereits aufgrund eines kurzen Clips oder eines kurzen Zitats eine feste Meinung gebildet.
Die echten Gerichte
Betrachten wir einmal, wie dies vor dem Obersten Gerichtshof oder beispielsweise in einem Schiedsverfahren gehandhabt werden könnte. Anders als die öffentliche Meinung unterliegen diese Verfahren Normen und Regeln bezüglich der Beweisführung: der Art und Weise der Vorlage, der Bestätigung der Unversehrtheit und der ordnungsgemäßen Aufbewahrung usw. (Für weitere Details konsultieren Sie bitte ein weniger interessantes Thema). Das Beispiel eines Staatsoberhaupts, das in einem Video etwas sagt oder tut, ist hierfür hervorragend geeignet, daher bleiben wir dabei. Aus beweisrechtlicher Sicht würde ich unter anderem folgende Fragen stellen, um dies zu hinterfragen oder besser zu verstehen:
- Wo befindet sich das Gerät, das das Video aufgenommen hat?
- Gibt es weitere Kopien des Videos?
- Welches Datum und welche Uhrzeit soll das aufgezeichnete Ereignis gewesen sein?
- Gibt es weitere Videos, die in der Gegend mit dem gleichen Datum und der gleichen Uhrzeit aufgenommen wurden und die Aussage bestätigen können?
- Was verraten uns die Metadaten über die Entstehung des Videos, die bei seiner Verarbeitung, Bearbeitung und Produktion verwendete Software?
- Die Partei, die dieses Video bereitgestellt oder produziert hat: Wurden ihre Computer sichergestellt und untersucht? Wie sieht es mit ihren Mobiltelefonen aus?
- Lässt sich anhand ihrer Geräte feststellen, ob vor der Erstellung dieses Inhalts oder ähnlicher Materialien auf LLM-Plattformen zugegriffen oder diese zur Erstellung aufgefordert wurden?
- Videoforensiker: Gibt es im Video etwas Unnatürliches in Bezug auf Farben, Pixel und Einzelbilder?
Die Liste ließe sich fortsetzen. Tatsächlich ist diese Liste bei Weitem nicht vollständig, aber sie sollte einen ersten Eindruck davon vermitteln, wie diese Untersuchungen ablaufen könnten.
Das entwickelt sich ständig weiter, aber mir fallen ein paar Dinge ein:
- Metadatenvalidierung (wie bereits besprochen)
- Modell-Fingerprinting: Diese existieren bereits und basieren darauf, dass die Plattformbetreiber zum Zeitpunkt der Erstellung eine Signatur vergeben. “Ist das ein SORA-Video, weil…“ x?”
- Ein unabhängiger Unterzeichner, der bei der Bestätigung von Inhalten helfen kann, wie beispielsweise die Coalition for Content Provenance and Authenticity (C2PA) Rahmenwerk. Das ist kein Scherz, aber vier von fünf großen Akteuren im Bereich KI sitzen im Lenkungsausschuss für C2PA.
Die Wirksamkeit eines Experten
Ein Sachverständiger kann Fakten bewerten und sich aufgrund seiner Erfahrung eine Meinung bilden. Dies ist stets von Bedeutung, wenn die Echtheit von Daten und Dokumenten in Frage gestellt wird. Ein Sachverständiger sollte einige der oben genannten Fragen entweder im Rahmen seiner Beratung oder bei der Beantwortung formeller Anweisungen stellen. Während die Beweislast, zumindest in Strafverfahren, beim Staat liegt, kann man sich in Zivilprozessen oft im Nachteil fühlen, da man beweisen muss, dass etwas nicht geschehen ist.
Daten lügen nicht (es sei denn, sie waren von Anfang an nicht real).
Es gelten dieselben datenforensischen Prinzipien: Datensicherung, bestätigende Daten, Umstände und menschliche Expertise. Inhalte generativer KI können aus den oben genannten Gründen besorgniserregend sein, doch meiner Ansicht nach (zumindest im Jahr 2025) bleibt der Untersuchungsansatz sinnvoll. Überzeugende Inhalte, die als Fakten getarnt sind, können für Aufsehen sorgen, aber mit erhöhter Sorgfalt werden wir uns sicherlich anpassen.
iDS bietet beratende Datenlösungen für Unternehmen und Anwaltskanzleien auf der ganzen Welt und verschafft ihnen damit einen entscheidenden Vorteil – sowohl vor Gericht als auch außerhalb. Die Fachexperten und Datenstrategen von iDS sind darauf spezialisiert, Lösungen für komplexe Datenprobleme zu finden und sicherzustellen, dass Daten als Vermögenswert und nicht als Belastung genutzt werden können. Weitere Informationen finden Sie unter idsinc.com.