Überraschende KI-Fehlgriffe – Ein spontaner Chat wurde mit dem Screen-Recorder festgehalten.
Während meiner Recherche mit Microsoft Copilot stieß ich auf einen kuriosen Fehler, der mich veranlasste, den Screen-Recorder zur Dokumentation einzuschalten.Das Resultat: eine unerwartete und spannende Reise von der klassischen Zeitungsente hin zur modernen KI-Halluzination. Seht selbst im Video oben.
Der Auslöser:
Vor einigen Wochen berichtete die Waldecksche Landeszeitung (WLZ) über die Neubesetzung der drei Bad Arolser Pfarrstellen, darunter auch mein Sohn. Trotz der Entfernung zum Kreis Waldeck erinnerte ich mich an meine Kindheit, als mein Opa mit Hingabe die WLZ las. Neugierig auf die heutige Entwicklung dieser Lokal-Zeitung, gab ich in den Copiloten den Satz ein: „Wie sind die Besitzverhältnisse und die redaktionellen Richtlinien der Waldeckschen Landeszeitung einzuordnen?“
Die Antwort des Copiloten war verblüffend: Er nannte die Firma B. Braun Melsungen als Verlagsgruppe mit der WLZ im Portfolio – eine offensichtliche Fehlleistung, denn richtig ist die Ippen-Verlagsgruppe. Mein Hinterfragen führte zu noch kurioseren Antworten, was mich dazu brachte, eine Beweissicherung durchzuführen und das Ganze von ChatGPT analysieren zu lassen, weil der Copilot von Microsoft versagte.
Die Analyse:
Die Fehlleistung des Copiloten lässt sich auf mehrere Faktoren zurückführen:
- Fehlinterpretation durch maschinelle Verarbeitung: KIs können kontextbezogene Informationen falsch verknüpfen.
- Verfügbarkeit und Qualität der Datenquellen: Veraltete oder fehlerhafte Datenquellen können zu falschen Antworten führen.
- Namenähnlichkeit und Kontext: Regionale Bezüge und Namen können KIs irreführen.
- Menschliche Fehlannahme: Fehlerhafte Algorithmen oder falsche Dateneingaben können solche Verwechslungen begünstigen.
Meine persönliche Vermutung:
Ich war 24 Jahre lang externer IT-Trainer bei B. Braun, was in meinem Internet-Profil vermerkt ist und dem Copiloten sicher nicht verborgen bleibt. Möglicherweise hat die KI dieses Profil analysiert und einen Zusammenhang hergestellt, obwohl B. Braun nicht im Einzugsbereich der WLZ tätig ist.
Von der Zeitungsente zur KI-Halluzination:
Früher dauerte es Monate, um eine Zeitungsente wie die gefälschten Hitler-Tagebücher zu produzieren. Heute könnte das mit KI-Halluzinationen innerhalb von Sekunden geschaffen werden und es würde oberflächlich betrachtet plausibel erscheinen. Es ist entscheidend, als aufmerksamer Nutzer die gelieferten Informationen kritisch zu hinterfragen.
Fazit und Ausblick:
Trotz gelegentlicher Fehlschläge bietet der Einsatz von KI beeindruckende Möglichkeiten für kreative und journalistische Tätigkeiten. Ich werde die Entwicklungen weiter beobachten und plane, nach den Sommerferien Kurse zu Medienkompetenz und KI-gestützter Kreativität anzubieten.
Interessierte können sich schon jetzt bei mir melden. Weitere Informationen gibt es dann hier auf meiner Website. Bleibt neugierig und kritisch – die moderne Technik bleibt faszinierend und stellt für unreflektierte Menschen eine reale Gefahr dar, in die Irre geführt zu werden.