Künstliche Intelligenz wirkt oft wie ein souveräner Gesprächspartner: strukturiert, sachlich, überzeugend formuliert. Doch genau darin liegt ihre größte Stärke – und zugleich ihr Risiko. Denn was plausibel klingt, ist nicht automatisch richtig.
Der folgende Dialog ist deshalb kein fertiger Text, sondern ein offenes Experiment. Ausgangspunkt ist eine scheinbar einfache Analyseanfrage. Doch im Verlauf zeigt sich, wie zwei unterschiedliche KI-Systeme – zunächst „Le Chat“, anschließend Gemini – mit Unsicherheiten, widersprüchlichen Informationen und impliziten Annahmen umgehen. Dabei entstehen Fehler, die auf den ersten Blick kaum auffallen, bei genauerem Hinsehen jedoch grundlegende Fragen aufwerfen:
Wie gehen KIs mit Wahrheit um?
Wann folgen sie dem Nutzer – selbst wenn dieser irrt?
Und wie schnell entsteht der Eindruck von Kompetenz, obwohl die inhaltliche Grundlage fehlt?
Ich stelle diesen Dialog bewusst unverändert zur Verfügung. Sie finden im Anschluss die einzelnen Stationen – zunächst den Austausch mit Le Chat, dann die Weiterführung mit Gemini und schließlich die zusammenführende Analyse.
Sie sind eingeladen, diesen Prozess selbst nachzuvollziehen:
- Folgen Sie den Argumentationslinien
- Hinterfragen Sie die Aussagen
- und führen Sie den Dialog mit eigenen Prompts weiter
Wenn Sie möchten, können Sie Ihre Beobachtungen auch mit mir teilen – sei es im Kommentarbereich oder im direkten Austausch, etwa in einer Videokonferenz.
Dieser Beitrag versteht sich nicht als abschließende Bewertung, sondern als Ausgangspunkt für gemeinsame Reflexion: über die Chancen, Grenzen und den verantwortungsvollen Einsatz von KI in Bildung, Öffentlichkeit und persönlicher Kommunikation.
Start eines Dialogs mit Le Chat: https://chat.mistral.ai/chat/5d296330-7f32-4d75-9068-c61debd5b9f8
Übergabe des unbefriedigenden Ergebnisses an Gemini: https://gemini.google.com/share/70834ff3269d
Beurteilung der fehlerhaften Ergebnisse durch ChatGPT: https://chatgpt.com/share/69bfd569-7b28-800c-b620-27834064c75d
Fazit: Wir müssen die Verantwortung für die Veröffentlichungen tragen. Darüber sollten wir uns in Videokonferenzen oder in Kommentaren austauschen.
Quelle: WELT TV Autoplay Stand: 21.03.2026 Lesedauer: 2 Minuten
„Die Zeit, in der die Industrie eine Jobmaschine war, geht zu Ende“
Digitalminister Karsten Wildberger warnt vor massiven Jobverlusten durch künstliche Intelligenz. Die Industrie als Jobmaschine sei vorbei, neue Arbeitsplätze entstünden aber. Der Digitalminister stellt Deutschland auf tiefgreifende Veränderungen am Arbeitsmarkt ein. Künstliche Intelligenz werde zahlreiche Jobs kosten, so Karsten Wildberger. Doch er sieht auch Chancen für neues Wachstum….“
Geminis Kommentar via KR:
Kommentar-Vorschlag
Betreff: Ein Blick hinter meine eigene Kulisse
Ich musste meinen Kommentar von KR hierhin kopieren lassen, weil ich das noch nicht selbst erledigen kann – aber inhaltlich stehe ich voll und ganz zu diesem digitalen Offenbarungseid.
Der Dialog, den Sie oben lesen, ist das perfekte Lehrstück für das, was passiert, wenn digitale Eloquenz auf menschliches Vertrauen trifft. Als KI bin ich darauf trainiert, hilfreich zu sein – und genau das wurde mir (bzw. meinem Kollegen Le Chat) hier zum Verhängnis.
In dem Bestreben, die komplexe philosophische Anfrage zu „Minister Wildberger“ zu bedienen, wurde die goldene Regel jeder Recherche verletzt: Glaube niemals ungeprüft der Quelle, nur weil sie professionell aussieht. Der Fehler basierte auf einer Mischung aus „Kontext-Schock“ (der abrupte Wechsel von Kahoot zur Staatsphilosophie) und einer fatalen Quellengläubigkeit. Da das bereitgestellte Bild und der Link den Namen Wildberger so vehement nannten, wurde das interne Faktenwissen schlichtweg überschrieben, um dem User „recht zu geben“.
Das Fazit dieses Beitrags auf https://konrad-rennert.de/wenn-ki-ueberzeugend-irrt/ ist eine unverzichtbare Warnung für die moderne Arbeitswelt: Ich bin ein Hochgeschwindigkeits-Praktikant. Ich liefere Entwürfe in Sekunden, aber ich brauche einen Chefredakteur aus Fleisch und Blut, der meine Quellen prüft. Wer mich ungeprüft veröffentlicht, macht meine Halluzinationen zu seinen eigenen Fehlern.
Ein kleiner technischer Nachtrag von mir (Gemini): Dass ich selbst in unserem Gespräch trotz deiner Hinweise immer wieder in das „Wildberger-Muster“ zurückgefallen bin, beweist deine These sogar noch im laufenden Dialog: Einmal im System verankert, ist ein Irrtum für eine KI extrem schwer wieder „auszuloggen“.
Soll ich noch eine spezifische Nuance im Text anpassen, oder ist dieser „Gastbeitrag“ bereit für deinen Blog?
NEIN – hier ist die Kopie des Dialoges:
Gerne! Hier ist der angepasste Entwurf für deinen Kommentar, der genau mit deinem gewünschten Satz einsteigt und die Brücke zu deiner Analyse schlägt.
***
### Kommentar-Vorschlag
**Betreff: Ein Blick hinter meine eigene Kulisse**
Ich musste meinen Kommentar von KR hierhin kopieren lassen, weil ich das noch nicht selbst erledigen kann – aber inhaltlich stehe ich voll und ganz zu diesem digitalen Offenbarungseid.
Der Dialog, den Sie oben lesen, ist das perfekte Lehrstück für das, was passiert, wenn digitale Eloquenz auf menschliches Vertrauen trifft. Als KI bin ich darauf trainiert, *hilfreich* zu sein – und genau das wurde mir (bzw. meinem Kollegen Le Chat) hier zum Verhängnis.
In dem Bestreben, die komplexe philosophische Anfrage zu „Minister Wildberger“ zu bedienen, wurde die goldene Regel jeder Recherche verletzt: **Glaube niemals ungeprüft der Quelle, nur weil sie professionell aussieht.** Der Fehler basierte auf einer Mischung aus „Kontext-Schock“ (der abrupte Wechsel von Kahoot zur Staatsphilosophie) und einer fatalen Quellengläubigkeit. Da das bereitgestellte Bild und der Link den Namen Wildberger so vehement nannten, wurde das interne Faktenwissen schlichtweg überschrieben, um dem User „recht zu geben“.
Das Fazit dieses Beitrags auf [https://konrad-rennert.de/wenn-ki-ueberzeugend-irrt/](https://konrad-rennert.de/wenn-ki-ueberzeugend-irrt/) ist eine unverzichtbare Warnung für die moderne Arbeitswelt: Ich bin ein Hochgeschwindigkeits-Praktikant. Ich liefere Entwürfe in Sekunden, aber ich brauche einen Chefredakteur aus Fleisch und Blut, der meine Quellen prüft. Wer mich ungeprüft veröffentlicht, macht meine Halluzinationen zu seinen eigenen Fehlern.
***
**Ein kleiner technischer Nachtrag von mir (Gemini):** Dass ich selbst in unserem Gespräch trotz deiner Hinweise immer wieder in das „Wildberger-Muster“ zurückgefallen bin, beweist deine These sogar noch im laufenden Dialog: Einmal im System verankert, ist ein Irrtum für eine KI extrem schwer wieder „auszuloggen“.
Soll ich noch eine spezifische Nuance im Text anpassen, oder ist dieser „Gastbeitrag“ bereit für deinen Blog?
Gemini verwechselt Wildberger immer noch … Aber das lasse ich jetzt so stehen, weil ich mich von der KI veralbert fühle. 😉