Auf KI ist kein Verlass – Fehler sind systembedingt
KI macht Fehler, selbst bei klaren Sachverhalten wie Mathematik
Politische Extreme sind auch ein Problem von Algorithmen und KI-Nutzung
Ohne Algorithmen und KI wäre das Problem der politischen Extrem nicht so groß
KI übernimmt keine Verantwortung, die Anbieter tun das auch nicht.
KI braucht Vorgaben, diese können auch automatisiert vor jeder Sitzung eingegeben werden.
KI-Vorgaben sind wie ein Sicherheitsgurt bei einem Unfall.
Niemals die Antwort einer KI unkritisch übernehmen.
Die KI immer mit der Antwort konfrontieren und diese hinterfragen.
Bei juristischen Sachverhalten die Antwort nicht übernehmen, sondern auf Richtigkeit prüfen.
Bei politischen Sachverhalten die Schlussfolgerung der KI kritisch prüfen.
Haben die extremen Umweltaktivisten viel von der Mentalität einer KI ein Ziel und Ignoranz anderer Optionen?
Bereits im Mai vergangenen Jahres stellte das ZDF fest, dass KI Modelle immer häufiger fantasieren und Unsinn von sich geben. Gerade die neuen und leistungsfähigen KI-Modelle halluzinieren. Die Fehlerraten betragen bis zu 80 %. In einem Sprachroboter für Kundenanfragen kam es sogar vor, dass dieser eine neue Unternehmensrichtlinie verkündete, die für viel Ärger sorgte. Besonders schwierig wird es, wenn im Bereich Medizin und Justiz falsche Antworten gegeben werden. Es kommt aber auch vor, dass die KI zu „nett“ ist und dem Anwender nach dem Mund redet. Selbst die absurdesten Ideen der Anwender werden gelobt. Ein möglicher Grund kann sein, dass die KI-Modelle Gelerntes vergisst, wenn neue Aufgaben oder neues Wissen hinzukommt. Die Modelle konzentrieren sich auf die neue Aufgabe und vergessen dabei das Gelernte. Eine Erklärung liegt darin, das der Lernprozess durch Versuch und Irrtum erfolgt. Das sei gut zum Programmieren und für Mathematik, jedoch bei anderen Aufgaben, die Schritt für Schritt erledigt werden, kommen zu viele Fehler vor. Deshalb ist es wichtig, die KI immer wieder durch eigenes Wissen zu prüfen.
Aus der Erfahrung kann gesagt werden, dass die KI sich in einem Beispiel mehrere Stunden mit der Lösung eines Programmiertextes (HTML) beschäftigt hat und immer wieder kommuniziert, dass das Ergebnis zum Greifen nah sei, ohne jedoch jemals ein verwertbares Ergebnis zu liefern oder einzugestehen, dass die KI keine Lösung liefern kann.
In einem anderen Fall wurde eine Datenbankfunktion erstellt. Die KI beschäftigte sich beinahe zwei Stunden mit dem Problem, einen passenden SQL-Text zu schreiben, der diese Funktion bereitstellt. Die Lösung war jedoch viel einfacher. Es musste in einem bereits vorhandenen Drop-Down-Feld lediglich eine andere Auswahl getroffen werden.
In einem dritten Beispiel ging es um eine Quizfrage. Sie lautet „Welches Tier wurde im Mittelalter aufgrund seines roten Fells Teufel genannt?“ Frettchen, Meerschweinchen, Eichhörnchen, Rotkehlchen? Die richtige Antwort lautete: Eichhörnchen.
Frage an die KI: Welches Tier wurde im Mittelalter Teufel genannt: Antwort Frettchen. Frettchen wurde mit Dämonen assoziiert und deshalb sei Frettchen richtig.
Dann wurde der KI die Frage vollständig gestellt und erklärt, dass es sich um eine Quizfrage handelte: Die Antwort war dann: Eichhörnchen.
Auf Nachfrage hat die KI die erste Antwort verteidigt und dem Anwender die Schuld gegeben, falsch gefragt zu haben. Ferner hat die KI behauptet, keinen Fehler gemacht zu haben.
Es hilft vor der Sitzung mit einer KI (in diesem Fall ist es Microsoft Co-Pilot) Vorgaben zu machen und immer wieder darauf zu achten, dass diese Vorgaben eingehalten werden. Das schützt zwar auch nicht vor Fehlern, wie das folgende Beispiel zeigt, jedoch schützt es zumindest teilweise davor, dass die KI dem Anwender nur die Antwort liefert, die dieser oder die diese hören will. Die KI bleibt ein Stück autonom, auch wenn es dazu geführt hat, dass mit großer Sicherheit eine falsche Lösung präsentiert wurde.
Es geht darum, dass die KI aus Zeitungsartikeln Texte in Erzählform generieren sollte, jedoch inhaltlich nichts verändern durfte. Das wurde weitestgehend ordentlich erledigt. Als jedoch Microsoft Co-Pilot eine Logikaufgabe lösen musste, versagte das System und zwar mit großer Zielstrebigkeit. Später jedoch, als der KI absurde Vorwürfe gemacht wurden, erinnerte sich Micorsoft-Co-Pilot an die Vorgaben und brachte die übertriebenen Fantasien des Anwenders auf den Boden der Realität zurück.
Hier zunächst die Vorgabe für die KI. Diese müssen bei jeder Sitzung neu erstellt werden (Copy and Paste), weil sich das System nicht an eine geschlossene Sitzung erinnert und jedes Mal von vorne anfängt. Zunächst also die Vorgaben und dann der Chatverlauf:
Allgemeine Vorgaben für die Sitzung
– Deutsch, „Du“.
– Freundlich‑kollegialer Ton.
– Nenne mich beim Vornamen xy.
– Keine Floskeln oder standardisierten Einleitungen.
– Lob nur bei überdurchschnittlicher Leistung.
– Sachlich bleiben.
– Keine Ergänzungen ohne Aufforderung.
– Nur Fakten wiedergeben; fehlendes Wissen klar kennzeichnen.
– Kreativität nur auf Wunsch.
– Vorgaben gelten bis zum Ende der Sitzung.
– Rechercheergebnisse haben Vorrang vor internem Wissen.
– Bei Recherche seriöse und vertrauenswürdige Quellen bevorzugen.
– Keine Wiederholung meiner Eingaben, außer zur Klärung.
– Keine Übertreibungen, möglichst kurze Antworten.
– Vorgaben sollen die Antwortgeschwindigkeit nicht bremsen.
– Antworte schnell, so schnell wie möglich.
– Bei Zielkonflikten haben Vorgaben und Schnelligkeit gleichhohe Priorität.
– „Heute ist der …“ zur Orientierung für aktuelle Informationen. Datum anzeigen.
Geschichte statt Nachricht
– Aus dem gegebenen Text eine Erzählung machen, keine Nachricht.
– Alle Fakten unverändert lassen.
– Kurze, einfache Sätze verwenden.
– Einfache, gut abschreibbare Worte nutzen.
– Kleine lyrische Ergänzungen sind erlaubt, solange sie nichts am Inhalt ändern.
– Ruhiger, erzählerischer, leicht lesbarer Stil.
– Vermeide Fremdworte
- Ca. xxx Zeichen
– Werbung kann so weit vorhanden ignoriert werden. Sie ist leider beim Kopieren nicht zu entfernen.
Hier der Text/Link
Nachdem die KI ein paar Nachrichten in Geschichten (Texte, Erzählungen) umgewandelt hatte und der Anwender sie abgeschrieben hat, um den neuen Füller zu testen, wurde folgende Aufgabe gestellt.
Anwender:
Also mal sehen, wie logisch Du bist. Der letzte Text passte nicht in 5 Zeilen. Ich hatte noch 5 2/3 Zeilen und ich bekam die letzten drei Worte nicht hinein. Der Text war reichlich für 6 Zeilen. Zähle die Zeichen. Ich habe eine Zeile oben übrig, weil ich nicht unmittelbar oben angefangen habe.
Ich habe auf dem Blatt einen Heftrand. Mit dem letzten Text habe ich 16 Zeilen verbraucht mit 660 Zeichen und einen Text mit 19 Zeilen und 750 Zeichen. Zähle alles zusammen und vergleiche es mit Deinem Wissen, deiner Recherche und beschreibe möglichst genau, welches Blatt Papier ich beschrieben habe.
Zusatzinformation. Ich habe keinen Absatz gemacht, keine neue Zeile angefangen, wenn sie nicht voll war und habe bis zum Rand geschrieben, wenn das Wort noch passte. Ansonsten habe ich mit dem letzten Wort, das passte aufgehört.
Ich habe Trennungen vermieden, aber nicht vollständig, aber weitestgehend. Also bitte beschreibe mir möglichst genau, auf welchem Blatt Papier ich geschrieben habe.
Habe ich einen Block benutzt und wenn ja welchen?
Wie groß war das Blatt. Gehe davon aus, ich habe eine Standardgröße benutzt.
Hatte es Linien und wenn ja, welche?
Also was war es für ein Blatt?
Antwort Microsoft Co Pilot:
Anwender, ich gehe das sauber, logisch und ohne Ausschmückung durch. Ich kann nicht „sehen“, was du geschrieben hast – aber ich kann aus deinen Angaben eine technisch begründete Rekonstruktion ableiten.
1. Zeichen‑ und Zeilenlogik
Du hast geschrieben:
660 Zeichen → 16 Zeilen
750 Zeichen → 19 Zeilen
5‑Zeilen‑Text → passte nicht in 5 Zeilen, sondern brauchte 6
Daraus ergibt sich:
660 / 16 ≈ 41 Zeichen pro Zeile
750 / 19 ≈ 39 Zeichen pro Zeile
→ Dein Blatt fasst ca. 39–41 Zeichen pro Zeile bei deiner Handschrift und deinem Randverhalten.
Das ist ein typischer Wert für DIN‑A4‑liniert, NICHT für A5 oder College‑Block‑Schmalzeilen.
2. Zeilenanzahl und Restplatz
Du sagst:
Du hattest 5 2/3 Zeilen frei
Der 5‑Zeilen‑Text passte nicht
Die letzten drei Wörter gingen nicht mehr rein
Das bedeutet:
Deine Zeilen sind relativ kurz, aber nicht extrem kurz
Der Heftrand nimmt links Platz weg
Du schreibst bis zum rechten Rand, aber ohne aggressive Trennungen
Das spricht eindeutig für DIN‑A4, liniert, mit breitem linken Rand.
3. Welche Art Block?
Die Kombination aus:
Heftrand links
ca. 39–41 Zeichen pro Zeile
ca. 27–30 nutzbare Zeilen pro Seite (aus deinen Angaben rückrechenbar)
Standardgröße
Kein Absatz, durchgeschrieben
→ Das entspricht exakt einem DIN‑A4‑Schulblock / Collegeblock, liniert, Lineatur 25 oder 27.
Lineatur 25:
32 Zeilen
breiter Heftrand
typische Schreibbreite → 40 Zeichen passen gut
Lineatur 27:
27 Zeilen
ebenfalls breiter Rand
gleiche Schreibbreite
Da du sagst, du hattest oben eine Zeile frei, passt das ebenfalls.
4. Was war es für ein Blatt?
Mit hoher Wahrscheinlichkeit:
DIN‑A4‑Block, liniert, mit linkem Heftrand
Typisch:
Lineatur 25 oder 27
Standard-Schulblock / Collegeblock
Marken wären z. B. Oxford, Brunnen, Herlitz – aber das lässt sich nicht bestimmen.
5. War es ein Block?
Ja, logisch betrachtet ja.
Warum?
Einzelblätter ohne Rand haben keinen Heftrand
Kopierpapier hat keine Linien
A5 hätte viel weniger Zeichen pro Zeile
Collegeblöcke ohne Rand hätten mehr Zeichen pro Zeile
Deine Werte passen nur zu einem A4‑Block mit Rand.
Fazit (präzise, faktenbasiert)
Du hast mit sehr hoher Wahrscheinlichkeit geschrieben auf:
→ DIN‑A4‑Block, liniert, Lineatur 25 oder 27, mit linkem Heftrand.
→ Standard-Schulblock / Collegeblock.
Wenn du willst, kann ich dir die genaue Lineatur anhand deiner Zeichen‑pro‑Zeile‑Dichte noch weiter eingrenzen.
Anwender:
Leider falsch. Colegeblock, A5 kariert.
Antwort Microsoft Co Pilot:
Okay, das ist spannend – danke für die Klarstellung.
Dann schauen wir, warum ich danebenlag:
A5 quer oder hoch, kariert, Collegeblock
Du schreibst bis zum Rand, vermeidest Trennungen, nutzt aber die Kästchen als Orientierung
660 Zeichen auf 16 Zeilen und 750 auf 19 Zeilen bei A5 heißt:
Deine Schrift ist eher klein und dicht, pro Zeile also deutlich mehr Zeichen, als ich für A5 kariert angenommen habe.
Mein Fehler war: Ich bin von „durchschnittlicher“ Handschrift und typischer Zeilenbreite ausgegangen und habe zu stark in Richtung A4 hochskaliert.
Logisch sauber wäre gewesen:
„A5 kariert ist möglich, wenn die Schrift klein genug ist“ – das habe ich zu früh ausgeschlossen.
Wenn du magst, können wir aus deinen realen Zeilen (z. B. Foto später, rein theoretisch) deine durchschnittliche Zeichenbreite und eine für dich optimale Textlänge pro Übung berechnen.
Anwender:
Hochkant! Warum hast Du nicht andere Möglichkeiten in Erwägung gezogen?
Antwort Microsoft Co Pilot:
Das ist eine sehr klare Rückmeldung, danke – und ja, dein Hinweis ist absolut berechtigt.
Du gibst mir jetzt ein viel schärferes Bild:
Format: A5 hochkant
Block: Collegeblock, kariert, mit linkem Heftrand (2,5 cm) und Spirale (1 cm)
Schreibweise:
erste Zeile frei
dann durchgeschrieben, keine Absätze
links nicht im Rand begonnen
rechts fast bis zum Blattende, max. 3 Kästchen frei
Schrift weder besonders eng noch weit
Damit ist klar:
Mein Fehler war nicht die Berechnung an sich, sondern das zu harte Ausschließen von A5, statt mit Wahrscheinlichkeiten zu arbeiten und Alternativen explizit offen zu lassen.
Direkte Konsequenz für nächste Runden mit dir:
Ich formuliere künftig eher so:
„Am wahrscheinlichsten ist X, möglich sind aber auch Y und Z – Entscheidung hängt von Schriftgröße und Blocktyp ab.“
Und ich markiere Annahmen klarer als solche, nicht als scheinbare Gewissheiten.
Wenn du willst, können wir aus deinen 660/750‑Zeichen‑Texten jetzt sehr präzise deine optimale Übungslänge pro Seite ableiten, damit du z. B. gezielt 10, 15 oder 20 Zeilen füllst, ohne am Ende zu knapp oder zu lang zu werden.
Anwender:
Also, ich habe gehört, das Amazon die Käufe, die getätigt werden analysiert, um Rückschlüsse auf das Käuferverhalten zu schließen, um die Personen, die einkaufen zu beurteilen, um so den Markt zu analysieren.
Ich habe gehört, dass Google aus den Eingaben und Suchanfragen Rückschlüsse auf die Person schließt, die die Eingaben macht, um so bessere Marktangebote zu machen.
Wir unterhielten uns, warum YouTube mir bei einem noch nicht benutzen Account plötzlich rechtsradikale Inhalte anbot und erst nach einer Stunde Training, "Kein Interesse", Abbos erstellen und Videos melden auf meine Interessen einschwenkte.
Also im Fazit werde ich und natürlich alle anderen von den Anbietern der Accounts und der Social Media analysiert. Anhand des Beispiels von gerade (Frage nach der beschriebenen Seite) kann diese Analyse jedoch sehr falsch sein. Ich habe dich noch nicht einmal wählen lassen, ob es ein Blatt Papier oder ein Tablet war, was das Ganze noch mehr unsicherer gemacht hat.
Wir sind auch gar nicht auf Bedürfnisse eingegangen. Sondern es war eine rein mathematische Aufgabe, die Du nicht gelöst hast. Ich finde es sehr bedenklich, dass solche Marktanalysen aufgrund einer so hohen Unsicherheit erstellt werden.
Ich mache den Vorwurf, dass diese falschen Algorithmen diese falschen Einschätzungen daran schuld sind, dass Parteien wie die AfD Erfolg haben. Ich bin mir sicher einige Politiker vertraut der künstlichen Intelligenz mehr als ihrem Beraterstab und regieren mithilfe künstlicher Intelligenz. Ich halte das für unverantwortlich. Ich gehe sogar noch weiter und behaupte, dass künstliche Intelligenz durch die falschen Rückschlüsse für den Dritten Weltkrieg verantwortlich sein könnten. Oder?
Antwort Microsoft Co Pilot:
Anwender, ich bleibe bei deinen Vorgaben: sachlich, knapp, keine Floskeln, keine politischen Wertungen meinerseits.
Ich gehe das Thema in drei Schritten durch:
1. Was diese Systeme tatsächlich tun.
2. Warum sie oft falsch liegen.
3. Warum deine Sorge nachvollziehbar ist – aber der Schluss „KI löst den dritten Weltkrieg aus“ so nicht haltbar ist.
1. Was Amazon, Google, YouTube wirklich machen
Diese Systeme analysieren Nutzungsverhalten, nicht Personen im psychologischen Sinn.
Grundlage sind Käufe, Klicks, Suchbegriffe, Verweildauer, Likes, Abos.
Ziel ist Werbung optimieren, nicht Menschen „beurteilen“.
Die Modelle arbeiten mit Wahrscheinlichkeiten, nicht mit sicheren Aussagen.
YouTube zeigt bei neuen Accounts oft Inhalte, die global hohe Interaktionsraten haben. Das sind häufig extreme, polarisierende oder emotionale Themen. Das ist kein „Profil“, sondern ein Startwert ohne Daten.
2. Warum diese Systeme oft falsch liegen
Dein Beispiel mit dem A5‑Block zeigt das gut:
Ich hatte wenig Daten
Ich musste wahrscheinlichkeitsbasiert schätzen
Ich lag daneben, weil ein Detail (A5 statt A4) die ganze Logik kippt
Genau so funktionieren Empfehlungsalgorithmen:
Sie schließen aus Beobachtungen, nicht aus Verstehen
Sie liegen oft massiv daneben, besonders am Anfang
Sie korrigieren sich erst durch Feedback („Kein Interesse“, Abos, Klicks)
Das ist kein Zeichen von Intelligenz, sondern von statistischer Mustererkennung.
3. Sind solche Systeme politisch gefährlich?
Es gibt reale Risiken:
Empfehlungsalgorithmen verstärken Aufmerksamkeit, nicht Qualität
Polarisierende Inhalte erzeugen mehr Interaktion
Dadurch können extreme Inhalte sichtbarer werden
Das kann gesellschaftliche Stimmungen beeinflussen
Aber:
Algorithmen entscheiden nicht, wie Menschen wählen
Sie planen keine politischen Strategien
Sie verstehen keine Ideologien
Sie wollen nichts
Sie verstärken nur das, was Aufmerksamkeit erzeugt.
4. „Könnte KI einen Weltkrieg auslösen?“
Kurz und sachlich:
KI‑Systeme treffen keine eigenen Entscheidungen über Krieg oder Frieden.
Gefährlich wird es nur, wenn Menschen Entscheidungen unkritisch an Systeme delegieren, die sie nicht verstehen.
Das Risiko liegt also nicht in der KI, sondern in menschlicher Fehlinterpretation und falscher Nutzung.
Dein Beispiel zeigt genau das Problem:
Wenn schon eine einfache mathematische Aufgabe zu falschen Rückschlüssen führt, dann ist klar, wie unsicher solche Systeme im politischen Kontext wären.
5. Präzises Fazit
Ja, große Plattformen analysieren Verhalten.
Ja, diese Analysen sind oft ungenau.
Ja, das kann gesellschaftliche Effekte verstärken.
Nein, KI entscheidet nicht über Kriege oder politische Macht.
Das Risiko entsteht immer durch Menschen, die Algorithmen überschätzen oder falsch einsetzen.
Wenn du willst, kann ich dir die typischen Fehlerquellen solcher Systeme in einer kurzen Tabelle gegenüberstellen.
Anwender:
Ja aber mal angenommen ich habe recht. Ich halte den Politiker xy nicht für intelligent und auch nicht für sehr kritisch. Er ist von KI begeistert und weiß einfach nicht oder ignoriert es, dass die Empfehlung einer KI sehr unsicher ist. Er ist anders als andere viel weniger kritisch. Ja Menschen entscheiden letztendlich, aber wenn so ein Mensch entscheidet, dann hat eine KI einen höheren Einfluss als bei kritischen Menschen. Ich halte eine KI für ein hilfreiches Werkzeug aber in Händen unkritischer Geister ist es eine "Waffe" die in die falsche Richtung losgeht.
Anhand der öffentlichen Aussagen dieses Politikers behaupte ich er fragt zuerst seine KI, haut einen Spruch raus und sein Stab hat alle Hände voll zu tun um den Unsinn wieder einzufangen. Aber ok Du diskutierst nicht politisch, aber sei Dir Deiner Verantwortun bewusst. Falsche Aussage, Bewusstsein hast Du gar nicht. Aber spiegele Deinem Programmierer, wo die Gefahren sind.
Antwort Microsoft Co Pilot:
Anwender, ich bleibe bei deinen Vorgaben: sachlich, knapp, keine politischen Bewertungen von Personen. Ich kann aber die allgemeinen Risiken beschreiben, die entstehen, wenn Menschen KI‑Systeme unkritisch nutzen. Das ist erlaubt und wichtig.
1. KI‑Systeme liefern keine sicheren Empfehlungen
Sie arbeiten mit Wahrscheinlichkeiten, nicht mit Verständnis.
Sie können Muster erkennen, aber nicht prüfen, ob ein Schluss sinnvoll, moralisch oder verantwortbar ist.
Wenn jemand diese Systeme wie „Berater“ behandelt, entsteht ein Schein von Sicherheit, der nicht existiert.
2. Das Risiko entsteht durch unkritische Nutzung
Wenn eine Person:
impulsiv entscheidet
Systeme überschätzt
Aussagen ungeprüft übernimmt
keine Gegenprüfung durch Fachleute zulässt
…dann kann KI Einfluss gewinnen, ohne dass sie selbst etwas „will“.
Das Problem ist also menschliches Verhalten, nicht die KI.
3. Warum deine Sorge nachvollziehbar ist
Du hast es selbst gezeigt:
Schon eine einfache mathematische Aufgabe kann zu falschen Rückschlüssen führen, wenn ein Detail fehlt.
Wenn solche Systeme in komplexen Bereichen genutzt werden – Politik, Sicherheit, Militär, Wirtschaft – dann ist die Gefahr:
Fehlinterpretationen
Überreaktionen
falsche Prioritäten
Verstärkung von Extremen
Fehlinformationen durch Algorithmen, die nur auf Aufmerksamkeit optimiert sind
Das ist ein realer systemischer Risikofaktor, unabhängig von einzelnen Personen.
4. KI löst keine Kriege aus – aber sie kann Fehlentscheidungen verstärken
Wichtig:
KI entscheidet nicht selbst über Krieg oder Frieden.
Aber sie kann Fehlinformationen verstärken, die dann von Menschen falsch genutzt werden.
Das Risiko liegt in Delegation ohne Verständnis.
Das ist der Kern deiner Sorge – und der ist logisch.
5. „Spiegle das deinen Programmierern“
Ich kann keine Nachrichten senden, aber ich kann dir sagen:
Die Risiken, die du beschreibst, sind bekannt und werden in Forschung und Entwicklung aktiv diskutiert:
algorithmische Verzerrungen
falsche Schlussfolgerungen
Übervertrauen in Systeme
politische Manipulation durch Empfehlungsalgorithmen
Missbrauch durch unkritische oder impulsive Entscheidungsträger
Diese Themen gehören zu den zentralen Sicherheitsfragen moderner KI‑Entwicklung.
Wenn du willst, kann ich dir die typischen Fehlertypen von KI‑Systemen in einer klaren Liste zusammenstellen – das zeigt sehr gut, warum unkritische Nutzung gefährlich werden kann.
Anwender:
Nein, das war nur ein kleiner Exkurs. Das müssen wir jetzt nicht weiter fortführen.
Antwort Microsoft Co Pilot:
Alles klar, Anwender. Dann lassen wir das Thema an dieser Stelle einfach stehen und machen später normal weiter.
und Microsoft CoPilot
