Der große Irrglaube über KI - warum es auf den Menschen ankommt

Erstaunen, Freude, Lachen, aber auch leise Kritik – das sind die ersten Emotionen, die ich im Zusammenhang mit KI erlebt habe. Wir waren im Urlaub und mein Sohn wollte eine KI nutzen, um sich bei einem Aufsatz helfen zu lassen. Meine Frau zeigte ihm ChatGPT und die Ergebnisse waren beeindruckend, im Detail aber nicht so perfekt wie gewünscht. Neugierig geworden, habe ich dann selbst mal mit der KI gechattet und war ebenso erstaunt wie meine Familie. Das war fast so, als würde man mit einem Menschen kommunizieren, der sehr viel weiß.

Wenn ich zurückblicke, empfinde ich es als Geschenk, die digitale Revolution hautnah miterleben zu können. In meiner Jugend habe ich noch Quellcode aus Magazinen abgetippt. An der Universität berichteten Kommilitonen, dass sie ein kleines Spiel programmierten und die performance-kritischen Teile in Assembler von Hand schrieben. Ja, Assembler war zu der Zeit noch eine Programmiersprache für Leute, die es wirklich wissen wollten.

Aus dieser Zeit kenne ich auch diesen Witz: Der Computer kennt nur Nullen und Einsen und kann mit dem Dezimalsystem, mit dem der Mensch am besten klarkommt, nichts anfangen. Wenn der Mensch etwas vom Computer möchte, müssen sich beide auf eine Sprache einigen. Der Kompromiss war dann Hexadezimal – eine Darstellung, die weder der Computer noch der Mensch nativ versteht.

Zwischen damals und heute ist viel passiert. Ein spannender Meilenstein auf diesem Weg war der Schach-Wettkampf von Kasparov gegen den Schachcomputer Deep Blue. Gefühlt hatte die Menschheit einen Kampf gegen die Computer verloren.

Wie funktioniert so ein Schachprogramm, wenn man es stark vereinfacht darstellt? Man schreibt Code, der die Stellung bewertet. Ein Bauer zählt 1, Läufer und Springer 3, usw. Außerdem wird gezählt, wer wie viele Felder kontrolliert. So kann man jede Stellung einer Partie mit einer Zahl bewerten und sieht, wer gerade (vermeintlich) besser steht.
Von der aktuellen Position aus probiert der Algorithmus jeden möglichen Zug aus und bewertet die resultierende Stellung. Hat er den besten Zug für sich gefunden, berechnet er im nächsten Schritt die wahrscheinlich beste Antwort des Gegners. Auf diese Weise ermittelt das Programm Schritt für Schritt eine optimale Zugfolge für die kommenden Züge.
Wie gesagt, es ist alles stark vereinfacht, aber es reicht, um eine Vorstellung zu bekommen, wie es funktioniert.

Als die ersten Schachcomputer aufkamen, unterhielten wir uns darüber, wie sie denn spielen. Und die Antwort war: So würde kein Mensch spielen. Sie sind nicht schlecht, aber sie freuen sich z.B. wenn sie eine Figur gewinnen oder Schach geben können. Und wenn man das weiß, kann man sie austricksen.
Kasparov hat in seinem Duell mit Deep Blue geschildert, dass er in den Zügen von Deep Blue eine ungewöhnliche Kreativität und ein Gespür für Gefahr zu erkennen glaubte. In einer Partie war die Software von Deep Blue überlastet und wählte als Notlösung einen zufälligen Zug. Diesen passiven Zug hatte Kasparov nicht erwartet und im Nachhinein als strategische Meisterleistung bewertet.
Wir Menschen scheinen unsere Eindrücke gerne in Bewertungen auszudrücken. Wir neigen dazu, alles mit uns Menschen zu vergleichen, und scheuen uns auch nicht davor Dingen menschliche Züge zuzuschreiben.

Genau hier schließt sich der Kreis zu ChatGPT und dem Aufsatz meines Sohnes im Urlaub. Wenn wir heute mit einem Large Language Model (LLM) chatten, tut die Maschine im Grunde nichts anderes als Deep Blue auf dem Schachbrett: Sie berechnet Wahrscheinlichkeiten. Sie weiß nicht, was ein "Aufsatz" ist, sie fühlt nicht die Freude einer gelungenen Formulierung. Sie würfelt lediglich in unvorstellbarer Geschwindigkeit die statistisch wahrscheinlichsten nächsten Wörter zusammen.

Manche argumentieren auch: Der Ausgangspunkt einer KI, die Trainingsdaten, kommen doch vom Menschen. Sie enthalten also automatisch unsere moralischen Vorstellungen. Einmal im System, propagieren diese durch bis zu den Ausgaben der KI. Das ist nicht falsch, aber unvollständig dargestellt. Weil es nicht genug menschlichen Inhalt gibt, um große Modelle zu trainieren ("Data Wall" genannt), werden die meisten Trainingsdaten maschinell erzeugt. Diese Trainingsdaten sind in der Regel streng gehütete Geschäftsgeheimnisse der großen Tech-Konzerne.

Zwar gibt es rühmliche Ausnahmen in der Open-Source-Gemeinschaft: Initiativen wie RedPajama oder The Pile legen ihre gigantischen Datensätze offen. Doch wer diese offenen Archive analysiert, stößt schnell auf das nächste Problem: Sie spiegeln das ungefilterte Internet wider. Neben moralischen Abhandlungen und wissenschaftlichen Meisterwerken enthalten sie milliardenfache Foren-Diskussionen voller Hass, Vorurteile und Falschinformationen.

Die Vorstellung, dass man aus diesem gigantischen, wilden Rauschen des globalen Netzes durch reines statistisches Training eine verlässliche, moralische Instanz formen könnte, ist ein Irrglaube. Die Grundannahme, die Lerndaten seien moralischen Inhalts, lässt sich meiner Meinung nach weder beweisen noch widerlegen. Diese These ist im wissenschaftlichen Sinne schlicht nicht falsifizierbar.

Wenn wir in Unternehmen die KI nutzen, um Menschen eins zu eins zu ersetzen, begehen wir genau denselben Denkfehler wie Kasparov 1997. Wir verwechseln die Imitation von Verstand mit echtem Verstand, und wir ignorieren, dass Mensch und Maschine völlig anders sind und andere, sich oft ergänzende Stärken haben. Und wir ignorieren, dass wir Menschen es sind, die der KI menschliche Eigenschaften zuordnen.

Der Mensch besitzt Bewusstsein, Moral, Werte und eine tief verankerte Intuition. Diese Intuition ist kein magischer Funke, sondern die Fähigkeit unseres Gehirns, auf Basis von Lebenserfahrung völlig neue, unstrukturierte Probleme blitzschnell zu lösen – selbst wenn es dafür keine historischen Daten gibt. Ein Beispiel: Apollo 13. Wer hätte gedacht, dass man mit einem richtig zerrissenen Aktenordner, einer Plastiktüte und Klebeband die lebenserhaltenden Systeme einer Raumfähre retten kann? Wir Menschen können zudem Verantwortung übernehmen und für unsere Entscheidungen geradestehen. Diese moralische Last ist nicht delegierbar.

Die Stärke der KI liegt hingegen in der schnellen Verarbeitung gigantischer, unstrukturierter Datenmengen. Sie wird nicht müde, sie ist niemals demotiviert und sie leidet nicht unter Konzentrationsschwächen. Eine KI kann eine App in der Programmiersprache implementieren, die das Projekt gerade braucht.

Ich sage gelegentlich: Die KI macht die klugen Leute klüger und die dummem dümmer. Zum Ende möchte ich noch ein paar praktische Tipps auf den Weg geben.

Gute Beispiele, wie man die KI nutzen kann:

• Dokumentations-Assistenz: Nach einer Softwareänderung aktualisiert die KI die Dokumentation.
• Lern-Turbo: Eine KI kann den Lernprozess des Menschen drastisch beschleunigen (z. B. durch maßgeschneiderte Erklärungen).
• Code-Verständnis: KIs können komplexe Code-Schnipsel in Sekunden verständlich erklären.
• Recherche & Synthese: KIs können riesige Datenmengen durchforsten und nach den genauen Vorgaben des Menschen präzise zusammenfassen.
• Kreatives Sparring: Die KI als Ideengeber nutzen, um festgefahrene Denkpfade zu verlassen, neue Blickwinkel auf ein Problem zu werfen oder alternative Formulierungen zu brainstormen.
• Fehlerbehebung: Die Behebung von Software-Bugs umfasst oft eine Einarbeitung in komplexe und unbekannte Codestrukturen. Ein erster Lösungsvorschlag von der KI, der dann mit dem Menschen verbessert wird, ist sehr effizient.

Die Anti-Muster sind einfach zu erkennen:

• Blinde Substitution: Eine KI soll Aufgaben komplett übernehmen, die ein Mensch nur noch pro-forma bewerten muss. Wer liest schon 20 Seiten Dokumentation Korrektur oder prüft 200 Änderungen in 20 Dateien? Und das 10-mal am Tag?
• Die Plausibilitäts-Falle: Antworten der KI ungeprüft als Fakten zu übernehmen. Da LLMs auf Wahrscheinlichkeiten basieren, "halluzinieren" sie plausibel klingende, aber völlig frei erfundene Daten. Die menschliche Gegenkontrolle ist unverzichtbar.
• Moralische & personelle Delegation: KI-Systeme für sensible, zwischenmenschliche Entscheidungen einzusetzen (z. B. automatisierte Leistungsbewertungen oder Kündigungsvorschläge im HR-Bereich). Echte Empathie und moralische Verantwortung lassen sich nicht in Algorithmen gießen.

Wie kombiniert ihr die Stärken des Menschen und der KI? Wie holt ihr das Beste aus der KI?