Wird KI überschätzt? Wer sie nur aus einem kostenlosen Chatbot kennt, urteilt über die schwächste Stufe der Technik und unterschätzt sie deshalb eher. Der KI-Forscher Andrej Karpathy, Mitgründer von OpenAI, schätzt, dass weltweit nur rund 20 Millionen Menschen Spitzenmodelle beruflich für Code und Mathematik nutzen und dabei sehen, wie Agenten Projekte von Wochen oder Monaten nach einem einzigen Auftrag erledigen. Führungskräfte zählt er ausdrücklich zu der Gruppe, die KI nur aus zweiter Hand kennt. Bei den fortgeschrittenen Nutzern wird inzwischen nicht mehr das Schreiben zum Engpass, sondern das Prüfen. Für ein mittelständisches Unternehmen folgt daraus: KI an einer echten Aufgabe mit echter Frist bewerten und bei jeder Software, die ein Agent geschrieben hat, fragen, wie sie geprüft wurde.
Grundlage ist Karpathys Beitrag auf X vom 11. Oktober 2026, mit dem er einen eigenen Beitrag vom April aktualisiert. Die Zahlen nennt er selbst eine Überschlagsrechnung, eine Erhebung steht nicht dahinter. Wir behandeln sie deshalb als Einschätzung eines erfahrenen Beobachters, nicht als Marktdaten. Das Modell einer Einladungslogik weiter unten haben wir für diesen Artikel geschrieben und mit dem Model Checker TLC geprüft. Stand: 15. Oktober 2026.
Karpathys Trichter auf einen Blick
| Stufe nach Karpathys Schätzung | Was die Menschen dort sehen |
|---|---|
| Rund 6 Milliarden, etwa 75 % der Weltbevölkerung | Kaum Kontakt mit Sprachmodellen |
| 1 bis 2 Milliarden, etwa 20 % | Gratis-Chatbots als bessere Suche oder Schreibhilfe, gelegentlich genutzt |
| Rund 20 Millionen, etwa 0,2 % | Agenten erledigen große Projekte in Code und Mathematik, die früher Wochen oder Monate dauerten |
| Rund 5.000 Menschen in den KI-Laboren | Interne Systeme, in denen Tausende Agenten wochenlang an großen Softwareprojekten arbeiten |
Der Abstand zwischen den Stufen wächst, schreibt Karpathy. Aus zwei Gruppen, die aneinander vorbeireden, sei ein steiler Trichter geworden. Die Welt außerhalb der Labore habe bisher nur die Vorschau gesehen.
Warum Führungskräfte meist in der zweiten Stufe stehen
Karpathy ordnet viele Fachleute außerhalb von Code und Mathematik der zweiten Stufe zu, Führungskräfte eingeschlossen. Sie verbringen einen großen Teil ihres Tages im Gespräch mit Menschen. Was sich gerade verändert, verstehen sie gedanklich, aber aus zweiter Hand. Das ist kein Vorwurf, sondern eine Beschreibung des Arbeitsalltags.
Die Ursachen des Trichters nennt er gleich mit, und sie erklären, warum der Gratis-Chatbot ein schlechter Test ist. Der Nutzen wächst mit dem Ehrgeiz, der Größe und der Dauer einer Aufgabe. Eine Frage, deren Antwort in einen Absatz passt, fordert das System kaum. Außerdem hängt viel vom Zugang ab, also davon, ob jemand die kostenlose Stufe, ein bezahltes Abonnement oder die internen Systeme eines Labors nutzt. Wer der kostenlosen Version eine kurze Frage stellt, testet die kleinste Aufgabe mit dem schwächsten Werkzeug.
Dazu kommt, dass die Fähigkeiten ungleich verteilt sind. Am stärksten sind die Modelle laut Karpathy dort, wo Arbeit digital, überprüfbar und wirtschaftlich wertvoll ist, weil sie genau für solche Aufgaben mit überprüfbaren Belohnungen trainiert werden. Daraus schließen wir für die Praxis: Die größten Sprünge sehen Sie zuerst bei Software, Datenauswertung und regelbasierten Dokumenten, später bei Verhandlungen oder Kundengesprächen.
Ein Urteil wie „überschätzt“ entsteht so aus einem Test, der den Unterschied gar nicht zeigen kann. Teuer wird das, wenn darauf Entscheidungen beruhen. Ein Automatisierungsprojekt wird abgelehnt, weil der Chatbot einmal Unsinn erzählt hat, oder ein Angebot wird angenommen, das niemand im Haus beurteilen kann. Beide Fehler haben dieselbe Ursache: Niemand im Unternehmen hat die Technik bei echter Arbeit gesehen.
Schreiben lassen ist nicht dasselbe wie prüfen können
Auch die dritte Stufe ist kein einheitlicher Block. Ein Teil der Nutzer lässt den Agenten Code schreiben und schaut, ob die Demo läuft. Ein anderer Teil kann begründen, warum das Ergebnis korrekt ist. Die erste Gruppe wächst schnell, die zweite deutlich langsamer. Diese Unterscheidung ist unsere Lesart. Karpathy selbst schreibt, dass menschliche Prüfung und menschliches Verständnis zurückzufallen beginnen.
Wenn ein Agent an einem Nachmittag schreibt, wofür früher ein Monat nötig war, ist das Schreiben nicht mehr der Engpass. Die eigentliche Arbeit ist dann die Prüfung, und darauf ist kaum jemand vorbereitet. Für Sie als Auftraggeber verschiebt sich damit die wichtigste Frage an einen Dienstleister. Dass er KI einsetzt, wird bald selbstverständlich sein. Entscheidend ist, wie er prüft, was die KI geschrieben hat.
Beispiel: zwei Klicks auf denselben Einladungslink
Fehler, die keine Demo zeigt, entstehen oft dort, wo zwei Dinge gleichzeitig passieren. Nehmen wir einen geschlossenen Bereich, etwa ein Kundenportal oder einen Teamraum. Wer ihn zuerst betritt, wird Inhaber, alle anderen brauchen einen einmal gültigen Einladungscode. Die naheliegende Umsetzung liest zuerst den aktuellen Zustand und schreibt danach das Ergebnis.
Wir haben diese Umsetzung und eine Variante mit Sperre in TLA+ beschrieben, der Spezifikationssprache von Leslie Lamport. Der Model Checker TLC hat für drei Personen und einen Code alle möglichen Reihenfolgen durchgerechnet.
| Variante | Ergebnis von TLC |
|---|---|
| Ohne Sperre: Lesen und Schreiben in zwei Schritten | 81 erreichbare Zustände. Nach 4 Schritten gibt es zwei Inhaber, nach 6 Schritten hat ein Code zwei Personen eingelassen |
| Mit Sperre: Prüfen und Schreiben in einem Schritt | 16 erreichbare Zustände, beide Regeln gelten in jedem davon |
Der erste Fehler lässt sich in vier Schritten erzählen. Person A und Person B öffnen den Link fast gleichzeitig, und beide lesen, dass der Bereich leer ist. Dann trägt sich A als Inhaber ein und danach B, weil auch B den leeren Zustand gelesen hat. Beim zweiten Fehler lesen zwei Eingeladene den Code als unbenutzt, bevor einer von beiden ihn verbraucht. In einer Demo klickt eine Person einmal, und keiner der beiden Fälle tritt auf. Im Betrieb genügt es, dass zwei Kollegen denselben Link in derselben Sekunde öffnen.
Der Kern des Modells, gekürzt:
\* Ohne Sperre: Zustand lesen und merken
Read(u) == /\ pc[u] = "start"
/\ seenEmpty' = [seenEmpty EXCEPT ![u] = (members = {})]
/\ seenUnused' = [seenUnused EXCEPT ![u] = ~codeUsed]
\* später mit dem gemerkten, womöglich veralteten Zustand schreiben
Write(u) == /\ pc[u] = "read"
/\ Apply(u, seenEmpty[u], seenUnused[u])
\* Mit Sperre: prüfen und schreiben in einem Schritt
JoinLocked(u) == /\ pc[u] = "start"
/\ Apply(u, members = {}, ~codeUsed)
\* Regeln, die in jedem Zustand gelten müssen
OneFounder == Cardinality(founders) <= 1
CodeOnce == Cardinality(viaCode) <= 1
Tests prüfen die Fälle, an die jemand gedacht hat. Ein Model Checker prüft alle Reihenfolgen innerhalb der Grenzen des Modells, auch die, an die niemand gedacht hat. Die Korrektur selbst ist unspektakulär: Prüfen und Schreiben passieren in einem Schritt, in der Datenbank etwa über eine Transaktion mit Sperre oder eine Eindeutigkeitsbedingung. Ein Agent schreibt ein solches Modell bereitwillig, wenn man ihn darum bittet, nur fragt selten jemand danach.
Die Grenzen gehören dazu. Das Modell prüft den Entwurf, nicht den fertigen Code. Ob der Code die Sperre wirklich umsetzt, muss ein Test mit gleichzeitigen Anfragen zeigen. TLC rechnet außerdem nur innerhalb der gewählten Größe vollständig, hier drei Personen und ein Code. Für dieses Beispiel genügt das, weil beide Fehler schon mit zwei oder drei Personen auftreten.
Die 5.000 in den Laboren betreffen Sie noch nicht
Die vierte Stufe ist die spektakulärste. Karpathy beschreibt Schwärme von Tausenden Agenten, die wochenlang an großen Softwareprojekten arbeiten, Sicherheitslücken finden und die Mathematik voranbringen. Zugang dazu bekommt kein Mittelständler, und das ist für Ihre Planung auch nicht entscheidend.
Für Ihre Entscheidungen in diesem Jahr zählt der Abstand zwischen der zweiten und der dritten Stufe. Die Werkzeuge der dritten Stufe sind heute als bezahlte Produkte verfügbar, und trotzdem setzen viele Unternehmen sie nicht für echte Arbeit ein. Was die Labore intern nutzen, deutet an, was später in diese Produkte kommt. Das ist unsere Schlussfolgerung aus Karpathys Bild von der Vorschau, keine Zusage eines Herstellers.
So bewerten Sie KI an einer echten Aufgabe
Planen Sie eine Woche ein und wählen Sie eine Aufgabe, an der Ihnen wirklich etwas liegt.
- Nehmen Sie ein Vorhaben, das seit Monaten liegen bleibt und echte Nutzer hat, auch wenn es nur drei Kollegen sind.
- Arbeiten Sie mit einem bezahlten Spitzenmodell oder einem Agenten, nicht mit der kostenlosen Chat-Version. Lassen Sie zuerst einen Plan schreiben und lesen Sie ihn, bevor umgesetzt wird.
- Prüfen Sie jedes Ergebnis wie die Arbeit eines neuen Mitarbeiters, der nie an sich zweifelt.
- Geben Sie das Ergebnis Menschen, die es benutzen. Ein Demovideo zählt nicht.
- Wo zwei Dinge gleichzeitig passieren können, etwa bei Buchungen, Einladungen, Lagerbeständen oder Rechnungsnummern, lassen Sie den Ablauf zuerst modellieren und erst dann programmieren.
Wer nicht programmiert, wendet dieselbe Regel ohne Technik an: eine echte Aufgabe mit echter Frist, beurteilt am Ergebnis und nicht am Eindruck eines Gesprächs. Wenn Sie Software in Auftrag geben, stellen Sie dem Anbieter zwei Fragen. Wie prüfen Sie, was der Agent geschrieben hat? Welche Abläufe in unserem System können gleichzeitig passieren, und wie sind sie abgesichert? Wie Sie Abnahmekriterien vor dem Auftrag festlegen, zeigt unser Lastenheft für einen KI-Chatbot.
Eine überschaubare Aufgabe für einen ersten eigenen Versuch ist Karpathys LLM-Wiki, in dem ein Agent Ihre Quellen zu einem Wiki ordnet. Wie das mit Obsidian funktioniert und was unser Test ergeben hat, zeigt Obsidian als Second Brain mit KI.
Häufige Fragen
Wird KI überschätzt?
Das hängt davon ab, welche KI jemand beurteilt. Ein kostenloser Chatbot zeigt bei einer kurzen Frage wenig von dem, was bezahlte Spitzenmodelle als Agenten bei großen Aufgaben leisten. Überschätzt wird KI eher dort, wo ihre Ergebnisse ungeprüft übernommen werden.
Was ist der Unterschied zwischen einem KI-Agenten und einem Chatbot?
Ein Chatbot beantwortet eine Nachricht nach der anderen. Ein Agent bekommt ein Ziel, plant Schritte, nutzt Werkzeuge wie Dateien, Code oder Schnittstellen und arbeitet, bis die Aufgabe erledigt ist oder eine Rückfrage nötig wird. Wie ein Agent aufgebaut ist, beschreibt unser Beitrag über die fünf Schichten eines KI-Agenten.
Reicht die kostenlose Version von ChatGPT für ein Unternehmen?
Für gelegentliche Formulierungshilfe oft schon. Für größere Aufgaben fehlen ihr die stärkeren Modelle und Agentenfunktionen der bezahlten Stufen. Sobald Kundendaten im Spiel sind, brauchen Sie außerdem vertragliche Regeln zum Datenschutz, wie in unserem Beitrag zu KI in der EU beschrieben.
Wie prüft man Code, den eine KI geschrieben hat?
Wie Code von Menschen, nur konsequenter: den Plan vor der Umsetzung lesen, jede Änderung durchsehen, automatische Tests laufen lassen und Abläufe mit Gleichzeitigkeit vorab modellieren. Tests decken die bedachten Fälle ab, ein Modell auch die Reihenfolgen, an die niemand gedacht hat.
Woher stammen Karpathys Zahlen?
Aus seiner eigenen Überschlagsrechnung, eine Studie gibt es dazu nicht. Die Größenordnungen taugen als Denkmodell für die Lage, nicht als Marktdaten für einen Businessplan.
Wenn bei Ihnen eine Aufgabe seit Monaten liegt, prüfen wir gemeinsam, ob ein Agent sie übernehmen kann und wie das Ergebnis geprüft wird, bevor es Ihre Kunden erreicht. Bringen Sie die Aufgabe, die beteiligten Systeme und eine Liste der Abläufe mit, die gleichzeitig passieren können. Wie wir KI-Lösungen mit Sprachmodellen umsetzen, beschreibt unsere Leistungsseite.