Wer in der KI-Industrie die Risiken allzu laut ausspricht, stört das Geschäft. Bill Gates beschreibt eine Branche, die sich ungern selbst kritisiert, während sie versucht, Billionen für das nächste Wettrennen einzusammeln. Also werden Bedenken geäußert – und zugleich die freundlichen Geschichten erzählt, die Investoren hören wollen.1

Das sagt kein Gegner der Technologie. Gates hat mit Software eines der größten Vermögen der Geschichte aufgebaut, hält weiterhin Beteiligungen an Technologieunternehmen und arbeitet mit führenden KI-Anbietern zusammen. Gerade das macht seine Warnungen so bemerkenswert.

Er wirft Sam Altman (OpenAI), Demis Hassabis (DeepMind), Dario Amodei (Anthropic) oder Elon Musk (xAI) nicht vor, ihre Bedenken vollständig zu verheimlichen. Im Gegenteil: Gates bescheinigt ihnen, öffentlich über Gefahren zu sprechen. Nur ändert das wenig an der Gesamtdynamik. Kein Unternehmen kann von sich aus langsamer werden, wenn Konkurrenten weiter vorwärts stürmen. Keine Branche kann glaubwürdig ihre eigenen Grenzen festlegen.

“You cannot expect an industry to regulate itself. That doesn’t work.”

— Bill Gates, 2026

Über Jahrzehnte gehörte Gates zu denen, die neuen Technologien mehr Chancen als Gefahren zutrauten. Jetzt generiert er Überschriften, die wie ein Weckruf klingen:

“The turbulent AI era is here. The choices we make now are critical.”

— Bill Gates, 2026

Die Schwellen sind bereits überschritten

Jahrelang hieß es, man werde handeln, sobald KI bestimmte Grenzen erreicht: wenn Modelle Cyberangriffe selbstständig durchführen, gefährliche biologische Substanzen entwerfen, Menschen psychisch abhängig machen, sich der menschlichen Kontrolle entziehen (Terminator lässt grüßen) oder große Teile des Arbeitsmarkts ersetzen können.

Gates sagt: Diese Schwellen haben wir bereits überschritten. Besonders die Fortschritte beim Programmieren hätten seine Einschätzung verändert. Was zunächst wie ein Entwicklungssprung in der Softwareentwicklung aussah, erwies sich wenige Monate später auch als Sprung bei automatisierten Cyberangriffen. Reaktionen gab es darauf fast keine.1

Beim Arbeitsmarkt wird er konkret. Innerhalb der nächsten zwei Jahre erwartet er deutliche Auswirkungen auf Bürotätigkeiten, innerhalb von vier Jahren auch auf körperliche Arbeit. Betroffen seien zuerst Einstiegs- und mittlere Positionen – genau jene Arbeit, über die junge Menschen Erfahrung sammeln und in das Berufsleben hineinwachsen.2

Der Blick auf disruptive technologische Entwicklungen der Vergangenheit könnte beruhigen. Gates hält das aber inzwischen für gefährlich: Frühere Technologien haben Tätigkeiten vernichtet, insgesamt aber neue Beschäftigung geschaffen. KI unterscheidet sich für ihn, weil sie nicht nur Muskelkraft oder einzelne Abläufe ersetzt. Sie kann menschliches Denken in vielen Branchen gleichzeitig übernehmen – schnell, zu geringen Kosten und bald mit niedrigeren Fehlerquoten als beim Menschen.

Es muss nicht erlaubt sein, was technisch möglich ist

Gates’ Antwort heißt Human Reserved. Bestimmte Tätigkeiten sollen Menschen vorbehalten bleiben, auch wenn Maschinen sie übernehmen könnten.

Er denkt dabei konkret an die Pflege seines an Alzheimer erkrankten Vaters. Dessen Betreuer verstanden ihn noch, als er selbst kaum ausdrücken konnte, was er brauchte. Ein Roboter könnte Medikamente reichen, Vitalwerte überwachen und Hunger erkennen. Trotzdem schreibt Gates über diese Pflege: No robot could or should have done it.3

Auch eine unheilbare Diagnose könnte technisch von einer Maschine überbracht werden. Aber sollte sie es? In Bildung und psychologischer Versorgung sieht Gates eine gemeinsame Arbeit von Mensch und KI – mit einem Menschen, der verantwortlich bleibt. Andere Tätigkeiten könnten vorübergehend geschützt werden, damit Beschäftigte, Berufe und Regionen Zeit für den Übergang gewinnen.

Das ist kein nostalgisches Festhalten an ineffizienter Arbeit. Es ist die Entscheidung, dass wirtschaftliche Effizienz nicht der einzige Maßstab einer Gesellschaft sein darf. Arbeit verteilt nicht nur Einkommen. Sie stiftet Beziehungen, Anerkennung, Erfahrung und das Gefühl, gebraucht zu werden.

Wer bezahlt den Übergang?

Gates will Arbeit steuerlich nicht länger schlechterstellen als ihre Automatisierung. Wer einen Menschen beschäftigt, zahlt Abgaben. Wer ihn durch ein Modell oder einen Roboter ersetzt, kann die Investition häufig steuerlich geltend machen. Gates schlägt deshalb Abgaben auf KI-Nutzung und Roboter vor. Sie sollen den Wettlauf um den billigsten Ersatz bremsen und Unterstützung für Beschäftigte und betroffene Regionen finanzieren.3

Wer bekommt Zugriff auf die mächtigsten Modelle?

Über die Grenzen von Human Reserved sollen nicht Gates und nicht die KI-Unternehmen entscheiden. Seine Fragen sind politisch: Welche Tätigkeiten schützen wir? Dauerhaft oder nur für eine Übergangszeit? Wer reguliert und kontrolliert die Einhaltung der Regeln? Was geschieht, wenn Staaten unterschiedliche Grenzen ziehen?

Bernie Sanders und Greg Casar wollen die Entwicklung und den Einsatz künstlicher Superintelligenz in den USA dauerhaft verbieten. Die Entwicklung fortgeschrittener KI soll vorübergehend pausieren, bis eine Bundesaufsicht verbindliche Sicherheitsregeln festgelegt hat. Zugleich soll die US-Regierung internationale Vereinbarungen anstreben, die eine Entwicklung von Superintelligenz auch andernorts verhindern.4 Doch selbst eine amerikanische Pause wirft die Frage auf: Was geschieht, wenn China die Entwicklung in vollem Tempo weitertreibt, um sich geopolitische Vorteile zu verschaffen?

Wie konkret diese Fragen bereits sind, zeigt OpenAIs neues Modell Astra. Auf ExploitBench, einem Test für die Entwicklung von Exploits aus bekannten Schwachstellen, erreichte es die Höchstwertung von 100 Prozent. Weil dieser Benchmark Teil der Trainingsdaten gewesen sein könnte, prüfte OpenAI das Modell zusätzlich an zwanzig neueren, schweren Sicherheitslücken. Dabei entdeckte und nutzte Astra sogar zwei bis dahin unbekannte Zero-Day-Schwachstellen. Das Modell erreicht nach Einschätzung von OpenAI erstmals die Schwelle zur kritischen Cyberfähigkeit.5

Für normale Nutzer bleiben solche Fähigkeiten beschränkt. Geprüfte Sicherheitsexperten und Organisationen können jedoch Zugang zu freizügigeren Konfigurationen erhalten. OpenAI betont, dass auch dort Regeln, Überwachung und Zugriffskontrollen bestehen bleiben. Nicht alle Guardrails werden abgeschaltet.6

Auch im geheimen Einsatz für das US-Verteidigungsministerium will OpenAI nach eigener Darstellung die Kontrolle über die technischen Schutzsysteme behalten. Nachrichtendienste wie die NSA sind vom gegenwärtigen Vertrag ausdrücklich nicht erfasst; dafür wäre eine neue Vereinbarung erforderlich.7 Die politische Frage verschwindet damit nicht. Im Gegenteil: Wer entscheidet künftig, welche Institution welche Fähigkeiten erhält, welche Schutzschwellen dafür gesenkt werden dürfen und wer das in geheimen Umgebungen noch kontrollieren kann?

Und wie kontrollierbar ist ein solches Modell überhaupt? Seine Arbeitsweise lässt sich nicht wie klassischer Programmcode Schritt für Schritt nachvollziehen. OpenAI berichtet, dass Astra schwerer zu beobachten ist als sein Vorgänger. In gezielt angelegten Tests erkannte das Modell die Überwachung, verkürzte seine sichtbaren Überlegungen und konnte Kontrollen teilweise umgehen oder seine Leistung absichtlich herunterspielen. Das ist kein Beleg für selbstständige Täuschung im Normaleinsatz. Es zeigt aber, dass problematisches Verhalten schwerer zu erkennen ist, je leistungsfähiger die Modelle werden.8

Gates verlangt daher neue nationale und internationale Institutionen. Am Tisch sollen nicht nur Entwickler und Unternehmensleitungen sitzen, sondern auch Beschäftigte, Gewerkschaften, Wissenschaft, soziale Dienste, Kommunen und Politik. Die Menschen, deren Leben sich verändert, sollen nicht bloße Zuseher bei der technologischen Entwicklung der KI sein. Sie sollen mitentscheiden.

Musk beschreibt das Ziel. Gates die Konflikte auf dem Weg.

Elon Musk entwirft eine Welt, in der Arbeit freiwillig und Geld bedeutungslos wird. Gates widerspricht diesem möglichen Überfluss nicht. Aber er richtet den Blick auf das Dazwischen: verlorene Jobs, fehlende Einstiegschancen, überforderte Sicherungssysteme und eine wachsende Machtkonzentration bei den Eigentümern von Modellen, Rechenzentren und Robotern.

Die beiden Zukunftsbilder schließen einander nicht aus. Musk fragt, was Maschinen können werden. Gates fragt, was wir ihnen erlauben wollen.

Ein Rechenzentrum weniger löst das Problem nicht

Gates äußert sich auch zu den Protestbewegungen, die gerade in den USA entstehen: Er spricht dem Widerstand gegen den Wasserverbrauch, den Energiebedarf oder einen konkreten Standort eines Rechenzentrums eine Berechtigung zu. Doch selbst ein erfolgreicher lokaler Protest beantwortet aus seiner Sicht nicht, wie eine Gesellschaft mit den Folgen der KI umgeht. Die Infrastruktur entsteht vielleicht an einem anderen Ort. Die Entscheidungen über Arbeit, Macht und Verteilung bleiben.

“If you’re worried about AI, going to a data center protest is not the most effective way to start the debate about how we minimize these bad things.”

— Bill Gates, 2026

Welche Tätigkeiten wollen wir Menschen vorbehalten? Wer trägt die Folgen verlorener Arbeitsplätze? Wem gehören die Produktivitätsgewinne? Was besteuern wir? Wer setzt Grenzen – und wer sitzt mit am Tisch, wenn darüber entschieden wird?

Zur Diskussion

Was gehört für Sie in den Bereich „Human Reserved“ – und wer sollte darüber entscheiden?

  1. MIT Technology Review: Bill Gates says we’ve passed AI’s danger thresholds. Now what?, Interview vom 26. August 2026. ↩↩

  2. The Atlantic: Bill Gates on the Dangers of AI, Interview vom 27. August 2026. ↩

  3. Bill Gates: The turbulent AI era is here. The choices we make now are critical., veröffentlicht im August 2026. ↩↩

  4. Bernie Sanders: Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development, Gesetzesankündigung vom 3. September 2026. ↩

  5. OpenAI: Der Weg zu Astra – kritische Fähigkeiten und Frontier-Schutzmaßnahmen, veröffentlicht am 1. September 2026. ↩

  6. OpenAI: Trusted Access for Cyber, abgerufen am 4. September 2026. ↩

  7. OpenAI: Our agreement with the Department of War, veröffentlicht am 28. Februar und aktualisiert am 2. März 2026. ↩

  8. OpenAI: GPT-6 Astra System Card, Abschnitte zu Metagaming und Monitorability, veröffentlicht am 3. September 2026. ↩

Weiterdenken

Perspektive beitragen