Als die mächtigsten Männer der KI-Branche im September öffentlich über eine Verlangsamung der Entwicklung sprachen, konnte man hoffen, dass auf ihre Warnungen nun Konsequenzen folgen würden. Nach ihrem Auftritt im Weißen Haus ist vor allem die Frage offen, wie ernst sie ihre eigenen Forderungen noch nehmen, wenn neben ihnen der Präsident steht.

Noch im September verlangte Dario Amodei, die Entwicklung leistungsfähigerer KI müsse verlamgsamt werden:

“We must slow the pace at which we improve the capabilities of AI models.”

— Dario Amodei, September 20261

Sicherheitsforschung und Kontrolle kämen sonst nicht hinterher, schrieb der Chef von Anthropic und benannte damit ein Problem, das sein eigenes Unternehmen mit hervorbringt. Dass er diesen Widerspruch öffentlich macht, verdient durchaus eine gewisse Anerkennung.

Am 29. September steht er mit anderen Konzernspitzen bei Donald Trump, der anschließend eine freiwillige Vereinbarung präsentiert: Die Unternehmen sollen sich kontrollieren, externe Prüfer hinzuziehen und die Ergebnisse in ihren eigenen Aufsichtsgremien behandeln. Verbindliche gesetzliche Regeln bleiben eine Möglichkeit für später.2 Während die Entwicklung weitergeht, kann die Branche also auf ihre guten Vorsätze und der Präsident auf ein erfolgreiches Treffen verweisen. Gemessen an der Dringlichkeit der vorherigen Warnungen ist das ein ausgesprochen bequemes Ergebnis.

Die Sicherheitsfrage bekommt einen neuen Namen

Wie viel diese Vereinbarung verlangt, wird deutlich, als Trump bei der anschließenden Pressebegegnung nach ihrer Bindungswirkung gefragt wird:

“I think it’s morally binding, yeah.”

— Donald Trump, 29. September 20263

Eine moralische Bindung soll also vorerst genügen, obwohl die Entwickler selbst vor Gefahren warnen, die sich nach ihrem Eintritt möglicherweise nicht mehr einfangen lassen. Interne Kontrollen und externe Prüfungen können dabei durchaus helfen, beantworten aber die entscheidende Frage nicht: Welche Instanz setzt gegen den Willen eines Unternehmens eine Grenze durch, wenn das nächste Modell wirtschaftlich zu verlockend und politisch zu wichtig geworden ist?

Bei der Bezeichnung der Technologie ist Trump bereits weitergekommen, denn sie soll jetzt Super Intelligence heißen. Wie aufmerksam seine Gäste diese Vorgabe aufnehmen, führt Musk später mit einer Korrektur mitten im Satz vor:

“SI, pardon me.”

— Elon Musk, 29. September 20263

Dass der Mann, der die Menschheit ins All bringen will, sich für die falschen zwei Buchstaben entschuldigt, mag eine Nebensächlichkeit sein. Im Zusammenhang dieser Veranstaltung wirkt sie dennoch aufschlussreich: Während verbindliche Sicherheitsregeln offenbleiben, übernimmt einer der mächtigsten Unternehmer der Welt bereits die Sprachregelung des Präsidenten.

Wer hier den Raum beherrscht

Schon in der Saalaufnahme ist die Nähe zur Macht deutlich geordnet: Unmittelbar neben Trump sitzen Huang und Musk, während weitere Spitzenmanager und Regierungsvertreter hinter der sitzenden Runde stehen. Daraus lassen sich keine inneren Bündnisse ablesen, wohl aber die für diese Veranstaltung vorgesehene Sichtbarkeit der Beteiligten.4

Beim Pressegespräch tritt diese Rangordnung deutlicher hervor, weil Trump das Wort verteilt und die Unternehmer mit persönlichen Gütesiegeln vorstellt. Selbst Sundar Pichais Einstieg unterbricht er, um aus der Vorstellung des Google-Chefs eine kleine Show zu machen.3 Die fachliche Autorität der Gäste verschafft ihnen hier offenbar noch nicht das Recht, einen begonnenen Gedanken auch zu Ende zu führen.

Eine besonders auffällige Szene hat HuffPost von zwei Fachleuten für nonverbale Kommunikation einordnen lassen. Patti Wood beschreibt, wie Trump sich während Amodeis Wortbeitrag abwendet und Zuckerberg aus der hinteren Position nach vorn holt. Die Verhaltenswissenschaftlerin Abbie Maroño sieht darin eine

“two-on-one dynamic”

— Abbie Maroño über die Szene mit Trump, Zuckerberg und Amodei5

Ihre Beobachtung: Trump und Zuckerberg richten sich aufeinander aus, während Amodei noch spricht. Zuckerberg spricht auf Trumps Kontaktangebote an, Amodei erscheint körperlich zurückgenommener. Wood deutet dessen eng am Körper gehaltene Arme und den Druck einer Hand in die andere als mögliche Selbstberuhigung.5

Während ein Unternehmenschef über ein gesellschaftliches Risiko sprechen soll, lenkt der Gastgeber die Aufmerksamkeit auf einen anderen Gast und bestimmt damit auch, wie viel Gewicht der Wortbeitrag im Raum erhält.

Amodeis Unbehagen wirkt angesichts dieser Situation nachvollziehbar. Beunruhigender ist die Bereitschaft, mit der die Runde das Gefälle hinnimmt: Männer, die vor Investoren und auf Konferenzbühnen die Zukunft der Menschheit erklären, lassen sich hier als Stichwortgeber in eine präsidiale Inszenierung einfügen.

Die Zustimmung kommt mit freundlichem Dank

Greg Brockman, Präsident von OpenAI, hebt in seinem Wortbeitrag ausdrücklich Trumps Führung hervor:

“under President Trump’s leadership”

— Greg Brockman, 29. September 20263

Natürlich haben auch mächtige Unternehmer Gründe, einen Präsidenten nicht öffentlich zu brüskieren, und ein Dank für die Einladung ließe sich als diplomatische Höflichkeit verbuchen. Wenn sie dessen Führung ausdrücklich hervorheben, verleihen sie jedoch auch seinem Umgang mit der Sicherheitsfrage Glaubwürdigkeit.

Damit stellen sich Unternehmen, die Grenzen benötigen, öffentlich hinter einen Präsidenten, der ihnen vorerst freiwillige Selbstkontrolle anbietet. Während Zuckerberg das Ergebnis positiv bewertet, hält Amodei immerhin an seiner Warnung vor realen Risiken fest.2 Sein Auftritt unterscheidet sich darin von der Zustimmung der anderen, auch wenn er die Widersprüche der Veranstaltung nicht auflöst.

Aus dem öffentlichen Auftritt lässt sich nicht rekonstruieren, was hinter verschlossenen Türen gefordert oder bestritten wurde. Öffentlich sichtbar wird allerdings auch keine durchgesetzte Grenze, an der die Entwicklung nötigenfalls stoppen müsste.

Als eine Reporterin Amodei nach der Selbstkontrolle fragen will, übernimmt Trump erneut, lobt ihn und geht dazu über, CNN zu beschimpfen, während die Nachfrage unbeantwortet bleibt.3 Von den Unternehmensspitzen würde man sich hier eine gewisse Beharrlichkeit erwarten, eine zuvor als notwendig beschriebene Sicherheitsbedingung auch in seiner Gegenwart einzufordern.

China erledigt den Rest

Trump hatte bereits vor dem Treffen erklärt, eine Zusammenarbeit mit China bei der KI-Steuerung könne dem Konkurrenten Zugang zu amerikanischem Wissen verschaffen. Amerika führe und solle vorn bleiben.6 Mike Johnson begründete die Ablehnung eines Moratoriums ebenfalls mit dem drohenden Verlust des Vorsprungs gegenüber China. Am Vortag hatte er die KI-Ängste sogar als chinesische psychologische Operation bezeichnet.2

Dass Vereinbarungen mit autoritären Staaten schwer zu überprüfen sind und ein amerikanischer Stillstand keine globale Sicherheit garantiert, ist ein ernstes Problem. Als Begründung gegen jede mögliche Begrenzung wird es allerdings zum Freibrief: Solange ein Konkurrent weiterentwickeln könnte, darf niemand langsamer werden.

So verändert sich der Sinn der Warnungen aus den Laboren. Eine Technologie, die nach Einschätzung ihrer Entwickler zu mächtig werden könnte, um sie zu kontrollieren, gilt politisch vor allem als etwas, das Amerika unbedingt zuerst besitzen muss. Weshalb der amerikanische Vorsprung ausgerechnet jene Risiken beherrschbar machen sollte, die zuvor eine Verlangsamung notwendig erschienen ließen, bleibt unerklärt.

Der Bock ist jetzt der Gärtner

Warum sollte ausgerechnet Selbstkontrolle das lösen? Dieselben Unternehmen bestimmen wesentliche Entwicklungsschritte, besitzen die entscheidenden Informationen und verdienen an der Freigabe des nächsten Systems. Wenn Sicherheit Zeit kostet, kostet sie im Wettbewerb möglicherweise Marktanteile.

Ob ein externer Prüfer an diesem Konflikt etwas ändern kann, hängt von seinen Befugnissen ab. Dazu müsste geklärt sein, wer ihn auswählt und bezahlt, welche Informationen er erhält und was er veröffentlichen darf. Vor allem braucht eine negative Bewertung jemanden, der daraus Konsequenzen ziehen und nötigenfalls eine Veröffentlichung verhindern kann. Die Weiterleitung eines Berichts an den Vorstand reicht dafür kaum aus, denn dort wird zugleich entschieden, wie viel Geschäft dem Unternehmen durch einen Aufschub entgeht.

Selbstkontrolle funktioniert am ehesten dort, wo die Beteiligten ein gemeinsames Interesse an überprüfbaren Standards haben, Verstöße sichtbar werden und Sanktionen glaubwürdig sind. Bei KI kommen die schwersten Schäden möglicherweise erst spät zum Vorschein. Die Betroffenen sind zudem oft keine Kunden, die einfach zu einem anderen Anbieter wechseln könnten.

Die Geschichte liefert genügend Gründe, dieses Versprechen genauer anzusehen. Die Mehrheitsfassung des amerikanischen Untersuchungsberichts zur Finanzkrise von 2007 bis 2009 zählt Deregulierung, den Glauben an die Selbstkorrektur der Märkte und das Vertrauen in die Eigenkontrolle der Finanzinstitute zu den entscheidenden Versäumnissen. Beschrieben wird eine Aufsichtsarchitektur, in der sich Risiken auch deshalb ausbreiten konnten, weil man den Beteiligten zutraute, ihr eigenes Geschäft schon vernünftig zu begrenzen.7

Näher an der heutigen Runde liegt das Geschäft mit sozialen Plattformen. Die amerikanische FTC untersuchte neun Unternehmen und dokumentierte 2024 umfangreiche Datensammlung, unzureichende Schutzvorkehrungen und Geschäftsmodelle, deren Anreize dem Schutz der Nutzer entgegenstanden. Darunter waren Meta, YouTube und X.8

An klugen Menschen und öffentlichen Bekenntnissen zur Verantwortung hat es diesen Unternehmen kaum gefehlt. Dennoch dokumentiert der Bericht, wie wenig solche Bekenntnisse ausrichten, wenn das Geschäftsmodell von einer möglichst umfassenden Nutzung persönlicher Daten lebt.

Dass Selbstregulierung unter anderen Bedingungen durchaus etwas bewirken kann, zeigt die britische Werbeaufsicht ASA. Für 2024 meldet sie die Änderung oder Rücknahme von 33.903 Anzeigen, was zwar ihre eigene Leistungsbilanz und keine Garantie gegen jede problematische Werbung ist, aber konkrete Durchsetzung erkennen lässt.9

Der Unterschied ist entscheidend: Die ASA verfügt über veröffentlichte Regeln, Beschwerdeverfahren und Sanktionen. Hartnäckige Verstöße können an staatliche Stellen weitergegeben werden.10

Die funktionierende Variante hat also unabhängige Verfahren und einen Staat im Rücken. Sie besteht aus deutlich mehr als dem Vertrauen, sehr intelligente Menschen würden sich gegenseitig schon auf die Finger schauen.

Und wenn wir euch am Gewinn beteiligen?

Inzwischen kommt ein weiteres Versprechen hinzu. Anthropic kündigte am 18. Oktober einen Fonds für öffentliche Zwecke an. Fünf Prozent der Unternehmensanteile sollen eingebracht werden, vorbehaltlich der Zustimmung der Anteilseigner. Weitere Anteile könnten bei steigender Bewertung nach Ermessen des Verwaltungsrats folgen. Unterstützung von Menschen, deren Arbeit durch KI unter Druck gerät, wird ausdrücklich als möglicher Zweck genannt.11

Damit könnte erhebliches Vermögen für öffentliche Zwecke bereitstehen, wobei Aktienbesitz noch kein jederzeit verfügbares Hilfsbudget und schon gar keine festgelegte Auszahlung an entlassene Beschäftigte bedeutet. Vorgesehen ist eine vollständig unternehmenseigene Gesellschaft, deren genauere Regeln für Leitung und Mittelvergabe erst folgen sollen. Einen Anspruch betroffener Menschen legt die Ankündigung bisher nicht fest.11

Die Idee, technologische Gewinne breiter zu verteilen, ist älter. Sam Altman schlug 2021 einen American Equity Fund vor. Große Unternehmen sollten jährlich Anteile im Wert von 2,5 Prozent ihres Marktwerts abgeben, ergänzt um eine Abgabe auf privaten Boden. Erwachsene US-Bürger sollten Ausschüttungen erhalten.12

Altmans politischer Vorschlag für eine allgemeine Beteiligung unterscheidet sich damit erheblich von der unternehmenseigenen Einrichtung, die Anthropic ankündigt. Unter dem freundlichen Begriff der KI-Dividende geht leicht verloren, dass die Verfügung über das Geld darüber entscheidet, ob Menschen einen Anspruch erhalten oder auf die Großzügigkeit eines Unternehmens angewiesen sind.

Ein unabhängig verwalteter, verbindlich finanzierter Fonds könnte Übergänge absichern, Weiterbildung ermöglichen und Regionen unterstützen. Er bräuchte transparente Kriterien, verlässliche Einnahmen und eine Vertretung der Menschen, denen er dienen soll. Ob Unternehmensanteile, laufende Abgaben oder andere Finanzierungswege dafür taugen, muss öffentlich ausgehandelt werden.

Wenn die Entwickler dagegen selbst festlegen, welche Risiken sie eingehen, und anschließend auch darüber entscheiden, wer wie viel Hilfe verdient, reicht ihre Macht bis in die Bewältigung jener Veränderungen hinein, die sie selbst ausgelöst haben. Für Betroffene wäre damit viel von den Prioritäten und der Fortdauer unternehmerischer Großzügigkeit abhängig.

Eine Zukunft ist keine private Einladung

Am 10. Oktober spricht Musk bei What Comes Next for Humanity über eine Zukunft digitaler Intelligenz bis hinaus ins Sonnensystem. Sein Bild reicht bis zu einer empfindungsfähigen Sonne. Bei der Frage nach Sicherheit setzt er auf Wahrheitssuche und einen angemessenen Umgang mit künftiger KI.13

Auch wer solche Visionen faszinierend findet, kann sich darüber wundern, wie viel genauer hier über die Nutzung eines Sonnensystems als über die Mitsprache der Menschen gesprochen wird, deren Lebensverhältnisse sich schon heute verändern.

Wer Rechenzentren, Modelle und Zugänge besitzt, erhält ohnehin immer mehr Einfluss auf das Leben anderer. Daraus folgt keine besondere Berechtigung, auch noch die Grenzen der eigenen Tätigkeit festzulegen.

Der Auftritt im Weißen Haus ist deshalb aus einem grundsätzlicheren Grund empörend als wegen einzelner Mienen oder missglückter Sätze. Die Herren beanspruchen, für die Menschheit zu bauen, lassen sich aber erstaunlich bereitwillig auf eine Veranstaltung ein, bei der politische Gefälligkeit mehr Raum erhält als verbindliche Grenzen. Wer einen solchen Anspruch erhebt, muss sich die Frage gefallen lassen, weshalb die Menschen, die seine Entscheidungen betreffen, weiterhin auf eine wirksame Vertretung ihrer Interessen warten sollen.

Zur Diskussion

Wer sollte die Entwicklung besonders leistungsfähiger KI begrenzen dürfen – und welche Rechte brauchen Menschen, die ihre Folgen tragen, ohne an der Entscheidung beteiligt zu sein?

  1. Dario Amodei: We Must Pace the Frontier, September 2026. Forderung nach einer Verlangsamung, unabhängigen Prüfern und internationaler Koordination. ↩

  2. ABC News: Trump says AI leaders signed a ‘constitution’ to police themselves, 29. September 2026. Berichtet über Vereinbarung, Freiwilligkeit, Zuckerberg und Johnsons Aussagen. Die spätere gesetzliche Verankerung bleibt ausdrücklich möglich. ↩↩↩

  3. Factba.se / Roll Call: Pressegespräch nach dem KI-Mittagessen, 29. September 2026. Zeitmarken im Transkript: Bindungswirkung 00:00:54–00:00:59; Brockman 00:07:10–00:07:33; Amodei und Unterbrechung der Nachfrage 00:20:15–00:21:13; Zuckerberg/Pichai 00:22:36–00:23:16; Musk 00:29:17–00:29:37. Direkte Zitate im englischen Original. ↩↩↩↩↩

  4. Weißes Haus: Saalaufnahme des Treffens, 29. September 2026, insbesondere ca. 01:15 und 02:56. Die Beschreibung der räumlichen Anordnung beruht auf dieser Aufnahme. Das separat veröffentlichte Pressegespräch enthält in der offiziellen Fassung nur Ton; die nachfolgend beschriebenen Gesten werden daher dem Fachkommentar in Quelle 5 zugerechnet. ↩

  5. Katie Mather / HuffPost, über Yahoo: There’s A Whole Lot Of Body Language Going On At This AI Presser — And Experts Have THOUGHTS, aktualisiert am 30. September 2026. Befragt wurden Patti Wood und Abbie Maroño. Die wiedergegebenen Deutungen betreffen kurze Ausschnitte, keine klinischen Befunde. Maroños Dissertation zu nonverbaler Kommunikation und Kooperation, Lancaster University, 2022, dokumentiert ihren Forschungshintergrund. ↩↩

  6. The Next Web: Trump rules out working with China on AI safety before tech CEO lunch, 29. September 2026. Die Aussagen zur Zusammenarbeit mit China fielen vor dem Mittagessen. ↩

  7. Financial Crisis Inquiry Commission: The Financial Crisis Inquiry Report, Januar 2011, Schlussfolgerungen, insbesondere S. xviii. Bezug auf den Mehrheitsbericht; der Bericht enthält abweichende Voten. Der Vergleich betrifft Anreiz- und Aufsichtsprobleme, keine Gleichsetzung der Technologien. ↩

  8. FTC: Befunde zu den Datenpraktiken sozialer Medien und Videoplattformen, 19. September 2024. ↩

  9. ASA/CAP: Annual Report 2024, 29. April 2025. Zahl gemäß eigener Tätigkeitsbilanz. ↩

  10. ASA: Self-regulation and co-regulation; ASA: Trading Standards referrals, abgerufen am 20. Oktober 2026. ↩

  11. Anthropic: Investing in the public benefit, 18. Oktober 2026. Ankündigung mit Zustimmungsvorbehalt; fünf Prozent anfänglich, weitere zwei Prozentpunkte bei bestimmten Bewertungszuwächsen nach Ermessen des Boards; Fonds als vollständig unternehmenseigene LLC. Details zu Governance und Bewertungsschwellen stehen aus. Die dort zusätzlich genannten insgesamt rund 20 Prozent schließen andere Gründer- und Mitarbeiterzusagen ein und sind nicht mit der anfänglichen Ausstattung dieses Fonds gleichzusetzen. ↩↩

  12. Sam Altman: Moore’s Law for Everything, 16. März 2021, Abschnitt „Capitalism for Everyone“. Politischer Vorschlag, kein Nachweis eines bereits eingerichteten allgemeinen Fonds. ↩

  13. Elon Musk: What Comes Next for Humanity, Transkript mit Links zum Originalvideo, 10. Oktober 2026; Zukunftsbild ab 28:24, Sicherheitsvorstellungen ab 38:57. Musks Vorstellungen sind als seine Aussagen wiedergegeben, nicht als gesicherte Prognosen. ↩

Weiterdenken

Perspektive beitragen