Diese Woche ist mir eine LinkedIn-Umfrage in den Feed gespült worden: Warum warnen ausgerechnet die Leute, die die stärksten KI-Systeme der Welt bauen, ständig davor, dass genau diese Systeme die Zivilisation beenden könnten? Sechs Antwortmöglichkeiten, ein klares Muster in den Stimmen: „Echte Sorge” landete nicht auf Platz eins. Regulatory Capture und Ablenkung von den heutigen Problemen lagen vorn.
Dieses Ergebnis sollte dich mehr beunruhigen als die Weltuntergangs-Warnungen selbst. Es zeigt nämlich, wie dein eigenes Führungsteam solche Aussagen wahrscheinlich liest – mit Skepsis, teilweise grenzend an Zynismus. Wenn du gerade die KI-Strategie für deine Organisation festlegst, brauchst du eine schärfere Einordnung als „die haben Angst” oder „die lügen”. Die ehrliche Antwort ist unordentlicher, und sie ist relevant für die Entscheidungen, die du gerade zu Anbietern, Governance und Risikobudget triffst.
Die Warnungen sind echt, und sie kommen von seriösen Leuten
Fangen wir mit der Tatsache an, dass das keine reine Marketing-Show ist. Sam Altman hat 2023 vor dem US-Senat ausgesagt und Lizenzpflicht sowie Aufsicht für Frontier-KI gefordert. Elon Musk warnt wiederholt vor „ziviler Zerstörung”. Geoffrey Hinton hat Google gezielt verlassen, um frei über die Risiken sprechen zu können, und erzählte 60 Minutes, dass er sein Lebenswerk bereut. Hunderte Forscher und Führungskräfte, Musk eingeschlossen, unterzeichneten den Pause-Letter, der eine sechsmonatige Pause bei großen Trainingsläufen forderte. Altman selbst unterschrieb das CAIS-Statement, das das Aussterberisiko durch KI auf eine Stufe mit Pandemien und Atomkrieg stellt.
Nichts davon liest sich, als würden Leute das für nichts halten. Was auch immer sonst noch dahintersteckt: Wer die Sorge komplett abtut, ignoriert einen Chor, zu dem einige der technisch glaubwürdigsten Stimmen des Feldes gehören.
Aber Eigeninteresse muss keine Verschwörung sein, um real zu sein
Hier liegt der Teil, der bei der Gegenüberstellung „echte Sorge versus zynisches Kalkül” verloren geht: Beides schließt sich nicht aus – und genau diese Entweder-oder-Logik ist der Grund, warum die LinkedIn-Umfrage so gesplittet hat. Ein CEO kann glauben, dass die Technologie gefährlich ist, und gleichzeitig erkennen, dass es fürs eigene Unternehmen gut ist, als Erster darauf hingewiesen zu haben. Altman darf sowohl das Gewissen der Branche sein als auch die Person, die Milliarden einsammelt, um genau das zu bauen, wovor er warnt. Das ist keine Heuchelei im simplen Sinne – es ist das, was passiert, wenn die Anreizstruktur lautes Vorsichtigsein belohnt, während alle gleich schnell weiterbauen.
Regulatory Capture passt in dasselbe Bild, und das ist der Teil, den Entscheider am genauesten beobachten sollten. Regeln, die teure Sicherheitsprüfungen, Lizenzregime oder Rechenleistungs-Schwellen verlangen, klingen im Prinzip verantwortungsbewusst. In der Praxis können nur die Labs mit den größten Bilanzen diese Compliance-Kosten stemmen. Ein Rahmenwerk, das sich OpenAI oder Anthropic leisten können, ist ein Burggraben gegen das nächste gut finanzierte Startup, das mit kleinerem Budget mithalten will. Regulatoren vor existenziellem Risiko zu warnen und anschließend bei den Regeln mitzuschreiben, die die eigene Position zementieren, ist kein Widerspruch – es ist eine kohärente Strategie, egal ob sie so geplant war oder nicht.
Auch die Skeptiker sind keine Spinner
Stell die Warnungen dem Gegenwind gegenüber, denn der ist inhaltlich fundiert, nicht am Rand. Yann LeCun, bis vor Kurzem Chef-KI-Wissenschaftler bei Meta, nennt Weltuntergangs-Rhetorik „absurd” und argumentiert, aktuelle Systeme seien meilenweit von der allgemeinen Fähigkeit entfernt, die die Warnungen unterstellen. Andrew Ng wird noch deutlicher und beschreibt die Extinction-Erzählung eher als Science-Fiction und PR-Positionierung denn als technische Realität – und weist darauf hin, dass sie bequemerweise von konkreten Schäden ablenkt, die heute schon passieren: verzerrte Einstellungsalgorithmen, Jobverdrängung, ungelöste Urheberrechtsstreitigkeiten und der Energiebedarf immer größerer Trainingsläufe.
Genau diesen letzten Punkt würde ich deinem Führungsteam vorlegen. Was auch immer du über das langfristige Risiko denkst: Die Probleme, mit denen deine Organisation dieses Jahr wirklich zu tun bekommt, sind Bias in einem Modell, das du im Einsatz hast, ein IP-Streit über Trainingsdaten oder ein Audit, das nach dem Energieverbrauch deiner KI-Workloads fragt. Diese Risiken lassen sich jetzt schon regeln – mit Richtlinien, Tests und Beschaffungsstandards, die du in diesem Quartal aufsetzen kannst.
Was das für deine KI-Governance jetzt bedeutet
Wenn du entscheidest, wo Aufmerksamkeit und Budget hinfließen, lass dir die Agenda nicht von der Extinction-Erzählung diktieren. Es ist eine echte Debatte unter seriösen Leuten, aber es ist nicht das Risiko, das in deinem Backlog liegt. Praktisch heißt das:
- Trenne die Debatte von deiner Roadmap. Verfolge die Frontier-Safety-Diskussion als Kontext, aber lass sie nicht die Governance der Systeme ersetzen, die du heute tatsächlich betreibst.
- Lies Regulierung durch eine Wettbewerbslinse, nicht nur durch eine Sicherheitslinse. Frag dich, wen eine vorgeschlagene Regel tatsächlich schützt, bevor du dafür oder dagegen Lobbyarbeit machst.
- Finanziere die langweiligen Risiken. Bias-Tests, Datenherkunft und Kosten-/Energie-Monitoring schaffen keine Schlagzeilen, aber sie sind die Ausfälle, die zuerst auf deinem Tisch landen.
Was auch immer die wahre Mischung der Motive hinter den Warnungen ist – die CEOs bauen die Modelle trotzdem weiter. Deine Governance kann nicht darauf warten, dass die sich einigen, welcher Grund der wahre ist.
Wie liest du das – passt du dein KI-Risikoregister wegen der Extinction-Warnungen an, oder ignorierst du sie komplett zugunsten der Probleme, die schon auf deinem Tisch liegen?