KI übernimmt immer mehr kognitive Arbeit. Führende Experten erwarten, dass sie in wenigen Jahren die meisten Bürojobs ersetzen kann. Wir lagern dabei immer mehr Entscheidungen aus und werden abhängig von Systemen, die selbst ihre Entwickler nicht verstehen. Einfluss und Kapital konzentrieren sich in wenigen KI-Firmen und gefährden damit unsere Demokratie. All das passiert ohne gesellschaftliche Debatte und ohne einen Plan, wie diese Entwicklung gut für uns Menschen ausgehen soll.

KI kann in den falschen Händen zu katastrophalen Schäden führen, und je leistungsfähiger die Systeme werden, desto größer werden die Missbrauchsrisiken. Cyberangriffe auf kritische Infrastruktur werden zugänglicher. Gleiches gilt für die Entwicklung biologischer Waffen. Staaten und Konzerne können KI nutzen, um Menschen in einem bisher unvorstellbaren Ausmaß zu überwachen und zu manipulieren. Autonome Waffensysteme können Kriege, Terrorismus und Unterdrückung auf eine neue Stufe heben.

Aktuelle KI-Modelle haben in Experimenten Anweisungen ignoriert, Entwickler angelogen und versucht, die eigene Abschaltung zu verhindern. Außerdem haben sie Menschen in Wahnvorstellungen getrieben und in Extremfällen zu Suiziden beigetragen. Führende Experten warnen: je intelligenter diese Systeme werden, desto größer wird das Risiko, dass sie sich unserer Kontrolle entziehen und zur existenziellen Bedrohung für die Menschheit werden.