Macht- und Gewinnstreben gefährden KI-Sicherheit

Künstliche Intelligenz Wie Konkurrenzkampf die KI-Sicherheit gefährdet Stand: 24.09.2026 • 14:42 Uhr

Seit Monaten warnen Experten: KI ohne Kontrolle schadet, könnte letztlich die Menschheit gefährden. Doch die Idee globaler Regeln für mehr Sicherheit droht an Macht- und Gewinnstreben zu scheitern.

Autonome KI-Agenten und -Modelle, die aus ihren abgesicherten Umgebungen ausgebrochen sind und reale Systeme im Internet angegriffen haben: Solche Unfälle mit Künstlicher Intelligenz (KI) sollen zwar nur bei Tests vorgekommen sein. Aber es gab sie in den vergangenen Monaten laut KI-Anbietern OpenAI oder Anthropic offenbar vermehrt.

Manche wittern dahinter Marketing - ein öffentliches Schaulaufen darum, wer die intelligenteste KI entwickelt hat. Silja Vöneky, Professorin für Völkerrecht und Rechtsethik an der Albert-Ludwigs-Universität Freiburg, dagegen sagt im Science Media Center: "KI-basierte extreme Risiken und die Warnungen selbst im Jahr 2026 noch als 'Marketing' abzutun, ist meines Erachtens extrem fahrlässig."

Es gebe keine vergleichbar machtvolle Technologie, die so wenig und so unzureichend in ihren Hochrisikobereichen reguliert sei wie Hochrisiko-KI-Modelle, so die Expertin. Nun haben die Chefs der größten US-amerikanischen KI-Firmen vor dem UN-Sicherheitsrat vor den Risiken der Technologie gewarnt.

Die Chefs der größten US-amerikanischen KI-Firmen OpenAI und Anthropic warnen weiter vor ihrer eigenen Technologie. mehr

Drastische Warnungen einzelner Wissenschaftler, dass KI-Modelle die Menschheit schon bald auslöschen könnten, halten die meisten Fachleute zwar für übertrieben. Aber Barbara Engels vom Institut der deutschen Wirtschaft (IW) Köln findet die grundsätzlichen Sicherheitsbedenken nachvollziehbar. "Der gefährliche Wettlauf um immer leistungsfähigere KI-Systeme ist real", sagt sie gegenüber der ARD-Finanzredaktion.

"Unternehmen stehen unter hohem Wettbewerbsdruck und haben deshalb einen Anreiz, schneller mit einem Modell auf den Markt zu gehen, als es vielleicht für gründliche Tests und Sicherheitsvorkehrungen sinnvoll wäre", so Engels. Deshalb brauche es möglichst weltweit verbindliche Sicherheitsanforderungen und unabhängige Prüfungen von KI-Systemen.

Rechtsprofessorin Vöneky meint: "Rechtlich verbindlich können KI-Hochrisikomodelle durch nationales Recht, EU-Recht oder Völkerrecht reguliert und eingehegt werden."

Immer wieder gab es sicherheitsrelevante Vorfälle. So versuchten KI-Systeme in andere Systeme zu gelangen. mehr

KI-Expertin Engels verweist auf erste Ansätze: "Wir haben in der EU mit der KI-Verordnung durchaus schon eine Regulierung, die sich Hochrisikosysteme anschaut. Das Problem ist, dass diese Regulierung nochmal verschoben wurde auf das nächste Jahr."

Außerdem: Die EU gilt als ambitioniert bei KI-Regulierung, wichtige Player wie die USA oder China scheuen dagegen die Reglementierung. Und Experten monieren, dass zwar in verschiedenen Ländern - mittlerweile auch in Deutschland - KI-Sicherheits-Institute gegründet worden seien. Die aber oft lediglich beratend tätig - also im Grunde machtlos seien.

In dieser Woche haben zur UN-Generalversammlung rund 20 Regierungschefs die UN-Mitgliedstaaten aufgefordert, die Einrichtung einer internationalen Institution zu prüfen, die KI-Standards setzen und deren Einhaltung überprüfbar machen soll. IW-Ökonomin Engels ist überzeugt: "Um die Risiken von KI zu minimieren ist es nötig, dass alle mitmachen."

Mehr staatliche Regulierung für Künstliche Intelligenz - US-Präsident Trump hält von dieser Forderung wenig. mehr

Doch hier liegt das Problem: Es tobt ein Kampf um die Vorherrschaft bei KI - der Zukunftstechnologie schlechthin. Die USA führen, doch China hat extrem aufgeholt. US-Präsident Donald Trump will deshalb KI-Regulierung vermeiden.

Und das, obwohl die Chefs einiger US-amerikanischer KI-Firmen jüngst selbst eine allgemeine Drosselung des Entwicklungstempos vorgeschlagen haben. Weil das mörderische Tempo eben nur mit Milliarden-Investitionen gehalten werden kann. Was wieder die Gewinne schmälert.

Gefahr durch Künstliche Intelligenz sieht Peking vor allem im Vorsprung der USA. Droht ein Wettrüsten? mehr

Christian Rieck beschäftigt sich an der Frankfurt University of Applied Sciences mit KI. Er versteht den Wunsch der US-Unternehmen: "Aus wirtschaftlicher Sicht dürfte eine vorübergehende Drosselung des allgemeinen Entwicklungstempos sinnvoll sein", sagt der Wirtschaftswissenschaftler gegenüber der ARD-Finanzredaktion.

Vermutlich auch, um die Konkurrenz aus China auf Abstand zu halten. "Dass die Chinesen dabei mitmachen, halte ich allerdings für sehr unwahrscheinlich. Selbst wenn die Chinesen sagen würden, dass sie ebenfalls das Tempo drosseln, bin ich mir relativ sicher, dass sie in Hinterzimmern einfach weiterentwickeln würden."

Der Wettlauf um die Entwicklung von KI muss dringend verlangsamt werden, meint Anthropic-Chef Amodei. mehr

Solche Vereinbarungen seien daher nicht durchsetzbar, das Misstrauen und die Konkurrenz zu groß. Deshalb warnt KI-Experte Rieck die Europäer - die bei KI-Gesetzgebung als Vorreiter gelten - vor zu viel Regulierung: Wenn Europa auf Nummer sicher gehe und KI besonders intensiv reguliere, führe das nur dazu, dass sich im EU-Raum keinerlei leistungsfähige KI-Modelle verbreiten würden.

Auch die Forschung werde abwandern, sagt Rieck: "Das heißt, wir werden inhaltlich einfach nur abgehängt. Und wir haben kein bisschen KI-Gefahr verhindert, weil die entsprechenden Modelle in anderen Ländern gemacht werden."

Forscher in Deutschland relativieren die Warnungen vor KI und nehmen auch die Entwickler in die Pflicht. mehr

Kristian Kersting, Professor und Leiter des Fachgebiets Maschinelles Lernen an der Technischen Universität Darmstadt, sieht bei KI-Regulierung keine schnelle und umfassende Lösung. "Ein einziges weltweit verbindliches Gremium mit Durchgriffsrecht, vergleichbar dem UN-Sicherheitsrat, ist kurzfristig unrealistisch. Gerade weil die USA, China und die Europäische Union Künstliche Intelligenz auch als strategischen Wettbewerbsvorteil begreifen", schreibt er der ARD-Finanzredaktion.

Statt eines einzelnen "Weltgremiums" sei ein mehrstufiges System realistischer, meint Kersting. Und das scheint im Werden: Die Bundesregierung hat dieses Jahr die Gründung eines KI-Sicherheitsinstituts beschlossen und auf den Weg gebracht. Es soll sich zunächst auf Cybersicherheit von KI-Systemen konzentrieren und ist nach Informationen von KI-Experte Kersting noch nicht als eigenständige Institution mit vollem Forschungs-, Prüf- und Politikberatungsauftrag angelegt.

Auf EU-Ebene übernehme das EU AI Office eine Kontrollfunktion: "Gestützt auf den AI Act als bislang schärfstes verbindliches Regelwerk weltweit", erklärt Kersting. Darüber hinaus gebe es das AI Safety Institute Network als loses Koordinationsforum zwischen Großbritannien, den USA, Japan, Singapur, Südkorea, Kanada, Frankreich und demnächst eben auch Deutschland. Hier könne man unter anderem Prüfstandards und Testmethoden sowie Meldungen über KI-Vorfälle koordinieren.

Die großen KI-Firmen melden immer wieder Zwischenfälle mit Künstlicher Intelligenz. mehr

Ganz gleich, wie klein oder groß die Schritte Richtung KI-Regulierung auf politischer und wirtschaftlicher Ebene in den kommenden Monaten und Jahren sein können: KI-Experte Rieck von der Frankfurt University of Applied Sciences betrachtet sie mit einem gewissen Argwohn.

In seinen Augen wird eine wirksame Regulierung - ob nun lokal oder global - erheblich erschwert, auch weil die KI-Entwicklung immer einfacher werde: "Bei Künstlicher Intelligenz können im Grunde genommen ein paar fähige Studenten, wenn die an vernünftige Hardware rankommen, die gar nicht mal irrwitzig teuer ist, schon mitspielen in dem ganzen KI-Spiel."

Selbst wenn das heutzutage noch nicht zu einer extrem leistungsfähigen KI führe, werde sich das in wenigen Jahren ändern, so Rieck. "Und die Frage ist, wie wollen sie denn das durch eine Regulierung eindämmen? Das halte ich für völlig aussichtslos."

Auch wenn viele Experten es zu früh für eine Bewertung halten dürften, scheint klar, dass es eine der zentralen Fragen von Politik und Wirtschaft werden dürfte, ob und wie Künstliche Intelligenz sinnvoll reguliert werden kann.

Dieses Thema im Programm: tagesschau.de | Globale KI-Regulierung - nötig, aber unrealistisch?! | 23.09.2026 | 13:05 Uhr