OpenAI-Aktie: Verzögerung beim Börsengang - Amerikanische KI-Bosse für verlangsamte Entwicklung - Anthropic will an NASDAQ

ChatGPT löste vor mehreren Jahren den aktuellen Hype um Künstliche Intelligenz aus. OpenAI dürfte beim Börsengang nicht nur Dutzende Milliarden Dollar einnehmen, sondern auch eine sehr hohe Bewertung erzielen. Die Aktienplatzierung wird schon länger geplant.

Angst vor Künstlicher Intelligenz

Seit Wochen gibt es große Sorgen um Risiken Künstlicher Intelligenz, die vor allem von Hacking-Attacken durch KI-Software ausgelöst wurden, die sich in Testläufen selbstständig gemacht hatte. Die Debatte wurde in den vergangenen Tagen noch von einem Forscher der KI-Firma Anthropic angeheizt, der mit einer drastischen Warnung zurücktrat. Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich "und spielen mit unseren Leben", betonte der junge Mann namens Jacob Coxon.

Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit den Interessen der Menschen im Einklang bleibt, bestätigte wenig später Coxons Sorgen. Er persönlich denke, die Gefahr, dass KI die Menschheit töte, liege im kommenden Jahrzehnt bei mehr als zehn Prozent, schrieb er auf der Online-Plattform X.

In den USA gibt es zudem eine wachsende Bewegung gegen riesige Rechenzentren, auf deren Bau KI-Firmen wie OpenAI für den Ausbau ihres Geschäfts angewiesen sind.

Amerikanische KI-Bosse für verlangsamte Entwicklung

Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz zeigen sich große amerikanische KI-Firmen nach eigenen Angaben bereit, die Entwicklung der Technologie zu verlangsamen. Dario Amodei, Chef des KI-Unternehmens Anthropic, machte einen solchen Vorstoß mit dem Plan, damit ein bis zwei Jahre Zeit zu gewinnen. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk, der bei seiner Firma SpaceX eigene KI entwickeln lässt.

Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei am Samstag. Altman von OpenAI schrieb wenige Stunden später auf der Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle verlangsamt werden müsse.

Amodei plädierte für eine koordinierte branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic - ohne auf andere zu warten - in einem ersten Schritt dauerhaft unabhängige Beobachter ins

Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde. Auch Musk, lange ein Kritiker Amodeis, schrieb auf X: "Dario hat recht."

ChatGPT löste vor mehreren Jahren den aktuellen Hype um Künstliche Intelligenz aus. OpenAI dürfte beim Börsengang nicht nur Dutzende Milliarden Dollar einnehmen, sondern auch eine sehr hohe Bewertung erzielen. Die Aktienplatzierung wird schon länger geplant.

Bei der jüngst bekanntgewordenen aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus - und sprachen sich zudem untereinander ab.

Warnung von "katastrophalem Schaden"

Für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben Einstellung und größeren Fähigkeiten "katastrophalen Schaden" hätte anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz besser darin - und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.

Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt - und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA - etwa auch im Weißen Haus von Präsident Donald Trump - ist der Wettlauf mit China.

Trump beschwichtigt - Obama mahnt

Trump spielte die Sorgen auch jetzt wieder herunter. Die USA seien bei Künstlicher Intelligenz China weit voraus und führend in der Welt, weil der Erfolg bei KI essenziell für die Zukunft sei, sagte Trump am Rande seines Besuchs in Irland. Man könne die Technologie mit Leitplanken versehen. Zugleich sprach Trump von "negativen Kräften", die sich zu dem Thema äußerten.

Auch Trumps Wirtschaftsberater Kevin Hassett nannte KI-Sicherheit ein "lösbares Problem" - bewertete die Vorschläge von Amodei aber positiv. Sie seien "ein guter Schritt vorwärts", sagte er beim Sender Fox News.

Unterdessen erkannten die US-Demokraten, die bei den Kongresswahlen im November Trumps Republikanern die Mehrheiten in Repräsentantenhaus und Senat abzunehmen hoffen, unterdessen die Brisanz des Themas. Ex-Präsident Barack Obama rief die Demokraten der "New York Times" zufolge auf, politische Strategien zu entwickeln, um diesem Thema in den kommenden Jahren Priorität einzuräumen. Präsidentschaftskandidaten für das Jahr 2028 sollten das Thema Künstliche Intelligenz zu einem zentralen Anliegen machen.

Drastische Warnung

Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können.

Deutscher Verband: In eigene Modelle investieren

Der Vorstandsvorsitzende des KI-Bundesverbandes, Rasmus Rothe, vermutet unterdessen "knallharte wirtschaftliche Interessen" hinter den Warnungen amerikanischer KI-Labore. Einerseits gebe es eine "wachsende Furcht vor massiven Haftungs- und Schadensersatzrisiken, wenn fehlerhafte Modelle in Firmenumgebungen echten Schaden anrichten". Zum anderen befeure die Warnung die Bewertungen mit Blick auf anstehende Börsengänge. Anders als die USA habe die EU einen klaren rechtlichen Rahmen für KI geschaffen und man müsse in Europa "massiv in wettbewerbsfähige eigene Modelle" investieren.

Anthropic hat sich wohl für NASDAQ-Notierung entschieden

Anthropic, das einen Börsengang im Oktober anstrebt, hat sich laut Business Insider für die NASDAQ als Börsenplatz für seinen möglichen Börsengang entschieden. Dies berichtet das Wirtschaftsportal unter Berufung auf eine mit der Angelegenheit vertraute Person. Die NASDA hatte sich früher in diesem Jahr bereits die Notierung von SpaceX sicher können. Das Raumfahrtunternehmen wurde mit 1,75 Billionen US-Dollar bewertet, und einige Schätzungen gehen bei Anthropic von 2 Billionen US-Dollar aus, obwohl diese Zahl noch nicht endgültig feststeht.

Redaktion finanzen net, mit Material von dpa-AFX