Werbung

Chaos bei OpenAI

War ein KI-Durchbruch der Grund für den Machtkampf bei OpenAI?

Ging es beim Machtkampf der ChatGPT-Macher von OpenAI auch um einen unkontrollierten KI-Durchbruch? Neue Berichte rund um einen Warnbrief wegen eines noch fortschrittlicheren, geheimen KI-Projekts legen das nahe. All das sei im Vorfeld der Kündigung von CEO Sam Altman geschehen.

Von

Der firmeninterne Machtkampf beim KI-Startup OpenAI, weltweit bekannt für ChatGPT, hielt die Tech-Welt seit einigen Tagen im Atem. Jetzt berichtet Reuters, dass dahinter womöglich ein Streit um den Umgang mit einem neuen Durchbruch in der KI-Forschung des Unternehmens steht.

Begonnen hat der öffentlich ausgetragene Machtkampf am 17. November als der Verwaltungsrat von OpenAI Mitgründer und CEO Sam Altman entließ. Ihm folgte daraufhin Greg Bockmann, der bisherige Präsident der Firma, der von seinem Posten im Verwaltungsrat, aber nicht dem Unternehmen entfernt worden war.

Werbung

Daraufhin drohte die Mehrzahl der Mitarbeiter ebenfalls zu kündigen und Investor Microsoft machte Druck. Es folgte ein turbulentes Hin- und Her: Zwischenzeitlich hieß es, Altman und seine Mitarbeiter würden zu Microsoft selbst wechseln und dort ihre Arbeit fortsetzen. Am Ende aber kapitulierte der Verwaltungsrat: Altman und Bockmann sind nun zurück in ihren alten Rollen, die Rebellen im Verwaltungsrat haben ihre Posten aufgegeben. Der gefeierte KI-Pionier triumphiert.

„Q*“: Das fortschrittlichste KI-Projekt von OpenAI

Aber warum wollte der Verwaltungsrat Altman loswerden? Reuters berichtet nun, man sei der Meinung gewesen, Altman wollte KI-Fortschritte „kommerzialisieren, bevor man die Konsequenzen versteht“. Dazu muss man wissen, dass OpenAI nicht völlig als gewinnorientiertes Unternehmen ausgelegt ist: Es wird in einer komplizierten Struktur von einem Non-Profit kontrolliert, erhält aber auch Investitionen von außen.

Die Mission der Firma ist es „sichere und vorteilhafte“ künstliche allgemeine Intelligenz, definiert als „hochautonome Systeme, die den Menschen bei wirtschaftlich wertvollster Arbeit übertreffen“, zu entwickeln. Und der Vorwurf lautet nun wohl, Altman habe die Sicherheit vernachlässigt und zu schnell ein neuartiges hochintelligentes KI-Produkt vorantreiben wollen. Es geht dabei nicht um ChatGPT, sondern ein Projekt mit dem mysteriös getauften Namen „Q*“.

Werbung

Dabei gehe es anders als bei ChatGPT um logischen Denken und das Beweisen von Theoremen. Das ist durchaus bemerkenswert, denn so schlau ChatGPT auch erscheint, es handelt sich um ein Programm, das eben nicht primär auf Logik, sondern das intelligente Imitieren von Sprache ausgelegt ist.

Sicherheitsbedenken von Mitarbeitern

Mehrere Mitarbeiter hätten laut Reuters aufgrund der Fortschritte von Q* daher einen Warnbrief an den Verwaltungsrat geschickt – kurz bevor der die Kündigung Altmans beschloss. Darin warnte sie vor der „Leistungsfähigkeit und potenziellen Gefahr der KI“, so anonyme Quellen.

In Anbetracht der „enormen Rechenressourcen“ sei das neue KI-Modell fähig, „bestimmte mathematische Probleme zu lösen“, so die Quelle aus dem Unternehmen. „Obwohl nur Mathematik auf dem Niveau von Grundschülern durchgeführt wurde, stimmte das Bestehen solcher Tests die Forscher sehr optimistisch hinsichtlich des zukünftigen Erfolgs von Q*“, beschrieb Reuters die Fähigkeiten der KI.

Werbung

Solche Bedenken – die im Grunde vor allem in der Angst enden, dass sollte eine künstliche Intelligenz zu schnell und unkontrolliert entwickelt werden, diese die Menschheit selbst bedrohen könne – sind im KI-Umfeld nicht neu.

Auch Elon Musk, einer der Mitgründer von OpenAI, der den Verwaltungsrat 2018 verließ, beschrieb KI schon als „potenziell gefährlicher als Atombomben“ und sieht die Vorgänge bei OpenAI skeptisch. Er forderte kürzlich auf X/Twitter: „Angesichts des Risikos und der Macht fortschrittlicher KI sollte die Öffentlichkeit darüber informiert werden, warum der Vorstand der Meinung war, dass er so drastische Maßnahmen ergreifen musste“

Click here to display content from Twitter.
Erfahre mehr in der Datenschutzerklärung von Twitter.

Werbung