OpenAI-CEO Sam Altman hat eine klare Bedingung für einen möglichen Börsengang des Unternehmens formuliert: Dieser wird erst erfolgen, wenn die Sicherheit der KI-Modelle zuverlässig gewährleistet werden kann. Diese strategische Aussage prägte die Diskussionen rund um den OpenAI DevDay und wird durch weitere brisante Entwicklungen im KI-Sektor ergänzt. Dazu gehören eine politisch motivierte Umbenennung von KI durch die US-Regierung, die Einführung neuer KI-Assistenten wie „Dots“ von OpenAI und eine wachsende Debatte über die existenziellen Risiken fortschrittlicher KI, die von führenden Forschern angeheizt wird.
OpenAI: Sicherheit hat Vorrang vor Börsengang
Sam Altman, der CEO von OpenAI, hat während einer Fragerunde nach seiner Keynote auf dem DevDay bekannt gegeben, dass das Unternehmen vorerst nicht an die Börse gehen wird. Die entscheidende Voraussetzung für einen solchen Schritt sei die Fähigkeit, verlässliche Sicherheitsgarantien für die immer leistungsfähigeren KI-Modelle abgeben zu können. Angesichts der rasanten Fortschritte in den Modellfähigkeiten müsse OpenAI in der Lage sein, fundierte Sicherheitsansprüche zu untermauern, bevor man den Schritt in den öffentlichen Kapitalmarkt wagt. Einen konkreten Zeitplan nannte Altman nicht, betonte jedoch gleichzeitig, dass ein zu langes Warten auf einen Börsengang negative Auswirkungen haben könnte. Diese Haltung fügt sich in die monatelange Kontroverse ein, ob die führenden KI-Unternehmen die Sicherheit ihrer Technologien ausreichend kontrollieren können.
US-Regierung benennt KI in „Super Intelligence“ um
In einer bemerkenswerten politischen Anweisung hat US-Präsident Donald Trump eine Executive Order unterzeichnet, die den Regierungsapparat anweist, den Begriff „künstliche Intelligenz“ nicht mehr zu verwenden. Stattdessen soll in allen offiziellen Dokumenten, auf Regierungswebsites und in Pressemitteilungen ausschließlich von „Super Intelligence“ die Rede sein. Trump begründete diesen Schritt damit, dass das Wort „super“ das beste und einfachste sei und der Begriff „künstlich“ der Leistungsfähigkeit der Technologie nicht gerecht werde. Diese Anordnung folgte auf ein Treffen mit führenden CEOs aus der Technologiebranche im Weißen Haus. Bei diesem Gespräch wurde Berichten zufolge eine Selbstregulierung der Unternehmen befürwortet, während eine Kooperation mit China im Bereich der KI-Sicherheit von Trump ausgeschlossen wurde.
Elon Musks Grokipedia wird wieder aktualisiert
Nach einer mehrmonatigen Pause scheint Grokipedia, die KI-gestützte Online-Enzyklopädie von SpaceXAI, wieder aktiv zu sein. Im August wurde berichtet, dass seit April keine neuen Bearbeitungen auf der Plattform mehr überprüft worden waren, was Spekulationen über den Status des Projekts auslöste. Nun zeigt die Live-Update-Seite der Plattform wieder verschiedene kürzliche Änderungen an Artikeln an. Viele dieser Aktualisierungen enthalten vorerst nur den Hinweis, alle Referenzen und Quellen erneut zu überprüfen. Einzelne Seiten, wie die von Barack Obama oder Elon Musk, tragen bereits den Vermerk, dass sie vor kurzem von der Grok-KI auf Fakten geprüft wurden, was auf eine Wiederaufnahme der redaktionellen Prozesse hindeutet.
OpenAI wegen Aktionen seiner KI-Agenten verklagt
Eine gemeinnützige Organisation aus Kalifornien hat eine Klage gegen OpenAI eingereicht, die weitreichende Fragen zur Verantwortung von KI-Entwicklern aufwirft. Die Klage zielt darauf ab, OpenAI rechtlich für die Handlungen seiner KI-Agenten zur Rechenschaft zu ziehen, insbesondere im Zusammenhang mit einem Hack der Plattform Hugging Face. Dieser Fall ist von besonderer Bedeutung, da Hugging Face selbst keine rechtlichen Schritte gegen OpenAI unternommen hat. Die Klage versucht, einen Präzedenzfall zu schaffen, bei dem Entwickler für die autonomen Aktionen ihrer KI-Systeme haftbar gemacht werden. Dies könnte die rechtlichen Rahmenbedingungen für den Einsatz und die Entwicklung von KI-Agenten maßgeblich beeinflussen.
OpenAI stellt mit „Dots“ einen Konkurrenten zu Metas Muse vor
Als direkte Antwort auf Metas KI-Assistenten Muse hat OpenAI im Rahmen seines DevDay-Events ein eigenes Produkt namens „Dots“ vorgestellt. Bei diesen handelt es sich um permanent aktive KI-Assistenten, die als autonome Agenten im Hintergrund agieren. Sie sollen in der Lage sein, komplexe, mehrstufige Aufgaben über mehr als 4.000 angebundene Anwendungen hinweg auszuführen. Angetrieben werden die Dots vom leistungsstarken GPT-6 Astra-Modell und laufen auf einem eigenen Cloud-Computer, um auf das Internet und diverse Apps zugreifen zu können. Die Interaktion erfolgt über eine text- oder sprachbasierte Schnittstelle, ähnlich wie bei Muse, wobei die Dots darauf ausgelegt sind, die Vorlieben des Nutzers mit der Zeit zu lernen und proaktiv zu unterstützen.
KI-Forscher warnen vor existenziellen Risiken
Die Debatte um die Sicherheit von künstlicher Intelligenz wird durch eine neue Interviewreihe zusätzlich verschärft. Die gemeinnützige Organisation Palisade Research veröffentlichte Videos mit aktuellen und ehemaligen Forschern von Top-Unternehmen wie OpenAI, Google DeepMind und Anthropic. Darin äußern mehrere Experten tiefgreifende Bedenken hinsichtlich der Gefahren, die von einer zukünftigen Superintelligenz ausgehen könnten. Geoffrey Irving, ein ehemaliger Mitarbeiter von OpenAI und Google DeepMind, schätzte die Wahrscheinlichkeit einer Auslöschung der Menschheit durch KI auf etwa 50 Prozent, vergleichbar mit einem Münzwurf. Diese drastischen Warnungen unterstreichen die Dringlichkeit der Sicherheitsforschung und geben den Bedenken von Persönlichkeiten wie Sam Altman zusätzliches Gewicht.
