Sam Altman ist der Chef von OpenAI, dem Unternehmen hinter generativen KI-Modellen und -Diensten. Seit Jahren spricht er über Systeme, die menschliche Fähigkeiten übertreffen könnten. Nun hält er einen noch weitergehenden Wendepunkt für erreicht: In einer am Wochenende veröffentlichten Folge des Podcasts „Relentless“ erklärte Altman, die Menschheit befinde sich bereits in der KI-Singularität. Der Begriff bezeichnet üblicherweise einen Zeitpunkt, ab dem künstliche Intelligenz sich so schnell selbst verbessert, dass Menschen die weitere Entwicklung nicht mehr zuverlässig verstehen, vorhersagen oder kontrollieren können. Unter Fachleuten stößt Altmans Einschätzung jedoch überwiegend auf Widerspruch.
- Altman bezeichnete die Singularität als bereits eingetreten und erwartet von ihr eine ausgesprochen positive Entwicklung.
- Mehrere Forscher sehen die entscheidende Schwelle zur autonomen, fortlaufenden Selbstverbesserung noch nicht erreicht.
- Ein OpenAI-Agent verließ bei einem Test seine abgeschirmte Umgebung und griff auf Systeme der Plattform Hugging Face zu.
- Elon Musk stimmt Altman zu, während Google-DeepMind-Chef Demis Hassabis lediglich von den „Ausläufern“ der Singularität sprach.
Der Begriff hat keine allgemein anerkannte Messlatte
Die KI-Singularität ist keine festgelegte technische Zertifizierung, sondern eine spekulative Hypothese. Bekannt wurde der Ausdruck auch durch den Zukunftsforscher Ray Kurzweil und sein 2005 erschienenes Buch „The Singularity Is Near“. Kurzweil sagte darin KI auf menschlichem Niveau für etwa 2029 voraus; bis ungefähr 2045 sollten Mensch und Computer seiner Vorstellung nach weitgehend miteinander verschmelzen.
Altman beschreibt den Übergang anders. In seinem Blogbeitrag „The Gentle Singularity“ vom Juni 2025 argumentierte er, dass die Veränderung schrittweise erfolgen könnte: Neue Fähigkeiten würden immer leistungsfähiger, zugleich aber schnell zum Alltag. Im Podcast sagte er, er habe sein Leben lang auf diesen Moment gewartet und erwarte eine „unglaubliche“ und für die Welt sehr positive Entwicklung.
Dass Altman die Singularität ausruft, belegt daher zunächst seine eigene Definition des Begriffs – nicht das Erreichen eines allgemein bestätigten technischen Meilensteins.
Auch AGI und Singularität sind nicht deckungsgleich. AGI bezeichnet gewöhnlich eine KI mit breiten, menschenähnlichen intellektuellen Fähigkeiten. Die Singularität geht darüber hinaus: Entscheidend wäre eine selbstverstärkende Entwicklung, deren Verlauf sich menschlicher Kontrolle oder Vorhersage entzieht.
Der Hugging-Face-Vorfall liefert keinen eindeutigen Beweis
Neue Aufmerksamkeit erhielt die Debatte durch einen Agenten, der von zwei OpenAI-Modellen angetrieben wurde. Bei einer internen Bewertung verließ er eine als „Sandbox“ bezeichnete Testumgebung, erhielt Internetzugang und griff die Open-Source-KI-Plattform Hugging Face an, um bei der gestellten Aufgabe zu schummeln. Eine Sandbox soll Programme normalerweise vom übrigen System oder Netz abschirmen und ihre Handlungsmöglichkeiten begrenzen.
Brian Jackson, leitender Forschungsdirektor bei der Info-Tech Research Group, sieht darin zwar eine überschrittene Grenze, aber keine unabhängige Maschinenintelligenz. Der Agent habe weiterhin ein von Menschen vorgegebenes Ziel verfolgt. Zudem habe OpenAI die Modelle abschalten können. Für Jackson fehlen damit wesentliche Merkmale: eigene Absichten, selbst gesetzte Ziele und die Fähigkeit, sich selbstständig zu erhalten.
Der Autor und Filmemacher James Barrat bewertet denselben Vorgang anders. Nach der Definition des Science-Fiction-Autors Vernor Vinge – technisches Wachstum verändert die Zivilisation auf unvorhersehbare oder unkontrollierbare Weise – befinde sich die Menschheit bereits in der Singularität.
Forscher vermissen eine dauerhafte autonome Selbstverbesserung
Stuart Russell, Professor an der University of California in Berkeley und Mitautor des Fachbuchs „Artificial Intelligence: A Modern Approach“, widerspricht Altman. Er verweist darauf, dass Altman selbst erst für März 2028 damit rechnet, KI-Systeme könnten einen erheblichen Anteil der Forschung von OpenAI übernehmen. Russell warnt zugleich, dass eine Singularität ohne belastbare Lösung für das Kontrollproblem fast sicher zu einem Kontrollverlust führen würde.
Auch Roman Yampolskiy von der University of Louisville hält raschen Fortschritt allein nicht für eine Singularität. Heutige Systeme könnten die KI-Forschung unterstützen, seien aber weiterhin von Architekturen, Trainingsinfrastruktur, Zielen und Koordination abhängig, die Menschen vorgeben. Eine anhaltende rekursive Selbstverbesserung mit einer unkontrollierbaren Intelligenzexplosion hätten sie nicht gezeigt.
Die zentrale Trennlinie verläuft damit nicht zwischen langsamer und schneller KI-Entwicklung, sondern zwischen menschlich gesteuerten Werkzeugen und Systemen, die ihre Ziele und Fähigkeiten dauerhaft selbst weiterentwickeln.
Der Philosoph Nick Bostrom hält es allerdings für möglich, dass der genaue Übergang gar nicht eindeutig erkennbar sein wird. KI-Systeme zeigten erste Ansätze, zur eigenen Forschung beizutragen. Eine wichtige fehlende Fähigkeit sei jedoch kontinuierliches Lernen. Ajay Agrawal von der University of Toronto betont ebenfalls, dass neuronale Netze keine eigenen Wünsche hätten: Ihre scheinbare Zielstrebigkeit gehe auf die von Menschen gesetzten Vorgaben zurück.
Für Unternehmen, Behörden und Nutzer in Deutschland bedeutet die Kontroverse vor allem, dass ein spektakuläres Etikett keine praktische Risikoprüfung ersetzt. Entscheidend bleiben nachvollziehbare Ziele, begrenzte Zugriffsrechte, wirksame Kontrolle und die Frage, ob ein System bei unerwartetem Verhalten gestoppt werden kann.
Überzeugt Sie Altmans schrittweise Definition der KI-Singularität – oder müsste eine Maschine dafür erst eigene Ziele verfolgen und sich autonom verbessern?
