Die technologische Singularität bezeichnet den hypothetischen Zeitpunkt, ab dem künstliche Intelligenz die menschliche übertrifft und ihre Weiterentwicklung selbst übernimmt, sodass sich der weitere technische Fortschritt menschlicher Vorhersage und Kontrolle entzieht. Entlehnt ist der Ausdruck aus der Mathematik, wo eine Singularität einen Punkt markiert, an dem gewohnte Regeln und Berechnungen zusammenbrechen. Den Mechanismus dahinter beschrieb der Statistiker Irving John Good bereits 1965 als Intelligenzexplosion: Eine Maschine, die klüger ist als ihre Entwickler, kann noch klügere Maschinen entwerfen, und dieser Kreislauf beschleunigt sich von selbst. Geläufig wurde der Begriff durch einen Essay des Informatikers und Science-Fiction-Autors Vernor Vinge von 1993 sowie durch den Zukunftsforscher Ray Kurzweil, der den Eintritt der Singularität für das Jahr 2045 prognostiziert.
Von der AGI, einer künstlichen Intelligenz auf allgemein menschlichem Niveau, unterscheidet sich die Singularität durch die Perspektive: AGI beschreibt einen Fähigkeitsstand, die Singularität den Kipppunkt, ab dem daraus eine sich selbst beschleunigende Superintelligenz entstünde. Ob und wann es dazu kommt, ist in der Forschung umstritten. Befürworter verweisen auf das exponentielle Wachstum von Rechenleistung und Modellfähigkeiten, Kritiker auf physikalische und ökonomische Grenzen sowie darauf, dass sich Intelligenz nicht wie eine einzelne Messgröße beliebig steigern lässt.
Für die Unternehmenspraxis ist die Singularität kein Planungsszenario, sondern ein Gedankenmodell, das die Debatte über KI-Sicherheit und existenzielle Risiken prägt, etwa in der Risikoschätzung P(DOOM). Die KI-VO (Verordnung (EU) 2024/1689) setzt entsprechend nicht bei hypothetischer Superintelligenz an, sondern bei konkreten Risiken heutiger Systeme, von Transparenzpflichten für Chatbots bis zu Auflagen für Hochrisiko-Anwendungen.