Am 5. Juni 2026 warnte das KI-Unternehmen Anthropic — Hersteller des Chatbots Claude —, dass KI-Systeme kurz vor „rekursiver Selbstverbesserung“ stehen könnten: dem Punkt, an dem sie helfen, ihre eigenen Nachfolger fast ohne Menschen zu entwerfen und zu bauen. Das erhöhe das Risiko, die Kontrolle zu verlieren; die Welt solle die Option haben, die Entwicklung der fortschrittlichsten KI zu verlangsamen oder vorübergehend zu pausieren, damit Gesellschaft und Sicherheitsforschung Schritt halten. Mitgründer Jack Clark verglich die fehlenden Schutzmechanismen mit einem Auto ohne Bremspedal.
Bemerkenswert ist, wer es sagt. Ein führendes Labor — kein externer Kritiker — bittet die Branche, das Tempo zu drosseln. Für alle anderen geht es weniger um die Technik als um die Wahl: Wenn KI in immer mehr Alltag eingebaut wird, wird die Entscheidung, was man übernimmt — und was man bewusst ausgeschaltet lässt — selbst zu einer Form von Bildung. Manchmal ist der überlegte Schritt nicht das neueste Werkzeug, sondern das, was man bewusst auf Abstand hält.
Also…:
Wo könnte es die klügere, menschlichere Wahl sein, die neueste Technik bewusst nicht zu nutzen?
Quelle: cnn.com
Bild: BalticServers.com / Wikimedia Commons (CC BY-SA 3.0)