After the San Francisco start-up OpenAI released a new version of ChatGPT in March, more than 1,000 technology leaders and researchers signed an open letter calling for a six-month moratorium on the development of new systems because A.I. technologies pose “profound risks to society and humanity.”

Das wirklich Neuartige am KI-Problem ist: Dieses Wettrüsten läuft komplett im privaten Sektor ab. Es sind Unternehmen, die gerade diese neuen KIProgramme veröffentlichen – und es sind Privatpersonen, die sie nutzen und gegebenenfalls missbrauchen. Deswegen brachte Ende März das vom KI-Forscher Max Tegmark initiierte Future of Life Institute die Idee eines freiwilligen Entwicklungsstopps für jede KI auf, die stärker ist als GPT-4. Zahlreiche wichtige Forscherinnen und Unternehmensführer haben das unterschrieben. Die Entwicklung soll für ein halbes Jahr gestoppt werden, um erst mal die Risiken zu evaluieren.

Andere schauen weiter in die Zukunft. Sie warnen davor, was passieren könnte, wenn KI in der aktuellen Geschwindigkeit weiterentwickelt wird. Dann könnte sie aus deren Sicht genauso intelligent werden wie Menschen oder sogar noch intelligenter. Artificial general intelligence (AGI), nennen Forscher das, manche sprechen auch von starker KI oder von Superintelligenz. Eine solche Intelligenz könnte uns Menschen "irgendwann überflügeln, überflüssig machen und ersetzen." Das schrieb jedenfalls eine Gruppe KI-Wissenschaftler und Techpromis vergangene Woche in einem offenen Brief. Sie forderten deshalb, entsprechende Systeme erst mal nicht weiterzuentwickeln, sondern stattdessen eine sechsmonatige Pause einzulegen. In dieser Pause sollten Sicherheitsmaßnahmen entwickelt werden, um sicherzustellen, dass eine eventuelle Superintelligenz der Menschheit bei der Lösung ihrer Probleme hilft – statt außer Kontrolle zu geraten und uns zu schaden.