“Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.” Das schreibt die gemeinnützige Organisation Future of Life in einem am 22. März publizierten offenen Brief, der knapp einen Monat später bereits von über 26.000 Entwicklern, Unternehmern und Forschern unterzeichnet wurde. Zu den Unterstützern der im Brief geäußerten Forderungen gehören neben Tesla-Chef Elon Musk unter anderem Turing-Preisträger Yoshua Bengio und Apple-Mitgründer Steve Wozniak. Auch der weltberühmte Schriftsteller und Historiker Yuval Noah Harari hat bereits unterzeichnet.
Die Forderung: sechs Monate lang sollen hochintelligente KIs nicht trainiert werden
In dem Brief stellen die Expertinnen und Experten die Frage nach der Moral und danach, wie wir uns als Gesellschaft entwickeln wollen: “Sollten wir nicht-menschliche Köpfe entwickeln, die uns irgendwann zahlenmäßig überlegen sein könnten, schlauer sein könnten als wir und uns überflüssig machen und [dann] ersetzen könnten? Sollten wir es riskieren, die Kontrolle über die Gesellschaft zu verlieren?”
Während sich ihre Meinungen in diesen Fragen unterscheiden mögen, sind sich doch alle Unterzeichnenden in einem Punkt einig: Bevor es tatsächlich dazu kommt, sollte sich die Gesellschaft ihrer Ansicht nach gemeinsam für einen Weg entscheiden und ein Regelwerk für die Entwicklung und Nutzung von KIs schreiben – und zwar am besten schon gestern. “Wir rufen alle KI-Labs dazu auf, das Trainieren von KI-Systemen, die mächtiger sind als GPT-4, ab sofort für mindestens sechs Monate zu pausieren”, heißt es in dem offenen Brief. Damit werde keinesfalls eine absolute Entwicklungspause gefordert, sondern vielmehr, dass Firmen, Forscher und Entwickler einen Schritt zurücktreten von dem gefährlichen Wettrennen, das aktuell im Bereich künstliche Intelligenz stattfinde. In der sechsmonatigen Pause, so die Unterzeichnenden, solle die gesamte Branche einheitlich den Fokus auf Sicherheit und Zuverlässigkeit der neuen Technologie setzen.
Experten: KIs könnten die Informationskanäle manipulieren
Grund für die Forderungen ist, dass Future of Life und die Unterzeichnenden aktuell in besonders intelligenten KIs “tiefgreifende Risiken für die Gesellschaft und die Menschheit” sehen. So sei es nicht abwegig, dass KIs in naher Zukunft Informationskanäle mit Propaganda und Unwahrheiten fluten. Solche Risiken seien unbedingt einzuschränken, bevor mit dem Training bestehender und neuer mächtiger KIs fortgefahren wird.
Neben der gemeinsamen Entwicklung eines Regelwerks für den Umgang mit künstlicher Intelligenz fordern die Unterzeichnenden, dass alle Entwicklerinnen und Entwickler ihre bestehende und zukünftige Arbeit öffentlich nachprüfbar auf öffentlichen Plattformen zugänglich machen. Weiter fordern sie von allen Staaten ein Moratorium, sollte dies nicht eingehalten werden und sollte die Branche nicht bald ein für alle gültiges Regelwerk schreiben.
Redaktion finanzen.net
Der Hebel muss zwischen 2 und 20 liegen
Keine Daten
Bildquellen: Joshua Lott/Getty Images, Diego Donamaria/Getty Images for SXSW
