Schon heute seien moderne KI-Modelle in der Lage, schwierige Prüfungen zu bestehen und gewonnene Erkenntnisse auf neue Fragen anzuwenden. Die Entstehung einer sogenannten Superintelligenz, die das menschliche Gehirn überflügelt, sei deshalb wohl nur eine Frage der Zeit. Der KI-Experte warnt vor den potenziellen Konsequenzen: Seine dominante Position auf dem Planeten habe der Mensch nicht seiner physischen Stärke zu verdanken, sondern seinem Gehirn. “Wenn wir jetzt Maschinen schaffen, die schlauer sind als wir, könnte das bedeuten, dass der Lauf der Dinge auf unserem Planeten künftig von diesen Maschinen bestimmt wird.”
Eine zentrale Herausforderung in der KI-Forschung laute deshalb, die Ziele der künstlichen Intelligenz in Einklang mit menschlichen Werten zu bringen. “Wenn wir uns anstrengen, können wir unsere Überlebenschance als Spezies verbessern”, sagte Bostrom. “Aber es kann auch sein, dass wir verdammt sind, egal was wir tun.” Bostrom leitet das “Future of Humanity”-Institut der Universität Oxford und gilt als früher Mahner vor einer superintelligenten künstlichen Intelligenz.
Inzwischen warnen zahlreiche Experten vor möglichen ungewollten Folgen der KI-Entwicklung. So hatten zuletzt etwa mehr als 1.000 Experten eine Pause bei der KI-Entwicklung gefordert, um Sicherheitsstandards festzulegen.
