Es ist nur ein Satz – und er liest sich dramatisch: "Das Risiko einer Vernichtung durch KI zu verringern, sollte eine globale Priorität neben anderen Risiken gesellschaftlichen Ausmaßes sein, wie etwa Pandemien und Atomkrieg."
Geschrieben hat ihn die Nonprofit-Organisation "Center for AI Safety" in Kalifornien. Fast 400 Menschen haben unterschrieben. KI-Expertinnen und Experten von vor allem US-Universitäten, aber auch führende Vertreter von Google oder auch Sam Altman, der Chef von "Open AI". Die Firma in San Francisco also, die zur Zeit die meiste Aufmerksamkeit bekommt - sie hat ChatGPT entwickelt.
Altman war kürzlich auf weltweiter PR-Tour. Teilweise empfangen wie ein Popstar – auch an der TU München. Alle wollten ein Foto, jeder hatte Zeit für ihn, er hat sich auch mit Bundeskanzler Olaf Scholz getroffen. Altman betont oft die Notwendigkeit von Regeln - aber ausgerechnet seine Firma steht im Fokus und veröffentlicht regelmäßig immer besser werdende KI-Anwendungen.
Finanziert Microsoft wissentlich den Weltuntergang?
Auch, weil Software-Weltkonzern Microsoft Milliarden in Open AI investiert. Finanziert Microsoft also wissentlich den Weltuntergang? "Wir haben die Software veröffentlicht, um der breiten Bevölkerung klar zu machen, welche Möglichkeiten sie bietet und was man mit ihr machen kann", sagt Kevin Scott, Technik-Vorstand von Microsoft. Auch er hat den Appell unterschrieben. "Wir wollten Feedback" , so Scott im US-Podcast Recode Media auf die Frage, warum die Technologie überhaupt veröffentlicht wurde, obwohl sie offenbar noch nicht ausgereift sei.
Dass KI-Technologie Risiken birgt, ist unumstritten. Die Frage ist eher, welche Risiken realistisch sind. Kritiker befürchtet, dass durch das apokalyptische Geraune der KI-Hype noch weiter angeheizt werden könnte. Durch solche Apelle würde eine Technologie auch stärker und mächtiger erscheinen, als sie wirklich ist.
EU versucht schon längst KI zu regulieren
Das "Center for AI Safety" hat sich nach eigenen Angaben ganz bewusst für ein so kurzes Statement entschieden. Die Kernbotschaft sollte nicht verloren gehen. Wir brauchen eine weit verbreitete Einsicht in die Problematik, bevor wir sinnvolle politische Diskussionen führen können", teilt der Chef des Zentrums, Dan Hendrycks, mit. Die politische Diskussion wird aber längst geführt. Die EU arbeitet seit Jahren an der Regulierung von KI-Technologien.
Skeptiker vermuten, dass die Weltuntergangs-Appelle der KI-Industrie helfen könnten, geplante Regelungen in ihrem Sinne zu beeinflussen. Etwa, dass der Programm-Code von KI-Anwendungen nicht offengelegt werden muss, weil das ja ein Sicherheitsrisiko darstellen könnte.
Andere Gefahren werden weniger beachtet
Eine weitere Folge des Weltuntergangsdiskurses ist, so sagen Kritiker, dass die Aufmerksamkeit für konkretere Gefahren verloren gehen könnte. Wer über die Zitat "Vernichtung der Menschheit" spricht, zieht möglicherweise Aufmerksamkeit von jetzt schon realistischen Risiken von KI-Systemen. Darunter fallen vor allem fehlerhafte Texte, irreführende, mit KI generierte Bilder, die aber nicht als solche zu erkennen sind, oder Desinformationskampagnen vor Wahlen. Nächstes Jahr wird in den USA der nächste Präsident gewählt.
Das ist die Europäische Perspektive bei BR24.
"Hier ist Bayern": Der BR24 Newsletter informiert Sie immer montags bis freitags zum Feierabend über das Wichtigste vom Tag auf einen Blick – kompakt und direkt in Ihrem privaten Postfach. Hier geht's zur Anmeldung!