Was Musk, LeCun und Co. sagen

Ist KI jetzt eigentlich gut oder schlecht?

Im Magazin von «Tages-Anzeiger» bezeichnete der Präsident der EPFL KI im Mai als «eine der leistungsfähigsten Innovationen der letzten Jahre» und vergleicht sie mit der Entwicklung des Internets. Gleichzeitig sieht Vetterli in der Anwendung von KI grosses Missbrauchspotential. «Manche werden die Maschinen manipulieren, andere werden ihnen erliegen.» Wir hätten schlicht keine Ahnung, was die Menschen mit der Blackbox KI anfangen werden. Schutzmechanismen gebe es keine. Es sei fast so, sagt Vetterli, als würde man unkontrolliert Atomwaffen verteilen.

Der Tech-Unternehmer und zweitreichste Mensch der Welt gehört zu über 30'000 Unterzeichnern eines offenen Briefes, der im März vor KI-Entwicklungen warnte. Die Technologie berge ein «tiefgreifendes Risiko für die Gesellschaft», so die Unterzeichner. Ihre Forderung: Eine sechsmonatige Entwicklungspause für KI-Produkte. Gleichzeitig kündigte Musk an, eine eigene KI-Firma namens X.AI aufzubauen. Die «New York Times» sieht im widersprüchlichen Verhalten des Milliardärs klare Geschäftsinteressen. Sie schreibt, dass Musk KI wohl nur für gut befindet, solange sie von ihm selbst entwickelt wurde.

Der Historiker und Bestsellerautor aus Israel warnte schon 2016 vor der Macht von künstlicher Intelligenz. Nach dem Einzug generativer KI-Modelle wie ChatGPT schrieb er im «Economist», KI stelle eine fundamentale Gefahr für unsere Demokratie dar. Denn: «Demokratie ist eine Konversation, und Konversationen beruhen auf Sprache. Wenn KI Sprache beeinflusst, könnte das unsere Fähigkeit zerstören, Konversationen führen. Und das kann unsere Demokratie zerstören.» Auch frühere technische Errungenschaften hätten die Menschheit vor Herausforderungen gestellt. Das Internet zum Beispiel. Oder Nuklearwaffen. Durch umfangreiche Regelwerke seien die Menschen bislang in der Lage gewesen, die Gefahren dieser Technologien einzugrenzen. Bei KI werde das irgendwann nicht mehr möglich sein, da diese selbst neue Ideen schaffe und Entscheidungen treffe, die sich der menschlichen Kontrolle entziehen.

Die Menschheit könne von KI stark profitieren, sagt der KI-Forschungschef des Facebook-Mutterkonzerns Meta. «Wir werden Maschinen haben, die mindestens so intelligent sind wie Menschen», sagte er Anfang Juni, als Blick ihn in den Pariser Forschungslabors besuchte. Momentan sei dies aber noch eine Zukunftsvision. KI sei momentan noch nicht mal so schlau wie ein Hund. Menschen sollten sich nicht bedroht fühlen von KI, sondern bestärkt. Laut LeCun haben auch Hollywood-Filme à la «Terminator» dazu beigetragen, dass KI ein schlechtes Image habe. «Künstliche Intelligenz wird nicht die Kontrolle über die Menschheit übernehmen», sagt LeCun zu Blick. «Wir testen das ja am Computer und können immer den Stecker ziehen.» Solange KI reguliert werde, könne sie ihr volles Potenzial entfalten, ohne dem Menschen gefährlich zu werden. LeCun schwebt eine Zukunft vor, in der wir von intelligenten Maschinen umgeben sind, die uns effizienter und kreativer machen. Wird das auf dem Handy sein? Für LeCun ist dies höchstens am Anfang der Fall. «Irgendwann würden Menschen und Technik verschmelzen und ganz natürlich miteinander interagieren.»

Der Generalsekretär der Vereinten Nationen macht sich vor allem hinsichtlich Fake News und Desinformation Sorgen. Guterres plädiert dafür, eine Überwachungsbehörde für KI aufzubauen, die die globale Sicherheit garantieren soll. Er möchte sich dabei an der Arbeit der Internationalen Atomenergiebehörde (IAEA) orientieren. Guterres stellt sich eine Behörde vor, die den Einsatz von KI überwacht und Regeln aufstellt, die im Einklang mit Menschenrechten stehen und die Rechtsstaatlichkeit garantieren.