› Als der KI-Forscher Jacob Coxon Anthropic nach nur vier Monaten verließ, schrieb er auf X etwas, das in der Community für Aufsehen sorgte: „Die Menschen, die KI entwickeln, glauben wirklich, dass sie uns alle noch vor Ende des Jahrzehnts töten könnte." Das war kein anonymer Twitter-Kommentar.
› Das war die Kündigung eines Senior-Mitarbeiters eines der renommiertesten KI-Unternehmen der Welt.Noch wichtiger: Ein leitender Mitarbeiter von Anthropic, Evan Hubinger, gab Coxon öffentlich recht und fügte hinzu, dass er persönlich die Wahrscheinlichkeit eines solchen Szenarios in den nächsten zehn Jahren auf über 10 % schätzt.
› Das ist kein Risikoniveau, bei dem man normalerweise eine Technologie entwickelt und global ausrollt.Das Problem des Hundes und der WasserstoffbombeProfessor Toby Walsh von der University of New South Wales, einer der führenden KI-Forscher, beschloss, das Thema analytisch anzugehen und katalogisierte fünf Szenarien, in denen eine superintelligente KI das Ende unserer Zivilisation herbeiführen könnte.
› Er ordnete sie von den nebulösesten bis zu den konkretesten - und zugleich, wie er behauptet, von den unwahrscheinlichsten bis zu den wahrscheinlichsten.Das erste Szenario nennt Walsh schlicht „wir werden es nie wissen".