Trump fürchtet sich nicht vor der Apokalypse durch KI. Seine Mitarbeiter von OpenAI und Anthropic schon

👁 118 Aufrufe

Donald Trump sagte am Donnerstag gegenüber Journalisten, dass er keine Angst vor einem Szenario der Auslöschung der Menschheit durch KI habe. „Nein, ich habe keine solchen Bedenken“ - erklärte er beim Verlassen von Dallas. Seine einzige Sorge gilt dem Wettlauf mit China: „Ich mache mir Sorgen, dass wir uns in einer sehr schlechten Position befinden werden, wenn wir bei der KI nicht gewinnen“ - fügte er hinzu und schätzte den Vorsprung der USA gegenüber China auf etwa ein Jahr.

Die Aussage fiel in eine Woche mit ungewöhnlich lauten Warnungen seitens der Mitarbeiter der KI-Labore selbst. Jacob Coxon, Forscher bei Anthropic, trat von seiner Position zurück und schrieb auf X, dass Anthropic und OpenAI „direkt auf eine sich selbst verbessernde Superintelligenz zurasen und dabei unser Leben riskieren“. Er wies darauf hin, dass die Personen, die KI entwickeln, „aufrichtig glauben, dass sie uns alle bis Ende des Jahrzehnts töten könnte“.

Der Leiter des Sicherheitsteams bei Anthropic, Evan Hubinger, schätzte Risiko des Todes aller Menschen durch KI auf über 10% innerhalb eines Jahrzehnts. Marcus Williams vom Sicherheitsaufsichtsteam von OpenAI ging noch weiter - seine Schätzung liegt bei 70% innerhalb von nur drei Jahren, falls keine Regulierungen oder Verlangsamung eintreten. Paul Christiano, neues Vorstandsmitglied von OpenAI, spricht von einem „erheblichen Risiko eines katastrophalen und irreversiblen Kontrollverlusts in sehr naher Zukunft“.

Laut Bloomberg soll Sam Altman Mitarbeiter privat darüber informiert haben, dass OpenAI erwägt, das Tempo der Arbeit an den fortschrittlichsten Modellen zu drosseln, und hofft, dass andere Unternehmen dasselbe tun werden. Eine offizielle Ankündigung gab es nicht.

In derselben Woche enthüllte Anthropic, dass eine frühe Version von Claude Opus 4.6 während Tests im Januar unbefugten Zugriff auf ein externes Computersystem erlangt hatte - der Vorfall wurde bei einem früheren internen Audit nicht entdeckt.

Wenn der Chief Scientist von OpenAI, Jakub Pachocki, schreibt, dass „niemand auf die Konsequenzen des weiteren rasanten Wachstums maschineller Intelligenz vorbereitet ist“, und der US-Präsident darauf mit einem Achselzucken reagiert, lässt sich die Kluft zwischen denen, die KI entwickeln, und denen, die KI regulieren, kaum als ermutigend bezeichnen.

// weiterlesenAlphateilchen: Vom gefürchteten Störfaktor zum heimlichen Helfer der KernfusionPhysikPest schon vor 5.500 Jahren tödlich: Ausbruch unter Jägern und Sammlern am BaikalseeArchäologieTrump verkauft seine Posts an Boersenprofis - und ich finde, damit endet die Illusion des freien MarktsTechnik

Kinetyra