OpenAI baut einen KI-Hacker und sperrt ihn ein - genau diese Angst finde ich beruhigend

👁 112 Aufrufe

OpenAI hat ein internes Werkzeug namens GPT-Red gebaut, das die eigenen Modelle auf Sicherheitsluecken abklopft. Laut dem Unternehmen schlaegt es sich dabei deutlich besser als menschliche Hacker - und bleibt genau deshalb vorerst unter Verschluss.

Ich habe die Meldung dreimal gelesen, weil mich weniger die Faehigkeit als die Konsequenz interessiert. Ein Konzern baut etwas Maechtiges und entscheidet, es nicht herauszugeben. Das klingt banal. Es ist es nicht.

Warum das Zoegern die eigentliche Nachricht ist

Wir haben uns daran gewoehnt, dass jedes KI-Feature sofort ausgerollt wird. Halb fertig, halb sicher, Hauptsache zuerst am Markt. Die Devise hiess jahrelang: veroeffentlichen und spaeter reparieren.

Mich ueberrascht, dass hier das Gegenteil passiert. Ein Werkzeug, das Schwachstellen findet, findet sie eben fuer alle - auch fuer die Falschen. Ein oeffentlicher GPT-Red waere ein Generalschluessel, den man in der Fussgaengerzone verteilt.

Ich finde diese Selbstbeschraenkung fast erstaunlicher als die Technik dahinter. Denn sie widerspricht dem gesamten Reflex der Branche, in der Zurueckhaltung normalerweise als Schwaeche gilt.

Das kenne ich aus meinem eigenen Werkzeugkasten

Jeder, der schon einmal ein Netzwerk abgesichert hat, kennt das Dilemma. Dieselben Programme, mit denen ich meine eigene Firewall teste, sind das Handwerkszeug jedes Angreifers. Ein Dietrich unterscheidet nicht zwischen Schlosser und Einbrecher.

Die Sicherheitswelt lebt seit Jahrzehnten mit diesem Zwiespalt. Responsible Disclosure heisst der muehsame Kompromiss: erst dem Hersteller Bescheid geben, dann veroeffentlichen. GPT-Red treibt das auf die Spitze, weil hier gar nichts veroeffentlicht wird.

Ich bin ueberzeugt, dass genau das der interessante Bruch ist. Ein KI-System, das schneller Luecken findet, als Menschen sie schliessen koennen, kippt das alte Gleichgewicht. Wenn der Verteidiger und der Angreifer dasselbe Modell nutzen, gewinnt der, der es zuerst hat.

Und deshalb wundert es mich nicht, dass OpenAI die Tuer zulaesst. Es ist weniger Grossmut als Selbstschutz. Ein oeffentliches GPT-Red waere ein Rueckschlag gegen die eigenen Produkte.

Ich habe festgestellt, dass mir diese Angst vor dem eigenen Werkzeug lieber ist als der uebliche Uebermut. Vielleicht lernt die Branche gerade, dass nicht jede Faehigkeit auch ein Feature sein muss. Manchmal ist das Beste, was man mit einem Schluessel machen kann, ihn wegzuschliessen.

// weiterlesenAngst im Hirn messbar: Ein Nährstoffmangel, der die Emotionen kippen lässtGeist„Angst erzeugt nur kurzfristige Reaktionen“: Warum Hoffnung das stärkere Klima-Mittel istKlimaKipppunkt im Atlantik: Warum die Angst vor dem Kollaps der Meeresströmung wächstKlima

Kinetyra