› Das Startup Goodfire hat einen neuartigen Monitor für KI-Agenten vorgestellt: Statt alle Aktionen eines Agenten nachträglich durch ein zweites Modell gegenzulesen, blickt das System direkt in die internen Aktivierungen des überwachten Modells.
› Die Lösung ist für Kunden der Plattform Baseten verfügbar und senkt laut Testdaten des Unternehmens die Überwachungskosten drastisch bei vergleichbarer Schutzwirkung.Das Problem: KI durch KI überwachen zu lassen ist teuerDer bisherige Standard für die Absicherung von KI-Agenten ist konzeptionell simpel, in der Praxis jedoch kostspielig.
› Ein separates Überwachungsmodell liest jeden Schritt des primären Agenten mit - sämtliche Prompts, Tool-Aufrufe und generierten Ausgaben.
› Läuft ein Agent mehrere Stunden und verarbeitet Textmengen im Umfang ganzer Bücher, steigen die Inferenzkosten für die Sicherheitsüberwachung massiv an.