KI-Überblick:19 September 2026
Zusammenfassung der wichtigsten Ereignisse in der KI-Welt der letzten 24 Stunden - 6 News an einem Ort.
👁 116 Aufrufe
- Ein Detektor für Prompt-Injection-Angriffe mit einem F1-Wert über 0,98 klassifizierte trotzdem rund ein Drittel harmloser Eingaben falsch.
- ClinicalReTrial wandelt in Simulationen 56,7% gescheiterter klinischer Studienprotokolle in vorhergesagte Erfolge um - bei Kosten von 0,156 Dollar pro Studie.
- Der Benchmark K-Bench zeigt, dass maschinelles Vergessen versagt, sobald KI-Modelle als Agenten eingesetzt werden, weil geheime Informationen über versteckte Kanäle durchsickern.
Heute bewegt die KI-Welt vor allem die Frage, wie zuverlässig und sicher KI-Systeme wirklich sind: Neue Studien und Benchmarks decken blinde Flecken bei der Angriffserkennung, beim maschinellen Vergessen und bei der faktischen Verlässlichkeit von KI-Agenten auf. Daneben sorgt eine schwere Störung bei ChatGPT für Aufmerksamkeit, während Forscher gleichzeitig zeigen, wie KI in der Medizin scheiternde klinische Studien retten könnte.
Neuer Benchmark zeigt Schwächen bei der Erkennung von Prompt-Injection-Angriffen
Forscher haben einen neuen Benchmark entwickelt, der die Grenzen gängiger Detektoren für Prompt-Injection-Angriffe aufzeigt. Das Problem: Die Detektoren blockieren nicht nur Angriffe, sondern auch harmlose Anfragen viel zu häufig. Ein Detektor mit einem F1-Wert von über 0,98 klassifizierte trotzdem rund ein Drittel gutartiger Eingaben falsch.
FiberTune verhindert Wissensverlust beim Feintuning von Roboter-KI
Beim Trainieren von Roboter-KI-Modellen gehen visuelle Informationen, die für Aktionen nicht direkt relevant sind, beim Feintuning verloren. Forscher stellen mit FiberTune einen Ansatz vor, der dieses Problem lösen soll - ohne dabei den Betrieb des Modells zu verlangsamen.
Schwere Störung bei ChatGPT - OpenAI bestätigt Vorfall
ChatGPT und OpenAI melden eine schwere Störung, die auf der offiziellen Statusseite bestätigt wurde. Der Verlauf des Vorfalls wird Stunde für Stunde dokumentiert und der aktuelle Status live verfolgt.
Studie: KI-Agenten liefern richtige Zahlen mit falschen Erklärungen
Eine neue Studie zeigt, dass KI-Agenten bei versteckten Belegen schlechter werden, dabei aber selbstsicher bleiben. Im selben Ergebnis können richtige Zahlen und erfundene Erklärungen gleichzeitig auftauchen - ein gefährliches Muster bei der Nutzung solcher Systeme.
KI-System überarbeitet gescheiterte klinische Studien mit hoher Erfolgsquote
Forscher präsentieren ClinicalReTrial, ein Multi-Agenten-System, das gescheiterte klinische Studienprotokolle automatisch überarbeitet. In Simulationen werden dabei 56,7% der gescheiterten Protokolle in vorhergesagte Erfolge umgewandelt - bei Kosten von 0,156 Dollar pro Studie.
K-Bench: Maschinelles Vergessen versagt beim Einsatz von KI als Agent
Forscher zeigen, dass gängige Tests für das maschinelle Vergessen von KI-Modellen versagen, sobald diese Modelle als Agenten eingesetzt werden. Ein neuer Benchmark namens K-Bench deckt auf, wie geheime Informationen über versteckte Kanäle weiterhin durchsickern.
Google · Deine QuellenWissnox höher in Ihrem Google - mit einem KlickZu bevorzugten Quellen hinzufügen →Immer auf dem Laufenden
Das war die Zusammenfassung der wichtigsten Ereignisse der letzten 24 Stunden. Alle KI-News, frisch und ungekürzt, finden Sie im Bereich alle News ansehen.
Häufig gestellte Fragen
Was ist FiberTune und welches Problem löst es beim Training von Roboter-KI?
FiberTune ist ein Ansatz, der verhindert, dass beim Feintuning von Roboter-KI-Modellen visuelle Informationen verloren gehen, die für Aktionen nicht direkt relevant sind. Dabei soll der Betrieb des Modells nicht verlangsamt werden.
Warum sind KI-Agenten gefährlich, wenn sie richtige Zahlen liefern?
Laut einer neuen Studie können KI-Agenten gleichzeitig richtige Zahlen und erfundene Erklärungen im selben Ergebnis ausgeben. Besonders problematisch ist, dass die Systeme dabei selbstsicher bleiben, auch wenn versteckte Belege fehlen.
Was deckt der Benchmark K-Bench auf?
K-Bench zeigt, dass gängige Tests für maschinelles Vergessen versagen, sobald KI-Modelle als Agenten eingesetzt werden. Geheime Informationen sickern dabei weiterhin über versteckte Kanäle durch.
Hat ChatGPT am 19. September 2026 eine Störung gehabt?
Ja, OpenAI bestätigte eine schwere Störung bei ChatGPT auf der offiziellen Statusseite. Der Verlauf des Vorfalls wurde Stunde für Stunde dokumentiert.
More on this from WISSNOX
anleitungen·Wie einen Speiseplan erstellen mit KI: Schritt für SchrittWie einen Speiseplan erstellen mit Hilfe von KI - Schritt für Schritt, mit fertigen Prompts zum Kopieren und Hinweis, welches Tool man wählen sollte.