› Heute bewegt die KI-Welt vor allem die Frage, wie zuverlässig und sicher KI-Systeme wirklich sind: Neue Studien und Benchmarks decken blinde Flecken bei der Angriffserkennung, beim maschinellen Vergessen und bei der faktischen Verlässlichkeit von KI-Agenten auf.
› Daneben sorgt eine schwere Störung bei ChatGPT für Aufmerksamkeit, während Forscher gleichzeitig zeigen, wie KI in der Medizin scheiternde klinische Studien retten könnte.
› Neuer Benchmark zeigt Schwächen bei der Erkennung von Prompt-Injection-Angriffen Forscher haben einen neuen Benchmark entwickelt, der die Grenzen gängiger Detektoren für Prompt-Injection-Angriffe aufzeigt.
› Das Problem: Die Detektoren blockieren nicht nur Angriffe, sondern auch harmlose Anfragen viel zu häufig.