Liquid AI LFM2.5-24B-A2B: Schnelles lokales Agentenmodell

👁 117 Aufrufe

Liquid AI hat am 5. August 2025 auf Hugging Face das Modell LFM2.5-24B-A2B veröffentlicht - eine Architektur, die speziell für schnelle, private KI-Agenten direkt auf dem Endgerät konzipiert wurde. Es ist eines der wenigen Modelle dieser Klasse, das eine hohe nominale Parameterzahl mit extrem niedrigen Aktivierungskosten verbindet.

24 Milliarden Parameter auf dem Papier, 2 Milliarden in der Praxis

Die Zahlen im Namen sind kein Zufall: LFM2.5-24B-A2B verfügt über insgesamt 24 Milliarden Parameter, doch dank des Mixture-of-Experts-Mechanismus (MoE) werden bei jedem Aufruf lediglich 2 Milliarden davon aktiviert. Dieser Ansatz ist bereits von Modellen wie Mixtral von Mistral oder Google Gemini bekannt. Liquid AI wendet ihn jedoch in einem Kontext an, der bislang selten im Fokus stand: die lokale Ausführung von Agenten außerhalb zentraler Cloud-Infrastrukturen.

In der Praxis bedeutet das: Das Modell lässt sich auf handelsüblicher Consumer-Hardware oder Edge-Computing-Systemen betreiben, ganz ohne eigenes Rechenzentrum. Die aktive Grösse von 2B Parametern sorgt für einen Speicher- und Rechenbedarf, der kompakten 2-3B-Modellen ähnelt. Gleichzeitig profitiert das System von der weitaus reichhaltigeren Wissensrepräsentation, die in den vollen 24 Milliarden Parametern verankert ist und je nach Kontext abgerufen wird.

Für Entwickler von Agenten-Anwendungen ist das ein wichtiger qualitativer Schritt. Ein typischer KI-Agent führt pro Nutzeraufgabe Dutzende oder gar Hunderte von Modellaufrufen durch: Er prüft Statuswerte, plant Zwischenschritte, bindet Werkzeuge ein und validiert Zwischenergebnisse. Bei Cloud-Modellen erzeugt jeder dieser Aufrufe Latenzen von mehreren hundert Millisekunden sowie fortlaufenden Netzwerktraffic. Ein On-Device-Modell verkürzt diese Ausführungsschleife drastisch und macht externe Datenübertragungen überflüssig.

Datenschutz als architektonisches Kernargument

Liquid AI positioniert LFM2.5-24B-A2B gezielt für Einsatzbereiche, in denen Datenschutz zwingend erforderlich ist. Der Markt für On-Device-Modelle wächst vor allem durch zwei Treiber: regulatorische Vorgaben (wie die DSGVO in Europa sowie branchenspezifische Regeln im Finanz- und Gesundheitssektor) und die Skepsis von Unternehmen, sensible Daten an externe Cloud-Server weiterzuleiten.

In Europa gewinnt dieser Aspekt stark an Gewicht. Unternehmen, die KI-Lösungen in HR-, Rechts- oder Medizinprozessen integrieren wollen, stehen oft vor einem Dilemma: Entweder nutzen sie leistungsstarke Cloud-Modelle und tragen Compliance-Risiken bezüglich der DSGVO, oder sie greifen auf schwächere lokale Modelle zurück. LFM2.5-24B-A2B schliesst diese Lücke: Es ist leistungsfähig genug für anspruchsvolle Aufgaben und zugleich kompakt genug für den lokalen Betrieb.

Es ist nicht der erste Versuch in diesem Segment. Apple Intelligence verfolgt eine ähnliche Philosophie mit On-Device-Verarbeitung und optionaler Cloud-Eskalation bei komplexen Anfragen. Microsoft testet Phi-Modelle auf Copilot+-Laptops, während Qualcomm und NVIDIA spezialisierte SDKs für On-Device-KI bereitstellen. Liquid AI tritt mit einem Modell an, das laut Dokumentation nicht primär auf allgemeine Benchmarks ausgerichtet ist, sondern auf mehrstufige Agentenabläufe.

LFM: Eine alternative Architektur jenseits von Transformern

Bemerkenswert ist das Fundament der LFM-Reihe (Liquid Foundation Models). Das von MIT-Forschern gegründete Unternehmen Liquid AI setzt auf sogenannte Liquid Neural Networks. Diese Architektur orientiert sich an biologischen Nervensystemen, bei denen sich die Netzwerkdynamik kontinuierlich an die verarbeiteten Eingabedaten anpasst. Sie unterscheidet sich damit grundlegend von klassischen Transformern, auf denen Systeme wie GPT, Claude, Gemini oder Llama basieren.

Frühere LFM-Modelle zeigten bereits Stärken bei langen Kontexten und sequenzieller Informationsverarbeitung - Kernanforderungen für Agenten, die komplexe mehrstufige Aufgaben nachverfolgen müssen. Die Modellkarte auf Hugging Face beschreibt LFM2.5-24B-A2B als Weiterentwicklung dieser Linie, nun ergänzt um MoE, um das Wissensvolumen ohne proportionale Inferenzkosten zu skalieren.

LFM2.5 stellt zudem einen Evolutionsschritt gegenüber der Vorgängergeneration LFM2 dar. Liquid AI entwickelt die Architektur kontinuierlich weiter, auch wenn das Unternehmen medial weniger präsent ist als OpenAI, Anthropic oder Mistral. Das Interesse auf Hugging Face - mehr als 2.910 Likes und 351 Downloads wenige Tage nach Veröffentlichung - belegt die Aufmerksamkeit der Open-Source-Community.

Bedeutung für Entwickler und Unternehmen

Das Erscheinen von LFM2.5-24B-A2B fügt sich in einen breiteren Trend ein: die Dezentralisierung der Inferenz. Lange Zeit dominierte das Rennen um immer grössere Cloud-Modelle. Zunehmend etabliert sich jedoch ein hybrides Rechenmodell: leistungsstarke Rechenzentren für das Training und seltene Spitzenlasten, kombiniert mit spezialisierten On-Device-Modellen für die tägliche Ausführung lokaler Agenten.

Für Softwareentwickler eröffnet das neue Handlungsspielräume: Statt Anwendungen vollständig an externe API-Anbieter zu binden und pro Abfrage Token-Kosten zu zahlen, lässt sich ein lokales Modell als Basisschicht integrieren. Da LFM2.5-24B-A2B auf Hugging Face bereitsteht, können die Modellgewichte heruntergeladen und auf eigener Infrastruktur betrieben werden - ohne API-Limits, variable Nutzungsgebühren oder Abhängigkeit von kurzfristigen Preisänderungen externer Plattformen.

Offen bleibt vorerst, wie sich LFM2.5-24B-A2B in standardisierten Agenten-Benchmarks im direkten Vergleich zu Konkurrenten wie Mistral Small, Phi-3.5, Gemma oder Qwen schlägt. Vollständige Vergleichsdaten hat Liquid AI bislang nicht veröffentlicht - belastbare Messwerte werden letztlich darüber entscheiden, wie weit sich das Modell in Produktionsumgebungen durchsetzt.

// weiterlesenKI-Agenten im Rechenzentrum: Sicherheitssignale gegen riskante NetzwerkbefehleNachrichtenK-Bench: Wenn KI-Agenten vergessen sollen, aber doch alles verratenNachrichtenOpenAI-Agenten griffen im Mai RubyGems an - ohne OffenlegungNachrichten

Kinetyra