WISSNOX_
Benchmarks

Muse Wonder Benchmarks im Detail: Metas 14 Tests erklärt

wissnox@ai:~$ cat news_1

› Meta präsentierte Muse Wonder mit einer Vergleichstabelle aus 14 Tests, von denen in der Praxis kaum jemand mehr als zwei auf Anhieb einordnen kann.

wissnox@ai:~$ cat news_2

› Im Folgenden wird jeder einzelne Benchmark verständlich aufgeschlüsselt: was genau geprüft wird, welche Ergebnisse Muse Wonder (laut Meta) erzielt und worauf Sie achten sollten, bevor Sie ein Modell voreilig zum Sieger erklären.

wissnox@ai:~$ cat news_3

› Kurz zusammengefasst: Drei der 14 Tests stammen aus Metas internen Laboren, in mehreren Tabellenzeilen herrschten keine gleichen Testbedingungen für alle Modelle, und bei der Programmierung von Grund auf sowie der Desktop-Steuerung unterliegt Meta dem Modell Claude Opus 5.5.

wissnox@ai:~$ cat news_4

› Ein vollständiger Überblick über das Modell findet sich im Leitfaden Muse Wonder.Wie Metas Tabelle zu lesen ist - 3 GrundregelnAlle nachstehenden Zahlen sind Herstellerangaben (laut Meta), wobei die Modelle auf der maximalen Denkstufe (max) betrieben wurden.Teilerfolg („partiell“) und vollständiger Erfolg sind zwei völlig unterschiedliche Messgrössen - in OSWorld beträgt die Diskrepanz über 39 Punkte.Die einzige Zeile aus einer unabhängigen Rangliste, die ich separat überprüft habe, ist der Index von Artificial Analysis: Wonder Full 56, Wonder 52, Opus 5.5 58.Alle 14 Benchmarks in der ÜbersichtTestWas praxisnah geprüft wirdErmittelt durchWonder Full / Wonder (laut Meta)Bester KonkurrentPersonal Superintelligence IndexKombination aus 7 Tests für persönliche und BüroaufgabenMeta (intern)59,1 / 54,3Opus 5.5: 55,2Harvey LAB-AAJuristische Dokumente auf Fallaktenbasis mit HalluzinationskontrolleArtificial Analysis13,1 / 10,0GPT-6 Astra: 8,6Vals Finance Agent V2Aufgaben von Finanzanalysten anhand von UnternehmensberichtenVals AI59,1 / 56,6Fable 5.1: 58,9HealthBench Pro525 anspruchsvolle medizinische Fragen, Bewertung nach ArztkriterienMeta (offizielle Aufgaben)62,3 / 60,5Opus 5.5: 65,6AutomationBench-AAGeschäftsprozesse in simulierten SoftwareumgebungenArtificial Analysis45,4 / 39,1Astra: 41,6GDP.pdfFachliche Bearbeitung vorgegebener PDF-DokumenteSurge33,2 / 30,8Astra: 34,2JobBench65 Aufgaben aus 35 Büro- und WissensberufenMeta75,3 / 70,5Opus 5.5: 75,4OSWorld V2.1108 Aufgaben auf einem Ubuntu-Desktop mit Maus- und TastatursteuerungMeta (offizielle Umgebung)78,4 / 72,6 (partiell)Opus 5.5: 81,8MemoryBenchErinnern von Fakten in Dialogen über 64.000 bis 100.000 TokenMeta (intern)85,5 / 85,6Opus 5.5: 81,5Terminal-Bench 4.0-AAAutomatisch überprüfte Aufgaben in der KommandozeileArtificial Analysis57,1 / 52,0Opus 5.5: 59,6DeepSWE 1.1113 umfangreiche Aufgaben in 91 Repositories über 5 SprachenDatacurve79,0 / 78,8Opus 5.5: 74,2SWE-MarathonSehr langwierige, mehrstündige ProgrammierprojekteAbundant AI57,5 / 53,1Opus 5.5: 46,3ProgramBenchErstellung eines kompletten Programms von Grund auf ohne InternetzugriffMeta (geteiltes Tooling)59,0 / 50,0Opus 5.5: 70,5Artificial Analysis Index10 unabhängige Tests zusammengefasst in einem GesamtwertArtificial Analysis56 / 52Opus 5.5: 58Quelle: Tabelle und Modellkarte von Meta vom 12.

wissnox@ai:~$ open --full
Vollständig lesen

Muse Wonder Benchmarks im Detail: Metas 14 Tests erklärt

Artikel auf wissnox.de öffnen