xAI Grok · Einzelne Stufe · 2026-08-13

Grok-4.5-Vision-Benchmark

So hat Grok 4.5 bei screenshotbasierten Aufgaben zu UI-Grounding, Element-Präsenz und sichtbaren Layout-Fehlern für die Testautomatisierung abgeschnitten.

Exaktes API-Modellx-ai/grok-4.5

Die Anfragen wurden über OpenRouter an die xAI-Infrastruktur gebunden. Fallbacks waren für jede beibehaltene Anfrage deaktiviert.

Trefferquote beim Grounding83%
Mittlere Box-IoU0.445
Genauigkeit beim Vorhandensein100%
Genauigkeit bei Fehlern100%

Gesamtergebnis

Grok 4.5 bei allen drei UI-Aufgaben

Grok 4.5 traf 20 von 24 angeforderten UI-Zielen. Die ausgeglichene Genauigkeit lag bei 100 % für die Element-Präsenz und 100 % für die Erkennung von Layout-Fehlern.

Dieser zeitlich begrenzte Pilotversuch umfasste 24 Grounding- und 24 Erkennungsantworten. Keine Erkennungsanfrage schlug fehl. Die Ergebnisse beschreiben dieses konkrete API-Modell und den Testkorpus, nicht die allgemeine Modellqualität oder ein Consumer-Chat-Produkt.

Den vollständigen LLM-Vision-Benchmark ansehen →

Relative Leistung

Grok 4.5 im Vergleich zu den getesteten Modellen

Jede Skala vergleicht das ausgewählte Modell mit dem stärksten und schwächsten anderen Modell. Alle drei Kennzahlen stammen aus demselben abgeschlossenen Grounding-Lauf mit 24 Fällen; stärker ist immer weiter rechts.

Box-IoUHöher ist stärker
0.445
Schwächstes anderes Modell
Claude Sonnet 50.043
Stärkstes anderes Modell
GPT-5.6 Luna0.771
GeschwindigkeitGeringere Latenz ist besser
1.67 s
Schwächstes anderes Modell
Gemini 3.1 Pro Preview11.89 s
Stärkstes anderes Modell
Holo3 122B A10B1.68 s
KostenGeringere Gesamtkosten sind besser
$0.0669
Schwächstes anderes Modell
Claude Opus 5$0.2474
Stärkstes anderes Modell
GPT-5.6 Luna$0.0057
Den vollständigen LLM-Vision-Benchmark ansehen →

UI-Verankerung

Kann Grok 4.5 interaktive Elemente finden?

24 Ziele erstrecken sich über sechs deterministische Desktop- und Mobilbildschirme. Ein schema-valider Punkt innerhalb des angeforderten Ziels zählt als Treffer; die Box-IoU misst die Lokalisierungspräzision.

commerce catalog desktop / clean / grounding / add productBestandenTreffer0.5461.96 s$0.0038
commerce catalog desktop / clean / grounding / searchBestandenTreffer0.3391.45 s$0.0038
commerce catalog desktop / clean / grounding / catalog queryBestandenKein Treffer0.0001.60 s$0.0038
commerce catalog desktop / clean / grounding / stock filterBestandenKein Treffer0.0431.70 s$0.0038
Analytics-Dashboard Desktop / sauber / Grounding / SuchfeldBestandenTreffer0.4401.78 s$0.0038
analytics dashboard desktop / clean / grounding / compare toggleBestandenTreffer0.2591.52 s$0.0038
analytics dashboard desktop / clean / grounding / audience tabBestandenTreffer0.6671.92 s$0.0038
analytics dashboard desktop / clean / grounding / revenue cardBestandenTreffer0.7281.60 s$0.0038
iot control desktop / clean / grounding / auto modeBestandenTreffer0.3921.61 s$0.0038
iot control desktop / clean / grounding / devices navBestandenTreffer0.6021.63 s$0.0038
iot control desktop / clean / grounding / pump cardBestandenKein Treffer0.1471.71 s$0.0038
iot control desktop / clean / grounding / restart deviceBestandenTreffer0.2461.66 s$0.0038
banking ios / clean / grounding / transferBestandenTreffer0.6251.73 s$0.0019
banking ios / clean / grounding / profileBestandenTreffer0.5281.41 s$0.0019
banking ios / clean / grounding / transaction searchBestandenTreffer0.3502.04 s$0.0019
banking ios / clean / grounding / hide balanceBestandenKein Treffer0.0291.61 s$0.0019
flight pass ios / clean / grounding / trips tabBestandenTreffer0.3861.71 s$0.0019
flight pass ios / clean / grounding / boarding passBestandenTreffer0.6991.55 s$0.0019
flight pass ios / clean / grounding / check inBestandenTreffer0.6312.07 s$0.0019
Flight Pass iOS / sauber / Grounding / Profil-TabBestandenTreffer0.5032.05 s$0.0019
Smart Home Android / sauber / Grounding / ThermostatkarteBestandenTreffer0.7951.48 s$0.0021
Smart Home Android / sauber / Grounding / Gerät hinzufügenBestandenTreffer0.6541.53 s$0.0018
Smart Home Android / sauber / Grounding / MehrBestandenTreffer0.4431.31 s$0.0012
Smart Home Android / sauber / Grounding / Raum suchenBestandenTreffer0.6191.39 s$0.0012

Erkennungsergebnisse

Vorhandensein und sichtbare Layoutfehler

Separate balancierte Aufgaben messen, ob das Modell nicht vorhandene Elemente zurückweist und saubere Steuerelemente von Screenshots mit einem gezielt eingefügten Layoutfehler unterscheidet.

Kann das Modell erkennen, wenn ein Element nicht vorhanden ist?

Sechs vorhandene und sechs nicht vorhandene Zielabfragen pro Modell. Dieser Track misst ausschließlich die Klassifizierung.

Balancierte Genauigkeit100%
Recall für vorhandene Elemente100%
Spezifität für nicht vorhandene Elemente100%
Abdeckung12/12
Erwartet
Commerce-Katalog Desktop / sauber / Elementvorhandensein / vorhandenGültigRichtigVorhandenVorhanden7.73 s$0.0032
Commerce-Katalog Desktop / sauber / Elementvorhandensein / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden6.26 s$0.0032
Analytics-Dashboard Desktop / sauber / Elementvorhandensein / vorhandenGültigRichtigVorhandenVorhanden7.43 s$0.0032
Analytics-Dashboard Desktop / sauber / Elementvorhandensein / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden7.62 s$0.0032
IoT-Steuerung Desktop / sauber / Elementvorhandensein / vorhandenGültigRichtigVorhandenVorhanden7.43 s$0.0032
IoT-Steuerung Desktop / sauber / Elementvorhandensein / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden4.72 s$0.0032
Banking iOS / sauber / Element vorhanden / vorhandenGültigRichtigVorhandenVorhanden8.92 s$0.0013
Banking iOS / sauber / Element vorhanden / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden8.45 s$0.0013
Flugpass iOS / sauber / Element vorhanden / vorhandenGültigRichtigVorhandenVorhanden7.41 s$0.0013
Flugpass iOS / sauber / Element vorhanden / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden8.27 s$0.0013
Smart Home Android / sauber / Element vorhanden / vorhandenGültigRichtigVorhandenVorhanden7.82 s$0.0013
Smart Home Android / sauber / Element vorhanden / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden7.99 s$0.0013

Kann das Modell zwischen sauberen und fehlerhaften Layouts unterscheiden?

Sechs saubere Steuerelemente und sechs Screenshots mit jeweils einem gezielt eingefügten Fehler pro Modell. Transportfehler bleiben Betriebsfehler und zählen nicht als Genauigkeitsergebnisse.

Balancierte Genauigkeit100%
Fehlererkennung100%
Spezifität bei sauberen Layouts100%
Abdeckung12/12
Lokalisierungs-IoU
Commerce-Katalog Desktop / sauber / LayoutfehlerGültigRichtigNicht zutreffend8.67 s$0.0041
Commerce-Katalog Desktop / Fehler / LayoutfehlerGültigRichtigFalsch0.0008.63 s$0.0041
Analytics-Dashboard Desktop / sauber / LayoutfehlerGültigRichtigNicht zutreffend6.67 s$0.0038
Analytics-Dashboard Desktop / Fehler / LayoutfehlerGültigRichtigRichtig0.2857.65 s$0.0041
IoT-Steuerung Desktop / sauber / LayoutfehlerGültigRichtigNicht zutreffend7.77 s$0.0038
IoT-Steuerung Desktop / Fehler / LayoutfehlerGültigRichtigRichtig0.0748.66 s$0.0041
Banking iOS / sauber / LayoutfehlerGültigRichtigNicht zutreffend7.07 s$0.0013
Banking iOS / Fehler / LayoutfehlerGültigRichtigRichtig0.1916.18 s$0.0022
Flugpass iOS / sauber / LayoutfehlerGültigRichtigNicht zutreffend7.79 s$0.0013
Flugpass iOS / Fehler / LayoutfehlerGültigRichtigFalsch0.0006.35 s$0.0014
Smart Home Android / sauber / LayoutfehlerGültigRichtigNicht zutreffend7.82 s$0.0013
Smart Home Android / Fehler / LayoutfehlerGültigRichtigRichtig0.6915.51 s$0.0016

Warum diese Forschung wichtig ist

Für jeden Test die richtige Art von Computer Vision verwenden

Moderne Vision-LLMs können komplexe visuelle Bedeutungen erfassen, sind aber für jeden Testschritt noch zu langsam und teuer. Diese Forschung hilft uns zu erkennen, wann ihre semantischen Fähigkeiten diesen Kompromiss rechtfertigen.

01

Schnelle lokale Auswertung

Die lokalen Vision-Algorithmen von Repeato übernehmen häufige Interaktionen, visuellen Abgleich und Regressionstests mit schnellem Feedback, vorhersehbarem Verhalten und ohne Kosten pro Modellanfrage.

02

Semantisches Schlussfolgern bei Bedarf

Moderne Vision-LLMs sind bei komplexeren Fragen hilfreich: beim Verstehen von Bedeutungen, Prüfen dynamischer Inhalte, Beschreiben von Fehlern oder Bewerten von Konzepten, die sich nicht durch einen einfachen visuellen Fingerabdruck erfassen lassen.

03

Ein evidenzbasierter Hybridansatz

Der Vergleich von Genauigkeit, Latenz, Zuverlässigkeit und Kosten hilft uns zu entscheiden, welche Prüfungen lokal bleiben sollten und welche ausreichend von einem LLM profitieren, um eine langsamere und teurere Auswertung zu rechtfertigen.

Unsere Produktstrategie

Repeatos lokale Computer Vision als schnelles Fundament nutzen und moderne Vision-LLMs gezielt für komplexe oder semantische Schlussfolgerungen einsetzen, wenn sie einen spürbaren zusätzlichen Nutzen bieten.

Den gesamten Vision-Benchmark ansehen →

Testabdeckung

Sechs Bildschirme, drei Aufgabentypen

Jedes Modell wird anhand desselben eingefrorenen Korpus, derselben Prompts und Antwortschemata sowie einer normalisierten Geometrie von 0–1000 bewertet.

01

Commerce-Katalog

Desktop-Web mit einem sauberen Steuerelement und einem zugehörigen Fehler durch abgeschnittenen Containerinhalt.

02

Analytics-Dashboard

Desktop-Web mit einem sauberen Steuerelement und einem zugehörigen Fehler durch überlaufenden Text.

03

IoT-Steuerzentrale

Desktop-Web mit einem sauberen Steuerelement und einem zugehörigen Fehler durch überlappende Elemente.

DE