H Company Holo · Spitzenmodell · 2026-08-13

Holo3-122B-A10B-Vision-Benchmark

So hat Holo3 122B A10B bei screenshotbasierten Aufgaben zu UI-Grounding, Element-Präsenz und sichtbaren Layout-Fehlern für die Testautomatisierung abgeschnitten.

Exaktes API-Modellholo3-122b-a10b

Die Anfragen wurden direkt über die H Company Models API mit deaktivierter strukturierter Ausgabe und deaktiviertem Thinking gesendet. Fallbacks waren für jede beibehaltene Anfrage deaktiviert.

Trefferquote beim Grounding92%
Mittlere Box-IoU0.478
Genauigkeit beim Vorhandensein100%
Genauigkeit bei Fehlern58%

Gesamtergebnis

Holo3 122B A10B bei allen drei UI-Aufgaben

Holo3 122B A10B traf 22 von 24 angeforderten UI-Zielen. Die ausgeglichene Genauigkeit lag bei 100 % für die Element-Präsenz und 58 % für die Erkennung von Layout-Fehlern.

Dieser zeitlich begrenzte Pilotversuch umfasste 24 Grounding- und 24 Erkennungsantworten. Keine Erkennungsanfrage schlug fehl. Die Ergebnisse beschreiben dieses konkrete API-Modell und den Testkorpus, nicht die allgemeine Modellqualität oder ein Consumer-Chat-Produkt.

Den vollständigen LLM-Vision-Benchmark ansehen →

Relative Leistung

Wo Holo3 122B A10B im Vergleich zu den getesteten Modellen liegt

Jede Skala vergleicht das ausgewählte Modell mit dem stärksten und schwächsten anderen Modell. Alle drei Kennzahlen stammen aus demselben abgeschlossenen Grounding-Lauf mit 24 Fällen; stärker ist immer weiter rechts.

Box-IoUHöher ist stärker
0.478
Schwächstes anderes Modell
Claude Sonnet 50.043
Stärkstes anderes Modell
GPT-5.6 Luna0.771
GeschwindigkeitGeringere Latenz ist besser
1.68 s
Schwächstes anderes Modell
Gemini 3.1 Pro Preview11.89 s
Stärkstes anderes Modell
Grok 4.51.67 s
KostenGeringere Gesamtkosten sind besser
$0.0126
Schwächstes anderes Modell
Claude Opus 5$0.2474
Stärkstes anderes Modell
GPT-5.6 Luna$0.0057
Den vollständigen LLM-Vision-Benchmark ansehen →

UI-Verankerung

Kann Holo3 122B A10B interaktive Elemente finden?

24 Ziele erstrecken sich über sechs deterministische Desktop- und Mobilbildschirme. Ein schema-valider Punkt innerhalb des angeforderten Ziels zählt als Treffer; die Box-IoU misst die Lokalisierungspräzision.

commerce catalog desktop / clean / grounding / add productBestandenTreffer0.7573.56 s$0.00071
commerce catalog desktop / clean / grounding / searchBestandenTreffer0.5721.73 s$0.00070
commerce catalog desktop / clean / grounding / catalog queryBestandenTreffer0.4631.69 s$0.00072
commerce catalog desktop / clean / grounding / stock filterBestandenTreffer0.1251.65 s$0.00071
Analytics-Dashboard Desktop / sauber / Grounding / SuchfeldBestandenTreffer0.4461.66 s$0.00071
analytics dashboard desktop / clean / grounding / compare toggleUngültige AntwortKein Treffer0.0001.70 s$0.00072
analytics dashboard desktop / clean / grounding / audience tabBestandenTreffer0.4121.76 s$0.00072
analytics dashboard desktop / clean / grounding / revenue cardBestandenTreffer0.3861.63 s$0.00070
iot control desktop / clean / grounding / auto modeBestandenTreffer0.2162.51 s$0.00072
iot control desktop / clean / grounding / devices navBestandenTreffer0.7441.83 s$0.00072
iot control desktop / clean / grounding / pump cardUngültige AntwortKein Treffer0.0001.65 s$0.00069
iot control desktop / clean / grounding / restart deviceBestandenTreffer0.8391.65 s$0.00071
banking ios / clean / grounding / transferBestandenTreffer0.8811.44 s$0.00034
banking ios / clean / grounding / profileBestandenTreffer0.4591.47 s$0.00035
banking ios / clean / grounding / transaction searchBestandenTreffer0.2571.42 s$0.00032
banking ios / clean / grounding / hide balanceBestandenTreffer0.1811.38 s$0.00031
flight pass ios / clean / grounding / trips tabBestandenTreffer0.2671.43 s$0.00035
flight pass ios / clean / grounding / boarding passBestandenTreffer0.5771.37 s$0.00031
flight pass ios / clean / grounding / check inBestandenTreffer0.8711.41 s$0.00034
Flight Pass iOS / sauber / Grounding / Profil-TabBestandenTreffer0.7371.46 s$0.00037
Smart Home Android / sauber / Grounding / ThermostatkarteBestandenTreffer0.6871.47 s$0.00033
Smart Home Android / sauber / Grounding / Gerät hinzufügenBestandenTreffer0.8811.47 s$0.00034
Smart Home Android / sauber / Grounding / MehrBestandenTreffer0.4611.46 s$0.00033
Smart Home Android / sauber / Grounding / Raum suchenBestandenTreffer0.2471.46 s$0.00034

Erkennungsergebnisse

Vorhandensein und sichtbare Layoutfehler

Separate balancierte Aufgaben messen, ob das Modell nicht vorhandene Elemente zurückweist und saubere Steuerelemente von Screenshots mit einem gezielt eingefügten Layoutfehler unterscheidet.

Kann das Modell erkennen, wenn ein Element nicht vorhanden ist?

Sechs vorhandene und sechs nicht vorhandene Zielabfragen pro Modell. Dieser Track misst ausschließlich die Klassifizierung.

Balancierte Genauigkeit100%
Recall für vorhandene Elemente100%
Spezifität für nicht vorhandene Elemente100%
Abdeckung12/12
Erwartet
Commerce-Katalog Desktop / sauber / Elementvorhandensein / vorhandenGültigRichtigVorhandenVorhanden1.41 s$0.00055
Commerce-Katalog Desktop / sauber / Elementvorhandensein / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden1.52 s$0.00055
Analytics-Dashboard Desktop / sauber / Elementvorhandensein / vorhandenGültigRichtigVorhandenVorhanden1.43 s$0.00055
Analytics-Dashboard Desktop / sauber / Elementvorhandensein / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden1.30 s$0.00055
IoT-Steuerung Desktop / sauber / Elementvorhandensein / vorhandenGültigRichtigVorhandenVorhanden1.38 s$0.00055
IoT-Steuerung Desktop / sauber / Elementvorhandensein / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden1.60 s$0.00055
Banking iOS / sauber / Element vorhanden / vorhandenGültigRichtigVorhandenVorhanden1.32 s$0.00017
Banking iOS / sauber / Element vorhanden / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden1.10 s$0.00017
Flugpass iOS / sauber / Element vorhanden / vorhandenGültigRichtigVorhandenVorhanden1.07 s$0.00017
Flugpass iOS / sauber / Element vorhanden / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden1.11 s$0.00017
Smart Home Android / sauber / Element vorhanden / vorhandenGültigRichtigVorhandenVorhanden1.11 s$0.00017
Smart Home Android / sauber / Element vorhanden / nicht vorhandenGültigRichtigNicht vorhandenNicht vorhanden1.11 s$0.00017

Kann das Modell zwischen sauberen und fehlerhaften Layouts unterscheiden?

Sechs saubere Steuerelemente und sechs Screenshots mit jeweils einem gezielt eingefügten Fehler pro Modell. Transportfehler bleiben Betriebsfehler und zählen nicht als Genauigkeitsergebnisse.

Balancierte Genauigkeit58%
Fehlererkennung17%
Spezifität bei sauberen Layouts100%
Abdeckung12/12
Lokalisierungs-IoU
Commerce-Katalog Desktop / sauber / LayoutfehlerGültigRichtigNicht zutreffend1.87 s$0.00062
Commerce-Katalog Desktop / Fehler / LayoutfehlerUngültigFalschFalsch0.0004.55 s$0.0018
Analytics-Dashboard Desktop / sauber / LayoutfehlerGültigRichtigNicht zutreffend1.42 s$0.00062
Analytics-Dashboard Desktop / Fehler / LayoutfehlerUngültigFalschFalsch0.0004.57 s$0.0018
IoT-Steuerung Desktop / sauber / LayoutfehlerGültigRichtigNicht zutreffend1.48 s$0.00063
IoT-Steuerung Desktop / Fehler / LayoutfehlerUngültigFalschFalsch0.0004.42 s$0.0018
Banking iOS / sauber / LayoutfehlerGültigRichtigNicht zutreffend1.33 s$0.00025
Banking iOS / Fehler / LayoutfehlerUngültigFalschFalsch0.0004.32 s$0.0014
Flugpass iOS / sauber / LayoutfehlerGültigRichtigNicht zutreffend1.22 s$0.00024
Flugpass iOS / Fehler / LayoutfehlerGültigRichtigFalsch0.0001.69 s$0.00038
Smart Home Android / sauber / LayoutfehlerGültigRichtigNicht zutreffend1.28 s$0.00025
Smart Home Android / Fehler / LayoutfehlerGültigFalschFalsch0.0001.17 s$0.00025

Warum diese Forschung wichtig ist

Für jeden Test die richtige Art von Computer Vision verwenden

Moderne Vision-LLMs können komplexe visuelle Bedeutungen erfassen, sind aber für jeden Testschritt noch zu langsam und teuer. Diese Forschung hilft uns zu erkennen, wann ihre semantischen Fähigkeiten diesen Kompromiss rechtfertigen.

01

Schnelle lokale Auswertung

Die lokalen Vision-Algorithmen von Repeato übernehmen häufige Interaktionen, visuellen Abgleich und Regressionstests mit schnellem Feedback, vorhersehbarem Verhalten und ohne Kosten pro Modellanfrage.

02

Semantisches Schlussfolgern bei Bedarf

Moderne Vision-LLMs sind bei komplexeren Fragen hilfreich: beim Verstehen von Bedeutungen, Prüfen dynamischer Inhalte, Beschreiben von Fehlern oder Bewerten von Konzepten, die sich nicht durch einen einfachen visuellen Fingerabdruck erfassen lassen.

03

Ein evidenzbasierter Hybridansatz

Der Vergleich von Genauigkeit, Latenz, Zuverlässigkeit und Kosten hilft uns zu entscheiden, welche Prüfungen lokal bleiben sollten und welche ausreichend von einem LLM profitieren, um eine langsamere und teurere Auswertung zu rechtfertigen.

Unsere Produktstrategie

Repeatos lokale Computer Vision als schnelles Fundament nutzen und moderne Vision-LLMs gezielt für komplexe oder semantische Schlussfolgerungen einsetzen, wenn sie einen spürbaren zusätzlichen Nutzen bieten.

Den gesamten Vision-Benchmark ansehen →

Testabdeckung

Sechs Bildschirme, drei Aufgabentypen

Jedes Modell wird anhand desselben eingefrorenen Korpus, derselben Prompts und Antwortschemata sowie einer normalisierten Geometrie von 0–1000 bewertet.

01

Commerce-Katalog

Desktop-Web mit einem sauberen Steuerelement und einem zugehörigen Fehler durch abgeschnittenen Containerinhalt.

02

Analytics-Dashboard

Desktop-Web mit einem sauberen Steuerelement und einem zugehörigen Fehler durch überlaufenden Text.

03

IoT-Steuerzentrale

Desktop-Web mit einem sauberen Steuerelement und einem zugehörigen Fehler durch überlappende Elemente.

DE