H Company Holo · Phare · 2026-08-13
Performances de Holo3 122B A10B sur les tâches de repérage d’interface à partir de captures d’écran, de présence d’éléments et de détection de défauts visibles de mise en page, pertinentes pour l’automatisation des tests.
Les requêtes ont été envoyées directement via l’API H Company Models, avec la sortie structurée et le raisonnement désactivés. Les solutions de secours étaient désactivées pour chaque requête conservée.
Résultat global
Holo3 122B A10B a atteint 22 des 24 cibles d’interface demandées. Sa précision équilibrée était de 100 % pour la présence des éléments et de 58 % pour la détection des défauts de mise en page.
Ce pilote daté a conservé 24 réponses d’ancrage et 24 réponses de détection. Aucune requête de détection n’a échoué. Les résultats décrivent ce modèle API et ce corpus de test précis, et non la qualité générale du modèle ni un produit de chat grand public.
Performances relatives
Chaque échelle compare le modèle sélectionné au modèle concurrent le plus fort et au plus faible. Les trois métriques proviennent de la même exécution d’ancrage terminée sur 24 cas ; la valeur la plus élevée est toujours à droite.
Ancrage d’interface
Vingt-quatre cibles couvrent six écrans de bureau et mobiles déterministes. Un point conforme au schéma situé à l’intérieur de la cible demandée compte comme une réussite ; l’IoU des boîtes mesure la précision de la localisation.
Résultats de détection
Des tâches équilibrées distinctes mesurent si le modèle rejette les éléments absents et distingue les contrôles propres des captures d’écran contenant un seul défaut de mise en page introduit.
Six requêtes cibles présentes et six absentes par modèle. Cette série mesure uniquement la classification.
Six contrôles propres et six captures d’écran présentant chacune un défaut introduit par modèle. Les échecs de transport restent des échecs opérationnels, et non des réponses de précision.
Pourquoi cette recherche est importante
Les meilleurs LLM de vision peuvent raisonner sur des concepts visuels complexes, mais ils restent trop lents et coûteux pour chaque étape de test. Cette recherche nous aide à déterminer où leurs capacités sémantiques justifient ce compromis.
Les propres algorithmes locaux de vision de Repeato gèrent les interactions fréquentes, la mise en correspondance visuelle et les vérifications de régression avec un retour rapide, un comportement prévisible et aucun coût de modèle par requête.
Les meilleurs LLM de vision sont utiles pour les questions plus complexes : comprendre le sens, vérifier du contenu dynamique, décrire des défauts ou évaluer des concepts impossibles à capturer avec une simple empreinte visuelle.
Comparer la précision, la latence, la fiabilité et le coût nous aide à déterminer quelles vérifications doivent rester locales et lesquelles justifient suffisamment l’utilisation d’un LLM pour compenser une évaluation plus lente et plus coûteuse.
Utiliser la vision par ordinateur locale de Repeato comme base rapide, puis faire appel de manière ciblée aux meilleurs LLM de vision pour les raisonnements complexes ou sémantiques, lorsqu’ils apportent une réelle valeur ajoutée.
Couverture des tests
Chaque modèle est évalué sur le même corpus figé, avec les mêmes prompts, schémas de réponse et géométrie normalisée de 0 à 1000.
Web desktop avec un contrôle intact et un défaut associé de rognage du conteneur.
Web desktop avec un contrôle intact et un défaut associé de débordement du texte.
Web desktop avec un contrôle intact et un défaut associé de chevauchement d’éléments.
