Skip to content

Regarder l'écran ​

C'est le point de départ de presque toute tâche : l'agent voit ce que vous voyez.

Ce que vous demandez ​

« Regarde mon écran et dis-moi quelle fenêtre est au premier plan. »

« Trouve le bouton Enregistrer à l'écran. »

Ce que fait l'agent ​

  1. vue_displays liste les écrans, avec leur indice. Avec deux écrans, l'agent sait ainsi lequel regarder.
  2. vue_snapshot capture un écran. Il renvoie un contrat de coordonnées (coord_space) puis l'image. Par défaut l'image est réduite à 720 pixels de large : l'agent en demande davantage pour du détail fin, ou limite la capture à une region.
  3. vue_find localise un libellé visible par OCR sur l'appareil et rend des coordonnées cliquables. Il sert surtout quand Touché ne voit rien.
  4. vue_resolve convertit un pixel de l'image en point global, et inversement, sans capturer : l'agent n'a pas à calculer décalage et échelle.

Ce que vous obtenez ​

Une description, une position, ou un point cliquable. Daimon n'interprète pas l'image : c'est votre agent qui la regarde et qui décide.

Ce que Daimon masque ​

Les fenêtres des applications que vous protégez, les zones déclarées et les champs secrets ne sont jamais refusés : ils sont censurés, remplacés par un aplat violet opaque #3A2A5C. Votre agent sait qu'une zone de cette couleur est du contenu masqué, pas un écran vide. L'OCR lit l'image censurée : il ne renvoie aucun mot qui touche une zone censurée. Voir Confidentialité.

Si l'appel est refusé ​

CodeCe que l'agent doit faire
permission_deniedL'autorisation Enregistrement de l'écran manque : Autorisations
invalid_argumentsCorriger l'argument
index_out_of_rangeL'écran demandé n'existe pas : relire vue_displays
capture_failedRéessayer, puis appeler daimon_doctor
exclusions_unreadableVotre fichier d'exclusions est cassé : le message nomme le fichier et la ligne

Détail complet : Vue.

Suite : Lire une interface, ou Agir.