# Human Oversight Ai **Source:** https://fr.airisks.net/human-oversight-ai **Language:** French --- La supervision humaine de l'IA est la capacité des personnes dotées de l'autorité et des connaissances appropriées à comprendre, surveiller et intervenir dans l'utilisation d'un système d'IA. Une supervision efficace donne à l'humain une véritable opportunité de remettre en question ou de modifier un résultat, plutôt que de lui demander d'approuver une décision qu'il ne peut pas évaluer. Deux descriptions courantes sont l'humain dans la boucle (human-in-the-loop) et l'humain hors de la boucle (human-on-the-loop). Dans un système avec l'humain dans la boucle, le système s'arrête pour obtenir l'avis ou l'approbation d'un humain avant qu'une action définie ne soit entreprise. Dans un système avec l'humain hors de la boucle, le système agit dans le cadre de limites définies tandis qu'une personne surveille son fonctionnement et peut intervenir. Aucun de ces termes ne garantit une bonne supervision : les détails relatifs à l'autorité, au timing, à l'information et à la charge de travail déterminent si une personne peut réellement faire la différence. ## Rendre l'intervention pratique Les utilisateurs doivent savoir à quoi sert le système, ce qu'il ne peut pas faire de manière fiable, quels cas nécessitent une attention particulière et quelles preuves étayent un résultat. Ils ont besoin de suffisamment de temps pour examiner ces informations et d'un moyen de contester ou de contourner le système. Si l'interface masque l'incertitude, que la file d'attente est trop importante ou que la direction ne récompense que la vitesse, une étape d'approbation nominale peut se transformer en simple formalité. La conception de la supervision doit correspondre à l'impact et à la réversibilité de l'action. Une suggestion à faible impact peut être vérifiée par des règles d'échantillonnage et d'escalade. Une décision susceptible de refuser une opportunité à une personne ou d'affecter la sécurité peut nécessiter un examen individuel, des motifs vérifiables et une voie de recours pour reconsidérer le résultat. L'organisation doit tester si ces contrôles fonctionnent sous une pression temporelle réaliste et lorsque le système commet des erreurs. ## L'humain désigné Chaque système d'IA déployé doit avoir un responsable humain désigné. Ce responsable est comptable de son utilisation et de son fonctionnement approuvés, sait quelles équipes effectuent les tests et la surveillance, et a l'autorité de demander un examen ou de suspendre son utilisation. Ce rôle ne peut pas être attribué vaguement à un comité. Les comités peuvent définir des politiques et contester les preuves, mais une personne spécifique doit posséder chaque système et agir lorsqu'un seuil est franchi. Ce responsable doit être soutenu par des spécialistes techniques, des équipes juridiques et des risques, des utilisateurs de première ligne et des personnes concernées le cas échéant. Les responsabilités doivent être documentées tout au long du cycle de vie : qui approuve le déploiement, qui surveille les performances, qui gère les incidents et qui décide si le système peut reprendre après une pause. Le responsable a également besoin d'un adjoint désigné ou d'un plan de continuité en cas d'absence. La surveillance humaine ne remplace pas une conception fiable ou des limites appropriées. Les gens peuvent commettre des erreurs, devenir trop dépendants de l'automatisation ou manquer du contexte nécessaire pour reconnaître une erreur. Une bonne gouvernance associe le jugement humain à des tests de système, des frontières claires, des registres, des voies d'escalade et le pouvoir d'intervenir. L'objectif est de rendre la responsabilité réelle et de permettre de contester les décisions lorsque les conséquences comptent. ## Termes associés - Gouvernance de l'IA - Risque lié à l'IA agentique - Appétence au risque de l'IA Approfondir : Cadre EW-AiRM™