UNE RÉFÉRENCE EN LANGAGE SIMPLE
Le risque lié à l'IA, expliqué
Le risque lié à l'IA est la possibilité de préjudice, de perte ou de résultats imprévus découlant du développement, du déploiement ou de l'utilisation de systèmes d'intelligence artificielle. Il inclut les risques pour les personnes, les organisations et les systèmes dont ils dépendent.
Parcourir la bibliothèque de référenceUn point de départ
Trois grandes familles de risques liés à l'IA
Trois familles offrent un point de départ ; un événement peut affecter plusieurs couches à la fois.
Risque stratégique
Le risque stratégique concerne la question de savoir si une organisation doit utiliser l'IA, si elle est prête et si les avantages attendus justifient l'exposition. Il inclut le désalignement avec les objectifs, les utilisations inappropriées, la faible responsabilité et les dépendances inacceptables.
Risque opérationnel
Le risque opérationnel survient lors de la conception, de l'acquisition, du déploiement et de l'utilisation de l'IA. Il inclut des résultats peu fiables, des données biaisées ou incomplètes, des failles de confidentialité et de sécurité, une mauvaise utilisation, un examen insuffisant et des perturbations. Les contrôles doivent prendre en compte les modèles, les personnes, les fournisseurs et les processus dans leur ensemble.
Risque systémique et cygnes noirs de l'IA
Les risques systémiques se propagent à travers les organisations ou la société via des modèles, des infrastructures, des données ou des incitations partagés. Certains risques extrêmes à fort impact se situent en dehors d'une taxonomie opérationnelle. La planification de la résilience consiste à savoir comment détecter et réagir sans prétendre prédire chaque inconnu.
Pourquoi le risque lié à l'IA diffère du risque technologique conventionnel
Le logiciel traditionnel est censé suivre des règles écrites à l'avance. Les systèmes d'IA produisent des résultats à partir de modèles appris, de sorte que les résultats peuvent varier selon les contextes et les mises à jour. Le comportement peut être difficile à expliquer, à reproduire ou à tester de manière exhaustive, surtout lorsque les modèles se combinent avec des données, des personnes et d'autres systèmes.
Cela peut rendre le chemin entre une décision et un préjudice plus difficile à retracer. Un résultat peut façonner une décision humaine, déclencher une action ou passer entre des agents. L'analyse des risques doit examiner le modèle, le système plus large, l'objectif, les conditions d'exploitation et les personnes responsables. L'objectif est de rendre explicites les hypothèses, la responsabilité et les plans d'intervention.
Bibliothèque de référence
Explorer les termes liés aux risques de l'IA
Chaque entrée commence par une courte définition, puis explique comment l'idée s'applique dans la pratique.
Questions fréquentes
Risque lié à l'IA : réponses rapides
- Le risque lié à l'IA est-il identique au risque de cybersécurité ?
- Non. La cybersécurité est une composante du risque lié à l'IA, et les deux se chevauchent, mais le risque lié à l'IA inclut également des dimensions comportementales, éthiques et systémiques.
- Qui est responsable du risque lié à l'IA dans une organisation ?
- En fin de compte, le conseil d'administration est responsable de la surveillance des risques de l'organisation. Chaque système d'IA déployé doit également avoir un responsable humain désigné ayant l'autorité pour le surveiller et agir lorsque les conditions changent.
- Quelle est la différence entre la gestion des risques liés à l'IA et la gouvernance de l'IA ?
- La gouvernance définit la responsabilité, les droits de décision et l'appétence au risque. La gestion des risques est la discipline opérationnelle qui identifie, évalue et traite les risques dans le cadre de cette gouvernance.