AI Governance

⌚: 6 minutes

La gouvernance de l’IA est l’idée qu’il devrait y avoir un cadre juridique pour garantir que les technologies d’apprentissage machine (ML) sont bien étudiées et développées dans le but d’aider l’humanité de manière équitable dans l’adoption des systèmes d’IA. En traitant les questions relatives au droit d’être informé et aux violations qui peuvent se produire, la AI Governance vise à combler le fossé qui existe entre la responsabilité et l’éthique dans le progrès technologique. En raison de l’augmentation de la mise en œuvre de l’intelligence artificielle dans tous les secteurs, y compris la santé, les transports, l’économie, les affaires, l’éducation et la sécurité publique, la préoccupation de définir définitivement la AI Governance est de plus en plus grande.

Les principaux domaines d’intérêt de la gouvernance de l’IA sont l’IA en ce qui concerne la justice, la qualité des données et l’autonomie. Cela implique d’identifier les réponses aux questions relatives à la sécurité de l’IA, de déterminer les secteurs appropriés et inappropriés pour l’automatisation de l’IA, de définir les structures juridiques et institutionnelles qui doivent être impliquées, le contrôle et l’accès aux données personnelles et le rôle des intuitions morales et éthiques dans l’interaction avec l’IA. Dans l’ensemble, la gouvernance de l’IA détermine la part de la vie quotidienne qui peut être façonnée par les algorithmes et qui est en charge de la surveillance.

Lorsque des algorithmes d’apprentissage automatique sont impliqués dans la prise de décisions, la gouvernance de l’IA devient une nécessité. Il a été observé que l’apprentissage machine peut avoir des effets négatifs sur le profil racial, refuser injustement des prêts à des personnes et identifier de manière incorrecte des informations de base sur les utilisateurs. Le développement de la gouvernance de l’IA aidera à déterminer comment gérer au mieux les scénarios où les décisions basées sur l’IA sont injustes ou en contradiction avec les droits de l’homme.

Les organisations qui se concentrent sur l’avenir et le développement de la gouvernance de l’IA sont l’Initiative pour l’éthique et la gouvernance de l’IA, un projet conjoint du Media Lab du MIT et du Centre Berkman-Klein pour l’Internet et la société de Harvard, et le comité de la Maison Blanche sur l’avenir de l’intelligence artificielle, annoncé par l’administration Obama en 2016. Ces deux initiatives complètent des recherches importantes et ouvertes au public pour étudier et hiérarchiser les implications sociétales et politiques de l’intelligence artificielle. Cependant, il existe encore un grand vide dans le cadre juridique de la responsabilité et de l’intégrité de l’IA.