L’IA éthique, de quoi parle-t-on ?

Le marché de l’IA dans le monde représente 53,3 milliards de dollars en 2023. Il sera de 89,8 milliards de dollars en 2025. La croissance exponentielle de la puissance de calcul conjuguée à l’explosion du volume des données fait que ce marché est en pleine expansion.

Cependant, le développement fulgurant des technologies d’IA pose actuellement de nombreuses questions, non seulement sur le plan économique et sociétal, mais avant tout sur le plan éthique.

Certes, la réglementation, notamment européenne (RGPD, AI Act), viendra encadrer juridiquement son utilisation mais elle ne permettra pas de tout résoudre. L’éthique, autrement dit une vision citoyenne et humaine en phase avec nos principes et valeurs démocratiques, est essentielle dans la conception et l’utilisation de solutions d’IA au service de l’humain.

Mais alors qu’est-ce qu’une IA éthique ? Selon Tawhid CHTIOUI, PhD et Président de AIvancity, une IA éthique revêt 6 caractéristiques :

1. Loyauté : L’IA communique sa finalité, son fonctionnement et ne cherche pas à tromper l’utilisateur.

• L’utilisateur doit comprendre sans ambiguïté qu’il interagit avec une machine,
• Connaître l’usage que le système fait de ses données personnelles,
• Savoir si une IA est impliquée dans un calcul qui pourrait orienter une décision qui le concerne ou qu’il doit prendre…

2. Equité : L’IA se prémunit des risques de discrimination et favorise l’inclusion.

• Le système doit fonctionner de manière  impartiale. Il doit, en particulier, viser à ne pas renforcer ou créer de la discrimination du fait de biais introduits lors de l’entraînement ou dans l’algorithme.
• Il doit refléter la diversité de la population utilisatrice ou concernée et favoriser la diversité et l’inclusion.

3. Transparence et explicabilité : L’IA sait expliquer ses conclusions. Ses processus sont documentés.

• Explicabilité : Les causes et critères qui conduisent aux conclusions de l’IA doivent pouvoir être portés à la connaissance des utilisateurs.
• Traçabilité : Le processus de conception/déploiement du système doit être documenté (description de la collecte et de l’étiquetage des données, de l’algorithme utilisé, du modèle économique,  etc.).
• Auditabilité : Le système doit se trouver en mesure de prouver la réalité des qualités et principes éthiques dont il se réclame.

4. Respect de la vie privée : L’IA se conforme aux RGPD et fait un usage mesuré des données personnelles. 

• Le système doit respecter la vie privée et l’intimité des individus et, par exemple, ne pas capter de données à son insu,
• Le système doit garantir la confidentialité des données au sens de la règlementation en vigueur (RGPD), à l’égard de la collecte, du stockage, du traitement et de l’accès aux données personnelles,
• ll doit permettre à l’utilisateur de conserver la maîtrise (modification, suppression) de l’ensemble de ses données à caractère personnel, y compris celles générées par l’IA elle-même,
• Le système doit tendre vers un usage mesuré des données personnelles utilisateurs.

5. Fiabilité et supervision humaine : L’IA est fiable et reste sous contrôle humain.

• Fiabilité : Le système doit fournir des résultats reproductibles et valides,
• Rigueur de la conception : Il doit avoir été conçu et développé de manière rigoureuse, par des professionnels et selon des méthodes reconnues et appropriées,
• Fonctionnement sous contrôle : L’utilisateur d’un système d’IA prend connaissance des recommandations émises mais doit pouvoir rester décisionnaire et autonome dans ses choix individuels.

6. Sécurité : Les risques liés à l’éthique sont analysés et maîtrisés ; l’IA se protège contre les cyberattaques.

• Analyse des risques : Le système doit avoir été l’objet lors de sa conception d’une analyse des risques liés à l’éthique ; l’évaluation doit se renouveler régulièrement de manière à maintenir la conformité aux exigences éthiques auxquelles le système prétend se référer,
• Sûreté : Le système doit, en particulier, se prémunir des risques d’attaques susceptibles de modifier son comportement et de le rendre dangereux ou non conforme aux droits  fondamentaux.

Pour en savoir plus : La grande Ecole de l’Intelligence Artificielle et de la data | aivancity