Les préconisations du CNPEN pour encadrer les IA génératives
Article publié le 28 août 2023
Le Comité national pilote d’éthique du numérique (CNPEN) a fait part, dans un avis du 30 juin 2023, de préconisations afin d’encadrer le développement d’IA génératives pour éviter les risques de manipulation et de désinformation.
forte accélération des IA génératives suscite de nombreuses interrogations, enthousiasmes et inquiétudes. Depuis l’arrivée de ChatGPT en novembre 2022 et son utilisation, que ce soit dans un cadre professionnel ou personnel, un intense flux médiatique s’est produit et des faits majeurs ont eu lieu parmi lesquels :
- La pétition mondiale signée en mars 2023 par des personnalités et des fondateurs de l’IA comme Elon Musk (Tesla, Twitter, SpaceX), Sam Altman (Open AI), Yuval Noah Harari (Auteur de Sapiens) demandant une pause concernant la R&D de systèmes d’IA
- Les avancées de l’AI Act et l’accord politique du parlement européen en mai 2023 pour garantir que les IA développées respectent des droits fondamentaux
- Les annonces du président Macron en juin 2023 d’engager 500 millions d’euros, dans le cadre de France 2030, pour accélérer la R&D française en matière d’IA
Que dit plus précisément cet avis ?
Face à cette actualité, le CNPEN, qui a un rôle consultatif, rappelle dans cet avis les enjeux éthiques, juridiques et environnementaux et émet 22 préconisations à destination des concepteurs, de la communauté scientifique et des gouvernances, parmi lesquelles :
- La responsabilisation des concepteurs dès la phase de conception. Les choix technologiques doivent ainsi, selon le comité, être systématiquement analysés, pondérés et les sources être de qualité afin d’éviter le risque de désinformation
- La mise en place de mécanismes de contrôle afin de distinguer l’homme de la machine afin d’éviter tout risque de manipulation
- La nécessité de respecter le multilinguisme et la diversité des langues, et par conséquent des cultures, ainsi que celle de conditionner l’utilisation, pour les jeunes, des IA génératives à des l’étude du développement cognitif du cerveau
- L’importance d’un cadre juridique propres au IA génératives et au traitement des données, telles que la collecte, le stockage ou la réutilisation. Il s’agit là de renforcer l’articulation entre AI Act et le RGPD. Par ailleurs, le comité précise que la responsabilité légale incombe au fournisseur et que la responsabilité morale s’étend également aux concepteurs et développeurs.
- La mise en place d’une métrique de l’impact environnementale des IA génératives dont la mesure du coût énergétique est aujourd’hui délicate
- La mise en place d’une entité souveraine de recherche de formation dédiée à l’IA, la science et la société et l’évaluation des systèmes d’IA par des acteurs économiques et des autorités publiques
DIVA, c’est quoi ?
En Pays de la Loire, l’EDIH DIVA est un collectif d’experts du numérique, de l’innovation et du développement économique qui œuvre pour permettre aux entreprises ligériennes d’accélérer leur transformation digitale tout en développant des usages utiles et éthiques de la donnée par les entreprises.
Vous vous questionnez sur les sujets de la DATA et de l’IA ? Vous vous demandez si ces sujets vous concernent ? Vous souhaitez vous faire accompagner dans votre projet ?
Pour en savoir plus : Avis 7 du CNPEN Systèmes d’intelligence artificielle générative : enjeux d’éthique | Comité Consultatif National d’Ethique (ccne-ethique.fr)