Les enseignements du projet européen SeCoIA Deal

Le projet SeCoIA Deal[1],(11) de dimension européenne et co-financé par l’Union européenne a fédéré une ruche d’acteurs multiculturels autour de la conviction qu’il était possible non seulement de construire une confiance dans les outils d’intelligence artificielle mais aussi que le dialogue pouvait en être un levier. Nous avons donc été tout de suite au cœur de la problématique du dialogue social.

Il a réuni un consortium de 5 organisations emmenées par le syndicat français de l’encadrement (CFE-CGC), des partenaires patronaux et syndicaux, comme l’Union des entreprises de proximité (U2P) et l’homologue italien de la CFE-CGC[2], ainsi que l’IRES et ASTREES qui animent le réseau Sharers & Workers.

Le partenariat s’est également constitué avec la Confédération européenne de l’encadrement (CEC), la fondation italienne Giacomo Brodolini, l’ONG AlgoritmWatch, le Comité syndical consultatif auprès de l’OCDE et l’organisation des managers en Suède Ledarna.

Le projet a été lancé en 2020, un contexte particulier marqué par une montée en puissance des enjeux de l’IA dans l’agenda des acteurs à l’échelon européen. La Commission européenne a publié en février 2020 sa communication « Façonner l’avenir numérique de l’Europe » et adopté son livre blanc sur l’intelligence artificielle, posant les bases d’une stratégie numérique de la Commission. Côté partenaires sociaux, l’année 2020 a vu la signature en juin 2020 de l’accord-cadre sur la numérisation, l’adoption des lignes directrices de la CEC sur la « gestion de la transformation numérique », la position « les humains doivent rester aux commandes » de la Confédération européenne des syndicats ou encore la recommandation de la fédération IndustriALL sur l’IA.

Nous avons souhaité dans ce contexte articuler l’ensemble des défis que posent l’IA, que ce soit sur les enjeux éthiques, économiques, sociaux ou démocratiques. Il arrive avant l’IA Act, mais c’est au moment de l’accord-cadre européen. 

Le second élément d’intuition partagée - qui a présidé à l’ensemble nos réflexions - c’est que la transparence des algorithmes et plus largement de l’IA nécessite de promouvoir un dialogue social nouveau, associant une diversité de parties prenantes (fournisseurs, prestataires, clients, entreprises…) et selon des modalités renouvelées.

La méthode a consisté à mettre en place une communauté d’acteurs agissante et plurielle, affichant des profils très différents : des représentants des cadres, des experts (data-scientists…), des syndicalistes, des entreprises de proximité… 
 

[1] « SErvir la Confiance dans l’IA par le dialogue »

[2] La confédération syndicale italienne des managers (CIDA)

Le dialogue doit prendre différentes dimensions :

• l’objet du dialogue : l’outil, le métier, les compétences, l’organisation, les données générées par les manageurs ;
• sa temporalité : en amont de la décision d’achat de l’’outil IA, en amont de son déploiement, pendant son déploiement et au cours d’un suivi ;
• les acteurs du dialogue et leur périmètre : éditeurs des solutions d’IA, direction générale, managers, direction informatique, salariés, utilisateurs, représentants du personnel. Des questions en découlent portant sur la transparence, l’acceptabilité, l’intelligibilité, la « discutabilité » et l’appropriation.

Le dialogue doit aussi être penser avec les autres niveaux de régulation : concernant les données, s’appuyer sur des standards et labels, homologuer des chartes éthiques, intégrer le respect des droits fondamentaux avec des obligations pour les éditeurs d’IA.

Des leviers en matière de négociation collective sont à activer avec les potentialités ouvertes par l’article 88 du RGPD[1] pour les ajustements de la protection des données dans la relation de travail.

Une sensibilisation des acteurs au traitement des données et le développement d’une culture data apparaissent indispensables.

L’union européenne a fait le choix d’un cadre de régulation de l’usage des SIA (Systèmes d’intelligence artificielle) principalement top-down, reposant sur l’articulation entre les règlements, la standardisation, l’auto-régulation (qui peut déboucher sur des chartes). Une dynamique de dialogue social adaptée aux spécificités de l’IA, telle que proposée par l’accord-cadre européen, est à même de promouvoir une approche bottom-up ascendante.

L’accord-cadre européen fournit de nombreuses pistes sur la façon d’engager un processus permanent de co-construction dans l’entreprise. Ce qui nous a amenés à construire 11 outils.
 

[1] Concernant les traitements de données personnelles réalisés dans le cadre du travail, le règlement indique que les États membres peuvent prévoir des règles plus spécifiques par la voie législative ou celle des conventions collectives.

L’un des objectifs structurants du projet était de produire des recommandations et des outils génériques et appropriables par l’ensemble des parties prenantes et acteurs impliqués par le déploiement des SIA.

Le besoin de dialogue social permanent nous a conduit à concevoir des outils adaptés. Prenons trois exemples. 

La clause de revoyure dans le cadre d’utilisation dans le travail d’outils à base d’IA

Dans la plupart des différentes législations des Etats membres, le dialogue social sur les SIA utilisés en entreprise se concentre souvent au moment de leurs introductions. Une fois mis en place, ces outils ne font généralement plus l’objet d’un focus particulier et se fondent dans les sujets plus larges de l’activité de l’entreprise.

Les outils à base d’IA sont évolutifs et auto-apprenants et leurs impacts sur les salariés et l’organisation vont évoluer dans le temps. Donc il faut définir les modalités d’un dialogue social permanent. 

L’objectif est d’organiser un dialogue périodique et itératif avec les acteurs sociaux sur l’évolution des outils utilisés dans l’entreprise. Des rendez-vous sont prévus à l’avance ou peuvent être initiés en fonction de conditions prédéterminées. De telles clauses de revoyure peuvent être inscrites dans un accord collectif, ou dans une déclaration d’un chef d’entreprise ou une charte traduisant alors un engagement juridiquement contraignant. 

Les accords de méthode dans les entreprises constitueraient en outre un bon outil pour définir en amont la mise en place d’un « bac à sable » technologique qui permettrait de travailler ces questions.

Le registre des outils d’IA

Dans le cadre du projet d’IA Act, en cas de recours à des SIA à haut risque à des fins professionnelles, les utilisateurs supportent des obligations (utilisation de la notice, tenue d’un journal, analyse d’impact relative à la protection des données). Celles-ci ne s’appliquent pas dans le cas de systèmes qui ne seront pas considérés à haut risque alors qu’il y aurait des impacts sur les droits fondamentaux.

L’idée serait d’instaurer un outil de suivi des SIA installés dans l’entreprise en mettant en place un registre intégrant une description et une évaluation des projets d’IA, ce qui permettrait d’impliquer très en amont toutes les parties prenantes de l’organisation, de suivre les décisions, mais aussi d’apporter des éclaircissements, de « challenger » la solution. 

Un comité éthique de l’IA en entreprise

Les travaux ont mis en avant la nécessité d’exercer un contrôle de premier niveau dans l’entreprise, et un dialogue social permanent est une réponse. 

Un tel comité est de nature à maintenir la confiance entre le fournisseur de service et l’utilisateur avec la création d’un délégué éthique de l’IA, à l’instar du DPO dans le cadre du RGPD. Ce délégué joue un rôle d’interface et assure le lien entre l’entreprise et les fournisseurs de services. 

Une réunion annuelle permet de faire le point sur toutes les informations-consultations concernant les nouveaux SIA (liste des consultations ou informations des introductions de nouvelles technologies liées à l’IA, mis à jour du registre).

Par exemple, si un salarié s’aperçoit qu’il a été, selon lui, discriminé par un outil d’IA, il peut solliciter un membre du comité qui se réunit pour instruire la demande. On peut alors imaginer une expertise du système par exemple dans un « bac à sable » technologique où on va essayer de reproduire le cas, retester le modèle pour déceler des cas similaires et demander au fournisseur de corriger le problème le cas échéant. Le registre est alors mis à jour et la demande archivée.

L’article 29 du projet de l’AI Act prévoit une obligation du fournisseur de relabelliser son outil au niveau européen et de le redécliner au niveau de l’entreprise à la suite d’une information ou d’une consultation. 

Un cycle permanent se met ainsi en place, les parties prenantes se mettant d’accord sur les modalités et l’organisation du dialogue social.