Les activités du syndicat GPA dans le domaine de l’intelligence artificielle (Autriche)

En Autriche, les relations professionnelles sont construites autour de piliers forts, les conventions collectives, les conseils d’établissement (Betriebsräte). La particularité plutôt unique du système de relations professionnelles autrichiennes est l'existence de neuf Chambres provinciales du travail (Länderkammern), connues principalement sous l'abréviation AK, utilisée ci-après) fonctionnant sous l'égide de la Chambre fédérale du travail (Bundesarbeitskammer, BAK)[1]. La Chambre du Travail est une représentation légale des intérêts des travailleurs en Autriche. Dans les faits, elle est une organisation-sœur de la Confédération autrichienne des syndicats ÖGB (Österreichischer Gewerkschaftsbund) mais ne négocie pas les conventions collectives. Le GPA, qui regroupe notamment les employés du secteur privé, est le premier syndicat autrichien au sein de la Confédération autrichienne des syndicats.

Le département Travail et Technologie du GPA apporte son soutien aux conseils d’établissement et mène des travaux de fond sur la conception du travail, l’évaluation technologique, la protection des données, la responsabilité sociale et environnementale. 
 

[1] La chambre du travail a été fondée en 1920 ; du côté des employeurs, la Chambre du commerce existe depuis 1848.. 

L’expression intelligence artificielle recouvre différentes réalités. Elle désigne de manière générale des procédures à capacité auto-apprenante menant à des affirmations qui peuvent entrer en contradiction avec les intérêts des salariés. Dans le contexte de l’entreprise, ce qui caractérise le mieux l’IA est de parler de « traitement de données de masse par un algorithme ».

Le traitement direct ou indirect des données personnelles des salariés peut considérablement affecter leurs intérêts et leurs conditions de travail.

La notion de big data recouvre quant à elle la collecte et l’analyse de données massives qui pour partie relèvent du comportement ou de l’opinion des salariés. 

Le big data peut constituer une menace pour les employés, dans le sens où il a accès à un grand nombre d’informations concernant leur performance, le salaire, les heures travaillées, les absences, la formation, et des données individuelles (sexe, âge…).

Ces technologies permettent de répondre à des questions telles que : « Qui va quitter l’entreprise ? », « Qui devrait la quitter ? » ou encore, « Quelle est la probabilité que des compétences clés quittent l’entreprise ? ».

Les systèmes d’intelligence artificielle présentent un très haut potentiel mais aussi un niveau très élevé de risque. Ils conduisent à prendre des décisions concrètes concernant des personnes et, même lorsque ce n’est pas le cas, leurs recommandations sont très suivies. Sur le lieu de travail, les outils numériques sont de plus en plus interconnectés et complexes (souvent avec des applications d’IA intégrées). Une fois introduits, les systèmes d’IA sont difficiles à modifier et à contrôler par le conseil d’entreprise.

Certaines entreprises poussent la logique très loin, puisque le système automatisé va presque jusqu’à l’envoi de la lettre de licenciement.

Le télétravail représente parfois un certain nombre de risques en ce qu’il permet la collecte de nombreuses données personnelles et professionnelles.

Prenons quelques exemples : 

Le cas de Microsoft 365

Beaucoup de travailleurs utilisent Microsoft 365 ainsi que l’ensemble de ses applications annexes. À cette occasion, des données comportementales sont collectées et évaluées, telles que le temps de lecture des courriels, les modalités et le temps de recours à Teams, etc…

Toutes ces données peuvent nourrir un processus algorithmique et aboutir à des recommandations problématiques, telles qu’une réunion qualifiée « de faible qualité », lorsque les participants envoient des courriels pendant la réunion, le ciblage de « participants distraits » lorsque des conflits d’horaires sont saisis dans le calendrier ou des courriels « inefficaces » en cas d’envoi décalé dans le remps.

Nous nous sommes saisis de cet enjeu et avons mis au point une brochure, organisé des séminaires, des ateliers de sensibilisation et des formations portant sur l’utilisation des applications de Microsoft 365 afin d’obtenir de la transparence sur le sujet de la part des employeurs.

L’objectif est d’obtenir, par accord d’entreprise, l’interdiction d’utiliser certaines fonctionnalités annexes du logiciel ou, à défaut, le syndicat recommande aux conseils d’établissement d’obtenir la formulation de règles du jeu claires pour toutes applications concernées.

Ce sujet nécessite d’ailleurs une formation continue pour suivre les évolutions constantes de ces applications.

Le recours aux outils CRM[1] dans le domaine de la gestion de la relation client

De plus en plus présents dans les entreprises, ces outils captent des données sur les salariés en relation avec les clients, telles que l’attitude du salarié, le temps d’échange…

Une entreprise a mis en place une politique de surveillance déclenchant un processus automatisé lorsque le retour client était inférieur à 3 étoiles afin que le manager soit immédiatement prévenu et intervienne auprès du salarié mis en cause.

Avec notre aide, le conseil d’entreprise a obtenu l’arrêt du dispositif, en faisant valoir que la notation client était due à la qualité des produits vendus par l’entreprise et non aux échanges avec le salarié.

Les dispositifs de surveillance des salariés

Un géant de la logistique a mis en place des dispositions de surveillance des salariés, notamment de ses livreurs. Présenté comme un système de sécurité, la vidéosurveillance embarquée enregistre en permanence les moindres faits et gestes des conducteurs, ce qui peut entrainer des sanctions en cas d’erreur de conduite ou de distraction (freinage brutal, non-respect des distances de sécurité, fatigue perceptible…). Il s’agit d’une mesure de contrôle qui porte atteinte à la dignité humaine.
 

[1] Customer Relationship Management

Le syndicat a créé un fonds permettant de financer des projets d’études sur l’intelligence artificielle et sur les systèmes de contrôle et de surveillance des salariés.

Disponible en ligne en accès libre, une étude a déjà été publiée, sur de nombreux systèmes de surveillance disponibles sur le marché[1]. Sont répertoriés les données qu’ils collectent et les risques qu’ils représentent. Cette étude permet aux conseils d’entreprise et aux négociateurs en général de mieux comprendre ce dont ils parlent.

L’objectif du syndicat est d’utiliser les nouvelles technologies en faveur des salariés. Comment se protéger face à l’intégration de l’IA dans l’entreprise ?

Il est indispensable de démythifier les systèmes d’intelligence artificielle en participant activement à leur entrée dans l’entreprise dès leur mise en place afin de comprendre comment ils fonctionnent et les contrôler. Pour cela, il faut interroger l’employeur dès le début pour obtenir le plus d’informations possibles.
 

[1] « Surveillance et contrôle numériques au travail. De la collecte de données en entreprise à une gestion algorithmique », : Wolfie Christl, septembre 2021, Étude soutenue par AK Digifonds https://crackedlabs.org/daten arbeitsplatz

Nous avons formulé des revendications autour de deux points essentiels : 

• l’intelligence artificielle doit présenter des exigences minimales contraignantes en termes de transparence, de traçabilité, et d’interdiction de certaines applications telle que la surveillance biométrique ;
• des mécanismes de contrôle indépendants doivent aussi être mis en place plutôt que des dispositifs d’auto-évaluation ou d’auto-certification, avec une instance en mesure de lancer des alertes et de recueillir des plaintes éventuelles.

Afin de les accompagner et de leur permettre de n’oublier aucun paramètre à négocier, le syndicat recommande aux conseils d’établissement d’effectuer une analyse d’impact portant sur la protection des données et une évaluation des risques pour les applications de l’IA. Il met également à disposition un modèle de convention cadre en matière de protection des données incluant une information régulière sur les nouveaux systèmes mis en place.

Force est de reconnaître que peu d’entreprises abordent la question et lorsque c’est le cas, les informations sont peu ou pas transmises. Il arrive que l’employeur indique ne pas recourir aux algorithmes et au big data. En l’absence de compétences techniques, les représentants syndicaux ont du mal à contrôler cette affirmation.

Pour conclure, voici une liste de questions à se poser avant d’intégrer un système d’IA dans l’entreprise :

• quel est le but de l’application ?
• quelles données doivent être traitées ?
• quelles données vont être liées aux salariés ?
• quelles techniques d’IA vont être utilisées ?
• quelles opérations le logiciel va-t-il pouvoir réaliser ?
• quels seront les critères utilisés par le logiciel (en termes d’aide à la prise de décision par exemple) ?
• quelles conséquences en tirer dans la pratique, sur le plan opérationnel, et qui en est responsable ?