L’IA au sein des administrations locales : « Il faut que ce soit choisi et non subi »

Alors que ChatGPT fête son troisième anniversaire, le « Journal sur pause » s'arrête sur la présence de l'intelligence artificielle au sein des pouvoirs locaux parce que comme partout, l'IA s'invite dans les administrations. Pour quelle tâche et avec quel encadrement ? Si les responsables ne s'étaient jamais posé la question, l'IA Act, un règlement européen, les oblige désormais à le faire.

Sur le plateau : 

• Vincent Pittard, consultant et formateur, il accompagne les administrations et les entreprises à développer et à sécuriser leurs pratiques numériques. 
• François Laureys, chef de projet NumériC au BEP, il est en charge notamment du développement et de l'encadrement de l'IA au sein de l'intercommunale.

François Laureys et Vincent Pittard

La nouveauté de cet été, c'est, l'IA Act, un règlement européen qu'on peut peut-être comparer au RGPD. L'IA Act, en quelques mots, qu'est-ce que c'est exactement ?

Vincent Pittard : C'est un petit peu le même esprit effectivement. Il s'agit de prévenir les risques qu'il peut y avoir avec l'utilisation et les différents usages de l'IA. Je ne vais pas entrer dans les détails parce que avec 144 pages, on devrait y passer la soirée. L'idée c'est de pouvoir encadrer des usages qui pourraient être dommageables et qui créent des risques. C'est pour ça que ce règlement prévoit quatre classes de risques : des risques minimaux, limités, des systèmes à haut risque et même des risques inacceptables qui eux sont déjà bannis du territoire de l'Union européenne.

L'IA Act ne concerne pas uniquement les administrations, les pouvoirs locaux, toutes les entreprises, de la plus petite à la plus grosse dans l'Union européenne doivent s'y conformer ? 

V. P. : Toutes les entreprises, toutes les organisations même si on veut être un petit peu plus large. Alors le règlement concerne principalement les fabricants d'IA. Mais c'est vrai que tous les employeurs, et j'insiste un peu là-dessus, tous ceux qui autorisent même tacitement un usage professionnel de l'IA dans leur organisation prennent un rôle qu'on appelle de déployeur et à ce titre-là, ils ont des obligations de contrôle et de transparence qui ne sont pas anodines avec des sanctions à la clé.

Vous dites « tacitement », c'est souvent comme ça que ça que l'IA s'invite dans les organisations ? Au départ, un fonctionnaire ou un employé teste des choses dans son coin sans nécessairement que le management prenne les choses en main.

François Laureys : Oui c'est vrai. Alors il faut peut-être distinguer deux choses : effectivement, pour les modèles de langage, comme ChatGPT etc., où c'est vraiment ce mécanisme-là. Et puis l'IA qui était déjà dans des logiciels, dans des flux, dans des réflexions préalables. 

Au BEP, ça fait cinq ans au moins qu'on avait participé à un programme de l'Agence du numérique qui s'appelait StartIA qui posait la question de quelle était la place de l'intelligence artificielle dans une institution comme le BEP. Mais on ne parlait pas encore de ChatGPT. 

Quand ChatGPT est arrivé de manière publique et s'est déployé, on a vu chacun s'en emparer un peu dans son coin en n'osant pas trop dire à la direction qu'on l'utilisait parce que peut-être que ça allait être mal vu qu'un mail soit relu par une IA. Donc c'est vrai que chacun a été un petit peu dans son coin pour découvrir ces modèles de langage et ces outils qui objectivement nous simplifient la vie au quotidien. 

Chacun dans son coin

Hormis justement les programmes où l'IA est finalement cachée, est-ce normal que chacun commence par tester dans son coin ? Ou est-ce qu'il faut pas s'en inquiéter ? 

V. P. : Il ne faut pas s'en inquiéter, maintenant il faut quand même garder ça en tête. C'est une des particularités de ces IA génératives, c'est que chacun les découvre souvent dans le domaine privé et puis se dit "tiens ça pourrait être intéressant dans le domaine professionnel". À l'inverse de beaucoup d'outils qui souvent sont poussés par la direction, qui sont d'abord testés, validés et ensuite ça redescend. Ici c'est l'inverse, ça remonte et c'est pour ça que ça crée parfois à la fois des frictions dans certaines équipes et puis aussi beaucoup de craintes et d'incertitudes de la part des directions.

« Déployeur », c'est comme ça qu'on appelle les entreprises et les administrations où, même si c'est un petit peu dans leur coin, les employés ou les fonctionnaires utilisent l'IA.  Cela oblige les entreprises, les administrations à encadrer l'usage de cette IA. Ça veut dire quoi encadrer ?

V. P. : Oui mais vous avez raison d'utiliser ce terme-là parce qu'on parle souvent de charte d'utilisation de l'IA. En fait, le règlement ne parle pas de charte, n'impose pas un document qui aurait une valeur contraignante, même si c'est ce que je conseille malgré tout. Pour pouvoir avoir une force de frappe, ça doit être dans le règlement de travail. 

Mais globalement les obligations du règlement européen, c'est plutôt effectivement l'information, le cadrage, la supervision et puis selon que le risque soit limité ou qu'il s'agisse de systèmes à haut risque, les obligations augmentent. Ce n'est pas tellement l'outil qui permet de savoir si on est dans ces systèmes à haut risque ou à risque limité, c'est plutôt les usages et donc là il faut recommander à tous ceux qui font du recrutement par exemple, qui sont dans le domaine social, ils passent tout de suite dans des systèmes à haut risque même s'ils utilisent ChatGPT, alors que le département communication sera dans des risques un peu plus limités.

Cet e-mail a été corrigé par une IA

L'autre point c'est la transparence. Vous conseillez de dire si on utilise l'IA ? Ou y a-t-il des usages ou ce n'est pas nécessaire ?  Par exemple, faire corriger les fautes d'orthographe d'un mail, il n'y a pas besoin d'écrire en dessous du mail "l'orthographe a été corrigée par ChatGPT". 

V. P. : Ça c'est un vrai sujet. Sur les images, moi, je conseille malgré tout de dire qu'on a utilisé de l'IA, de l'étiqueter en tant que tel, même si le règlement est un petit peu plus souple. Il vise à prévenir justement tout ce qui est deepfake, tout ce qui est tromperie. Donc si on s'aperçoit que l'image a vraiment été générée par une IA, en théorie il n'y a pas besoin de le faire. Maintenant dans un guide d'utilisation moi je conseille malgré tout, IA pour une image, on l'étiquette telle quelle. 

Sur le texte, en revanche, le règlement est un peu plus souple parce qu'il considère qu'à partir du moment où vous l'avez relu, validé, que vous en endossez la responsabilité, vous n'êtes pas obligé d'indiquer que c'est de l'IA. Heureusement parce que dans un courrier si vous trouvez que le deuxième paragraphe mériterait d'être un petit peu plus optimisé, il va vous changer à la marge deux ou trois éléments. Heureusement que vous n'avez pas besoin de dire "ce courrier a été rédigé par IA" parce que ce n'est pas le cas.

Quelle est la politique au BEP à ce niveau-là ? 

F. L. : Non il ne faut pas dire qu'on a utilisé une IA, comme Vincent le disait, par rapport aux mails. Mais effectivement, on a assez rapidement rédigé une charte. 

Ce qui est particulier, c'est que depuis peu de temps on a développé notre propre IA, derrière laquelle il y a ChatGPT mais qui encadre l'usage, qui encadre aussi les bases de données et les données derrière que l'on peut mettre sur l'intelligence artificielle. Parce que si vous les donnez sur le ChatGPT de manière gratuite, les données partent on ne sait où, elles alimentent la base de données et l'intelligence artificielle mais elles vous échappent un peu. L'idée c'est d'encadrer, de garder sous cloche, en tout cas sous la cloche du BEP, l'ensemble des données qui alimentent le modèle de langage. 

Dans la charte, l'IA n'est pas bannie du tout, au contraire, elle est encouragée si elle est nécessaire mais si vous l'utilisez, vous devez utiliser l'outil qui s'appelle IA by BEP qui encadre et qui aussi permet à l'ensemble des agents de partager les bonnes pratiques et donc de décloisonner. 

Mais les citoyens ou les communes ne savent pas quelle partie du dossier qu'ils reçoivent du BEP a été rédigée par une IA ? 

F. L. : Non mais c'est difficile de dire quelle est la part qui a été rédigée par ChatGPT de ce qui était rédigé par l'agent. Souvent on rédige une première version puis on dit à l'IA by BEP "qu'est-ce que tu en penses, est-ce que tu peux déjà améliorer par rapport à ce que tu connais de moi, de mon activité ?". 

Je crois que c'est juste une amélioration qualitative de ce qui est produit mais ce n'est sûrement pas écrit par l'IA by BEP. 

L'IA Act interdit certaines utilisations de l'IA dans les administrations publiques notamment ce qui les notations des citoyens comme on a pu l'entendre en Chine. Il y a aussi des applications risquées, comme le recrutement. Là, il faut faire attention à l'usage de l'intelligence artificielle.

V. P. : Tout ce qui peut attenter aux libertés fondamentales ou libertés individuelles, on est sur des systèmes à haut risque. C'est toujours autorisé mais les contrôles sont plus importants. Il y a toujours un DPO (Data Protection Officer, ndlr.) dans les bureaux, c'est un peu le gardien du temple du RGPD. Il va faire une analyse de risque si on peut l'appeler comme ça. 

C'est possible d'utiliser ces systèmes à haut risque mais avec un encadrement qui est beaucoup plus lourd. En cas de recours, la charge de la preuve revient à l'administration, elle doit démontrer que la décision a été prise par un humain. C'est toujours l'humain qui pilote, jamais l'IA.

L'IA pour gérer les plaintes liées aux collectes de déchets

Au BEP, c'est une intelligence artificielle qui aide à répondre à toutes les questions en matière de gestion des déchets. Quand on envoie un mail au BEP pour dire "le camion n'est pas passé pour prendre mon sac", c'est l'IA qui peut expliquer pourquoi ?

François Laureys : C'est toujours un agent du BEP qui répond aux citoyens. Par contre, pour sa réponse, il a été conseillé par une IA effectivement. Il y a déjà quatre ou cinq ans, on a fait une analyse de où l'intelligence artificielle pourrait être une vraie plus-value dans le cadre de l'ensemble des missions du BEP. Au BEP environnement, on reçoit un grand nombre de plaintes ou de questions de citoyens par rapport à la collecte des déchets. Des personnes qui disent "on n'est pas venu chercher mon sac poubelle ce matin". C'est pas toujours très gai de répondre à ça parce que certains citoyens sont très courtois, d'autres un peu moins. 

Pour mes collègues qui gèrent ça, c'est quand même une charge, c'est pas très rigolo. Et puis surtout ça demande beaucoup d'informations. Il faut savoir où habite cette personne, quel est le sac poubelle qu'elle a sorti et puis finalement est-ce que le camion est passé, est-ce que le camion est passé lentement ou rapidement ? Parce que s'il est passé mais rapidement, il n'a pas collecté les sacs. Donc il y a beaucoup d'éléments. Cela prenait de longues minutes, plus d'un quart d'heure en moyenne par question pour aller chercher les bonnes réponses.

On a mis en place cet outil qui interroge le camion à distance, peut savoir exactement à quelle heure il est passé, pour savoir exactement à quelle vitesse il est passé, à quelle distance de la maison en question il est passé. Il analyse tout ça et puis il fait une proposition de réponse à l'agent en une minute. Donc on a divisé par 15 le temps de traitement. Il fait une proposition de réponse et il donne un coefficient de certitude. 

S'il est suffisamment élevé, le collègue prend la réponse qui lui a été proposée, l'adapte, change peut-être par rapport à son style et puis répond aux citoyens. Et on voit vraiment une grosse adoption de cet outil par l'ensemble des agents qui répondent aux personnes. Ils n'étaient pas obligés de l'utiliser mais l'utilisent, on le voit concrètement. Et on voit aussi qu'on a moins d'échanges, de rebonds, c'est-à-dire qu'ils sont plus satisfaits de la réponse qu'avant. Il y a moins d'échanges grâce à cet outil-là.

L'IA va-t-elle tous nous mettre au chômage?

Vous le dites, ce n'est pas très drôle de répondre aux plaintes des gens. Mais en général, quand on automatise quelque chose que faisait un humain, il peut aussi se sentir dépossédé de son travail. Comment est-ce qu'on passe au-dessus de ça ? Est-ce que l'IA ne va pas tous nous mettre au chômage ? Est-ce des réflexions que vous entendez?

F. L. : C'est une bonne question. C'est pour ça aussi que ce n'est pas l'IA qui répond directement, ça reste l'agent et donc ça reste une aide, un assistant pour l'agent. Je pense que c'est important de le voir comme ça et les agents le voient comme ça. Ils sont contents, ils ont une réponse plus rapide. 

Mais, on a vu en analysant un peu les chiffres que même si on a la réponse beaucoup plus rapide et pertinente, pour le moment, le citoyen reçoit globalement les réponses un peu moins vite qu'avant. En travaillant un peu avec les agents, on s'est rendu compte qu'en fait quand ils reçoivent une plainte que, comme ils ont la réponse en une minute, ils la laissent un peu de côté pour faire d'autres choses qui sont plus importantes ou qui leur paraissent plus urgentes. Du coup, ça impose de revoir un peu l'organisation finalement. Ce n'est pas juste mettre en place un outil, pour qu'il soit performant, il faut aussi que ça s'intègre dans une stratégie, dans un fonctionnement d'une équipe. 

Mais on ne les a pas dépossédés du tout, c'est vraiment un outil qui les aide à être plus performants et à répondre de manière plus pertinente à un citoyen. 

Si le management dans les entreprises ou les administrations ne s'empare pas de l'IA, le risque serait que chacun parte à des vitesses différentes dans des directions différentes. 

V.P. : C'est le point clé. En fait, il ne faut pas voir ça comme un nouveau logiciel qu'on doit déployer dans l'organisation. C'est un pur sujet de gouvernance, de management. Qu'est-ce qu'on accepte ou pas de faire faire par des IA ? Qui doit-on faire monter en compétences ? Qui doit-on peut-être même protéger ? Parce qu'il y a des usages qui sont possibles avec de l'IA mais nous on va les refuser au nom de nos valeurs, du sens de notre mission... C'est vraiment le comité de direction qui doit s'emparer de ce sujet, comprendre ce qu'on peut faire, ce qu'on ne peut pas faire. Parce qu'il ne faut pas sous-estimer la dévalorisation que beaucoup vont ressentir. Certains vont se dire "à quoi je sers encore ?" Beaucoup vont voir l'IA plus comme un danger que comme une opportunité en disant "on va nous demander de travailler plus". 

Est-ce qu'ils n'ont pas raison de s'inquiéter ? 

V. P. : On voit dans l'actualité des entreprises privées qui licencient à tour de bras et qui s'en félicitent en disant "on a enlevé 30% de notre masse salariale, on a mis l'IA à la place". Alors déjà certains reviennent un petit peu en arrière, se rendent compte que c'était un peu plus compliqué que ça. Mais dans le secteur non marchand, dans le secteur public, il y a d'autres missions, on peut aller au-delà. Mais en tout cas il faut que ce soit choisi et pas subi. Quand chacun comprend le gain qu'il peut en avoir, il va être accompagné. Et il faut comprendre qu'on aura plus de confort professionnel, on va pouvoir se concentrer sur d'autres tâches..

La fuite de données sensibles

Un autre risque peut-être dans les administrations, dans les CPAS, c'est la fuite de données. C'est aussi quelque chose qu'il faut pouvoir encadrer. Tout le monde n'a peut-être pas les possibilités d'avoir son IA encadrée comme au BEP. Que faut-il faire  ? Faut-il former les personnes en leur expliquant ce qu'on peut mettre sur l'IA, ce qu'on ne peut pas ? 

V. P. : Oui, bien sûr. C'est pour ça qu'on parlait de similitudes avec le RGPD que tout le monde connaît aujourd'hui. En tout cas, tout le monde comprend que c'est pour protéger les données à caractère personnel. Et c'est le même sujet sur l'IA à partir du moment où on utilise des chatbots, des ChatGPT publics, gratuits, américains... ou même des IA chinoises.. 

Donc attention à ne pas se faire aspirer par le côté bluffant de ces IA où ça va devenir un confident, ça va devenir quelqu'un qui permet d'automatiser des décisions. Ce n'est pas le cas. On doit le garder comme assistant de rédaction, comme assistant de brainstorming. Microsoft a son outil qui s'appelle Copilot, le nom est bien trouvé. C'est vous le pilote, vous avez un copilote qui vous propose des routes mais c'est vous qui décidez ce que vous allez faire ou pas.

Est-ce qu'il doit y avoir un contrôle démocratique de l'usage de l'IA dans les administrations ? Est-ce que le politique, le collège, le conseil communal a son mot à dire là-dedans ?

V. P. : Cela va dépendre forcément des couleurs politiques, des tensions éventuelles qui peuvent y avoir au niveau local. Maintenant on a parlé de guide ou de charte. Dès lors que la charte a une valeur contraignante elle va passer devant le collège, les organisations syndicales vont jeter un œil sur le sujet. Après certains collèges qui se sentent déjà bien informés sur le sujet, vont pouvoir donner un avis ou une direction, définir un centre de gravité. Pour d'autres ça reste un peu nébuleux donc c'est au cas par cas. En tout cas le débat doit être lancé parce que ces outils évoluent en permanence.