Les interrogations sur les menaces et opportunités que représente l’Intelligence Artificielle Générative se font de plus en plus nombreuses. En réalité, les craintes se développent moins vite que la montée en puissance exponentielle de cette fameuse IAG.

Quand on y pense… il y a une dizaine d’années à peine, on redoutait l’éventuelle mise en place d’une "justice prédictive" ; puis, il y a quelques années, le Conseil national des achats (CNA) parlait « d’achat augmenté » (relire "Le secteur public tend lui aussi vers l’«achat augmenté »").
Désormais, l’IA s’invite dans tous les échanges entre acheteurs publics, dans tous les organismes (lire, par exemple "La Dila joue l’IA")... et devant nos parlementaires. « La diffusion de l’IAG semble inéluctable et ses usages possibles sont sources de curiosité, d’intérêt et d’espoir pour les uns ; d’inquiétude voire d’angoisse pour les autres » considèrent les auteurs d’un rapport d’information de l’assemblée nationale (relire "La commande publique à la rescousse de l’IAG ?").

La difficulté, et la richesse de ces débats, comme pour toute révolution véritablement "disruptive", c’est que l’avènement de l’IA brasse énormément de sujets de fond. Porter un jugement selon un seul angle, c’est assurément passer à côté des enjeux…
 

L’enjeu qui remonte en premier, c’est d'appréhender dans quelle mesure l’IAG va bouleverser le métier d'acheteur public. Des élèves de l’INET ont produit une cartographie des métiers concernés par les évolutions induites par l’IA, cartographie s’appuyant sur une qualification "Très concernés" ; "Concernés"; "Peu concernés" et "Pas concernés". Elle révèle (est-ce une surprise ? Voire une sous-évaluation ?) que le métier d’acheteur public est « concerné » par le développement de l’IA générative (relire " Le métier d’acheteur public « concerné » par l’IA »").

A ce stade, les acheteurs publics ne manifestent pas particulièrement (en tant cas, pas publiquement) d’inquiétude. C’est même affiché comme une opportunité. Ainsi, pour Romain Tournereau, qui officie à la Coordination de l’achat au sein de la direction finances et commande publique de la Ville et de la Métropole de Brest, l'IA est un atout pour des tâches chronophages (lire "Une journée avec… Romain Tournereau : « Digitalisation et IA devraient être des adjuvants pour répondre aux défis de l'achat public »"). Pour certains juristes, l’IAG suscite même l’enthousiasme : l’avocat Alain Bensoussan considère que l’IAG n’est pas un objet ; c’est un outil, grâce auquel « Un nouveau merveilleux se développe !» Il prédit, en revanche, « une bipolarisation entre l’"avocat clic" et le "méta avocat"» (relire "IA et professions juridiques « L’urgence ? Acquérir la compétence de la compétence »").

Seule alerte sur le "métier", franchement formulée lors de la l’audition de la Commission des lois du Sénat : l’IA fait courir un risque sur les juristes débutants, ceux généralement chargés de faire des recherches et de rédiger des notes au sein des structures juridiques…

Car s’il y a bien un aspect positif que tout le monde reconnait à l’IA, c’est le gain de temps …
 

La Commission de l’intelligence artificielle, installée en septembre dernier par le Gouvernement, a rendu un rapport "IA : notre ambition pour la France", proposant 25 recommandations afin que la France sache « saisir les opportunités » de l’IA (relire "Les juristes "marchés publics" menacés par l'IA ?"). Elle dresse un panorama des effets attendus de l’IA sur un certain nombre de professions en France. En effet, certains métiers sont constitués, d’une part importante de tâches pouvant être effectuées par l’IA, et présentent un "potentiel de remplacement" par l’IA. Au contraire, d’autres professions comportent une majorité de tâches difficiles à automatiser ; elles ont alors un "potentiel d’amélioration" par l’IA.

Pour certains, l’affaire est clairement entendue : l’IA est d’abord une source d’opportunités : les algorithmes permettent de diminuer le temps de travail sur les activités désormais à faible plus-value. Les agents pourront donc se consacrer davantage aux tâches à haute valeur ajoutée. Car au final, selon Fabrice Richoux, « Seul un humain peut appréhender la complexité de la commande publique, et vérifier que les propositions de l’IA soient alignées aux valeurs et objectifs fixés par l’entité » (lire " Faire de l’achat public autrement avec l’IA").

Par ailleurs, on ne cesse de trouver de nouveaux avantages aux applications de l’IAG à la commande publique : « elle peut s’avérer utile dans la lutte contre les ententes anticoncurrentielles. Conjuguée avec la publication des données, les algorithmes permettraient de détecter des pratiques illicites ou a minima douteuses » (relire" Des marchés publics passés par l’IA : la commande publique de demain")

Devant la Commission des lois du Sénat , M^e Alain Bensoussan met cependant les points sur les "I" : si à l’avenir, il y aura bipolarisation entre l’"avocat clic" et le "méta avocat", « Un juriste ne pourra se défausser de ses responsabilités en mettant en avant son recours à l’IA».

Et là, on aborde la question de la responsabilité de l’acheteur qui recourt à l’IAG.
 

Il émerge de l’ensemble des cogitations des acheteurs publics sur l’IAG un prérequis partagés par tous : la nécessaire prise en compte de la nature et du régime des données. D’abord, c’est une évidence : elles doivent être fiables (relire "L’IA dans la commande publique : c’est d’abord une affaire de sécurisation de la donnée").
Ensuite, les informations transmises doivent respecter la confidentialité éventuelles des informations générées par IA (données personnelles et celles relevant du secret des affaires, par exemple). « Dès lors qu’il y a de l’IA, il y a un risque fort de divulgation des éléments à un tiers… puisque l’une de ses caractéristiques, c’est "d’apprendre" en se servant des éléments qui lui ont été transmis » rappelle ainsi Sébastien Turci, directeur délégué aux achats et à l'innovation au CNRS (relire "L’IA dans la commande publique : c’est d’abord une affaire de sécurisation de la donnée").
Pour M^e Bensoussan, si les productions de l’IA comportent des erreurs, des insatisfactions, « ces fautes sont de la responsabilité de l’utilisateur de l’IA ». Devant la Commission des lois du Sénat , la professeure de droit Alexandra Bensamoun explique qu’il faudra donc parvenir à concilier droit et technologie ; mais que, de toute façon, « le droit ne s’applique pas sans transparence ». Autrement dit, les outils de l’IA ne pourront être acceptés juridiquement sans transparence.


Au final, quand on y réfléchit, la montée en puissance de l’IAG dépasse largement la "seule" question de l’impact sur le métier d’acheteur public ; elle implique la prise en compte de la démultiplication des risques et d'un contrôle renforcé du respect de tous les principes fondamentaux et actes associés à la commande publique. 
Cet aspect sera particulièrement étudié à l’occasion d’un atelier du BEE, le 27 juin, manifestation d’ampleur dédiée à la commande publique et dont achatpublic.info est partenaire.