Intelligence artificielle : se poser les bonnes questions

Dans son ouvrage « Bonjour ChatGPT », Louis de Diesbach explore les enjeux fondamentaux qui se cachent derrière l’émergence de l’IA. Rencontre avec le philosophe et consultant au Boston Consulting Group.

Interview

Dans l’avant-propos, Luc de Brabandère écrit que la raison d’être d’un outil numérique est de pouvoir amplifier les gestes intellectuels, mais que cela ne change en rien son statut d’objet technique. Vous expliquez pour votre part que la technique n’est jamais neutre et porte toujours en elle un projet de société… Faut-il y voir une opposition ?

Plutôt deux lectures différentes. Je souscris à l’idée que derrière la technologie, il y a toujours des êtres humains et que c’est là que le vrai génie repose. Néanmoins, sciemment ou non, la façon de créer cette technologie oriente toujours ce génie dans une direction ou une autre. Par exemple, quand Amazon crée un algorithme qui fait un premier tri des CV pour permettre aux recruteurs de consacrer plus de temps aux entretiens. On a ensuite vite réalisé que, basé sur ses propres données, l’algorithme perpétuait une discrimination en faveur d’hommes blancs, à l’image de ceux qui constituaient déjà une bonne partie de ses cadres.

L’IA ne peut donc être « neutre » ?

Non. Même si elle « ne choisit pas », l’IA est toujours le reflet d’une vision du monde à travers les données dont elle s’abreuve et la façon dont les algorithmes ont été développés par ses concepteurs.

Cette « non-neutralité » de la technologie est-elle un changement de paradigme ?

Non, car malgré les discours, cela a toujours été le cas. Dans les années 80, les électromécaniciens qui ont développé les premiers systèmes d’airbags ont utilisé des mannequins de « crash tests » aux mensurations semblables aux leurs. Celles d’hommes occidentaux. Les premières voitures équipées de la technologie ont fait beaucoup victimes au sein de populations de plus petite taille, en particulier des femmes. Il y avait là, déjà, une question de biais.

Comment dès lors interroger le progrès technologique ?

Les questions que pose l’IA ne sont pas strictement d’ordre technologique. Plutôt que de se demander ce qui sera faisable demain, il faut se poser les questions « est-ce souhaitable ? » et « comment le mettra-t-on en œuvre ? » . Faire l’économie de ces vraies questions – économiques, politiques, idéologiques – sous prétexte d’une prétendue neutralité de la technologie, c’est surtout se dédouaner de ses responsabilités quant à ses conséquences. Quand on sait que l’intelligence artificielle peut potentiellement réduire de 50 % le travail humain d’une équipe marketing, choisir comment on va réaffecter ou pas, ou encore réinvestir dans ces ressources humaines ne sont pas des questions d’ordre technique…

Quelle place reste-t-il à l’humain dans l’entreprise avec cette digitalisation galopante?

Pour ce qui est du consultant pour lequel je travaille, les diverses études réalisées préconisent une approche de l’IA consistant à déployer 10 % des efforts d’une entreprise dans les capacités algorithmiques, 20 % dans les capacités technologiques – plateformes, cloud, etc. – et 70 %, dans la transformation du business et le développement des individus. Cette dernière est donc, et de loin, la plus grande part. Gouvernance, processus, formation… L’adoption de l’IA générative ne peut pas réussir, ou peut même détruire de la valeur, si on n’embarque pas totalement les équipes avec soi.

Mais tout le monde est-il vraiment « reclassable » dans un monde où beaucoup de tâches seront prises en charge par l’outil technologique ?

On peut s’interroger sur l’avenir des traducteurs, des experts marketing ou même des juristes mais en réalité, l’histoire du progrès technologique a toujours été celle de la disparition de métiers remplacés par des nouveaux. Je ne crois pas que l’IA va bouleverser les choses et précariser soudainement des masses de populations. Une fois encore, la vraie question n’est pas tant technologique que sociologique, anthropologique, économique et politique. Elle est de savoir comment vont être redistribués les fruits des gains liés à l’IA et de sa contribution au bien-être. Et là, le politique aura certainement un rôle à jouer dans l’accompagnement au changement sociétal, notamment par la voie de partenariats public-privé. Et puis, les pouvoirs publics auront aussi à réguler les développements. L’AI Act (NDLR : le règlement qui entend assurer que les systèmes d'IA mis sur le marché européen soient sûrs et respectent les droits fondamentaux des citoyens et les valeurs de l'Union européenne) est absolument indispensable et devra évoluer avec le temps.

L’ouvrage – jusqu’à son titre – creuse largement le sujet de l’anthropomorphisme, par lequel nous attribuons un caractère humain à la machine. En prénommant un assistant digital « Alexa » ou en fixant un protocole d’interrogation qui commence par « Hello », Amazon, Google et les autres ont-ils compris qu’il s’agit là d’un vecteur puissant d’adoption de leurs services ?

Si Alexa et Siri ont des voix de femme, c’est parce qu’il a été prouvé scientifiquement que les hommes y sont plus sensibles et que les femmes sont globalement neutres voire, elles aussi, plus favorables. On trouve déjà des traces d’anthropomorphisme il y a plus de 40.000 ans. C’est donc vieux comme le monde. En permettant de s’adresser à lui et en vous répondant en langage naturel, ChatGPT rentre directement dans l’intime. C’est ce qui le rend très puissant.

Vous trouvez légitime de se pencher sur la question d’une décroissance technologique. Mais l’histoire a-t-elle jamais connu une telle période ?

Pas à ma connaissance. Mais cela ne nous dispense pas de nous poser la question. La technologie n’est pas la réponse à tout. Dans plein de domaines, c’est même l’inverse. Utiliser une appli pour limiter notre accès à notre propre smartphone ne diminue en rien notre dépendance à la technologie. Pour autant, cela doit rester un choix personnel. Un tel mouvement ne peut être imposé de façon autoritaire comme quand la Chine, par des mesures invasives, limite d’autorité les heures d’accès. Cela revient à sauvegarder une liberté fondamentale en en violant d’autres. Philosophiquement, ça ne tient pas la route. Seul l’individu peut s’émanciper de sa propre servitude.