Ma vision de l'IA

Ce que je crois

On entend souvent que l'intelligence artificielle pourrait devenir l'ennemie de l'homme. Je ne le crois pas. L'ennemi de l'homme, c'est l'homme.

Ces systèmes ne poursuivent pas d'intentions propres : ils prolongent des décisions humaines — celles qui déterminent ce qu'on leur fait apprendre, ce qu'on leur demande, et ce qu'on accepte d'en faire. La question n'est donc pas de savoir si la technologie sera bienveillante. Elle est de savoir ce que nous y aurons mis, et à quel moment.

D'où ma conviction principale : si nous voulons une intelligence artificielle conforme à nos valeurs, il faut les y inscrire dès le début. Pas en fin de projet, quand tout est arbitré et qu'il ne reste qu'à rédiger une charte.

Ce que cette position ne prétend pas

Je connais l'objection, et elle est sérieuse : un système peut produire des effets que personne n'a voulus, parce qu'il optimise un objectif mal formulé plutôt que l'intention qui le sous-tendait. Ce n'est pas un problème de malveillance, c'est un problème de spécification — et il ne se règle pas par la bonne volonté.

Je ne le nie pas. Je dis autre chose : sur le terrain, dans une entreprise ordinaire, ce n'est pas ce risque-là qui produit les dégâts aujourd'hui. Ce qui les produit, ce sont des outils déployés sans intention claire, sur des données mal tenues, avec des arbitrages que personne n'a formulés. C'est un problème humain, et c'est là que je sais agir.

Première tension : l'efficacité contre la dignité

Un système capable d'analyser le travail d'une équipe peut aussi analyser chacun de ses membres. Techniquement, c'est le même geste. Humainement, ce n'est pas du tout la même chose.

C'est l'arbitrage que j'ai tranché en concevant mon assistant de qualité de vie au travail : il détecte des tendances collectives et n'établit aucun profil individuel. Je perds en finesse d'analyse. Je gagne un outil que les équipes n'ont pas de raison de craindre — et donc qu'elles n'ont pas de raison de contourner.

Ce choix n'est pas seulement moral. Un dispositif que les gens redoutent produit des données faussées. La confiance n'est pas un supplément d'âme : c'est une condition de fiabilité.

Deuxième tension : l'usage contre la ressource

L'intelligence artificielle a un coût environnemental réel. Mais je me méfie du débat tel qu'il est posé, qui oppose l'outil en bloc à l'absence d'outil.

La vraie question est le rapport entre ce qu'un usage consomme et ce qu'il apporte. Automatiser un traitement qui fait gagner des heures à une équipe justifie sa dépense. Retoucher indéfiniment un détail insignifiant consomme des ressources pour rien.

Ce n'est donc pas un débat sur la technologie : c'est un débat sur l'usage réfléchi. Et il rejoint ce que j'observe dans les organisations — beaucoup déploient ces outils sans avoir formulé ce qu'elles en attendent. Un usage sans intention est coûteux deux fois : en énergie, et en résultats.

Ce que ça engage

En 2020, pendant la pandémie, je vendais des produits de désinfection. J'aurais pu utiliser des arguments écologiques ambivalents — techniquement défendables, mais qui auraient laissé le client croire mieux que la réalité. J'ai refusé. J'ai perdu le marché, et 120 K€ de chiffre d'affaires sur deux mois — au plus fort de la demande.

Je ne raconte pas cela pour la morale. Je le raconte parce que c'est exactement le même geste qu'aujourd'hui : refuser de vendre une allégation qu'on ne peut pas tenir. À l'époque, c'était un argument vert. Aujourd'hui, c'est une promesse d'intelligence artificielle qu'aucune donnée ne soutient.

Si ces convictions vous parlent, ou vous heurtent, j'aimerais en discuter, la porte est ouverte.