Intelligence artificielle : Comment désobéir ?

Retour sur la question de la prise de décision dans le management d'une entreprise.

Aujourd'hui, dans le cas de la mise en place d'une intelligence artificielle (IA), deux questions se posent au moment de décider, et donc de prendre ses responsabilités :

- Le manager doit-il suivre ce que l'IA lui propose ?

- Que se passe-t-il s'il décide de ne pas suivre la proposition de l'IA ?

Selon Wikipédia,

"l'intelligence artificielle (IA) est l'ensemble des théories et des techniques mises en œuvre en vue de réaliser des machines capables de simuler l'intelligence".

Les solutions dites d'IA sont des logiciels qui proposent, prennent des décisions.

De façon générale, pour pouvoir décider, il faut un outil de traitement et de réduction de la réalité.

Or l'IA, par le traitement de données nombreuses, sert à présenter une version parfois très réduite de la réalité.

Une concurrence risque alors d'apparaître entre ces deux outils d'aide à la décision : l'humain et la machine.

Aujourd'hui, les processus "orientés solution", formes acceptables de scientisme, poussent l'IA comme outil d'aide à la décision en oubliant, ou semblant d'oublier, la question du positionnement de l'homme face à la proposition de l'IA en terme de responsabilité : sur quelle base l'homme peut-il considérer que la machine à tort ?

Le manager doit-il suivre ce que l'IA lui propose ?

L'IA propose-t-elle une ou plusieurs réponses ? Cette question mériterait des heures de débats à elle seule. Elle a surgit avec le développement des assistants vocaux connectés à domicile.

Le problème est au fond assez simple.

Quand vous faites une recherche sur un navigateur internet, vous avez devant vous une ou plusieurs pages de réponses possibles dont vous allez arbitrer la pertinence. A défaut, vous en viendrez peut-être à reformuler votre recherche pour qu'elle soit mieux comprise par l'IA dont, par ailleurs, vous ignorez tout des réglages.

En revanche, pour un assistant vocal connecté à internet, on imagine mal qu'il lise l'ensemble des propositions possibles. Il va en choisir une seule. Laquelle ?

Si votre question est très factuelle, cela ne pose pas beaucoup de problème. En revanche, sur une question débattue, cela en est un gros !

En entreprise, le manager se verra donc confronté à une ou plusieurs propositions de réponse. Comment s'opposer à un outil installé par la direction et qui présente toutes les garanties de l'IA ?

Le manager se retrouve vite dans une situation complexe.

Suivre l'IA aveuglément. Mais quel est alors son rôle ?

Ne pas en tenir compte. Mais sur quel fondement ?

Arbitrer les réponses de l'IA. Selon quels critères ?

Mais la réponse à ces questions ne lui appartient pas totalement.

Que se passe-t-il s'il décide de ne pas suivre la proposition de l'IA ?

Encore une fois, le rôle de la direction de l'entreprise sera essentiel.

Si les managers comprennent qu'il n'y a rien à gagner, voire tout à perdre, à ne pas suivre les indications de l'IA, rapidement la question précédente n'existera plus et l'IA décidera, de fait, de tout dans son domaine.

La direction, si elle souhaite conserver de véritables managers, devra traiter ceux qui se seront trompés en ne suivant pas l'avis de l'IA avec clémence et humilité. Il va falloir débriefer la situation et en tirer les enseignements pour progresser en évitant que les managers n'en déduisent de rester passif à l'avenir.

Ainsi, l'IA reste un outil d'aide à la décision et non un outil de décision.

Ceci ne correspond pas toujours avec la façon dont l'IA est vendue par les fournisseurs ou attendue par certaines directions d'entreprise.

Aucun dirigeant ne peut ignorer ces questions s'il s'intéresse à l'IA pour son organisation.

"La création de l'intelligence artificielle

serait le plus grand événement de l'histoire de l'humanité.

Mais il pourrait aussi être l'ultime."

Stephen Hawking

Thierry Cammarata

arbitrium14
Tel : +33(0)768871589

Mail : thierry@arbitrium14.fr

LinkedIn : Thierry Cammarata - arbitrium14

Image : Pixabay License