Technologie

Signal d'ouverture

Imaginez une scène ; c'est une composition, pas un compte rendu. Vous demandez à un assistant laquelle de deux offres envoyer à un client. Il répond en quatre paragraphes bien rangés, recommande la seconde, et vous l'envoyez. Le raisonnement se lisait bien. Une semaine plus tard, vous ne sauriez pas dire quelle partie vous avez vérifiée, ni si le dernier e-mail du client, celui qui change la donne, a jamais été sous ses yeux.

On appelle d'ordinaire cela de la paresse. C'est une explication confortable, et incomplète. De l'autre côté se trouve un système construit pour paraître sûr de lui, et de ce côté-ci une tendance humaine bien documentée à accepter une suggestion assurée. Ce n'est pas seulement une affaire de volonté. C'est une asymétrie.

Deux camps se sont formés en réponse à cette asymétrie, et tous deux ont déjà perdu. Les enthousiastes : tout ce qui est nouveau est bon, et toute question sur le coût passe pour une peur de l'avenir. Les catastrophistes : tout couper, tout supprimer, un téléphone à clapet, la détox comme vertu. Les premiers abandonnent leur pouvoir d'agir en courant, les seconds en fuyant. Le résultat est le même : ce n'est pas vous qui décidez.

Ce chapitre se tient à une troisième place, moins spectaculaire. L'hermétiste moderne n'est pas contre la technologie. Il est contre la capture. Il ne demande pas si un outil est bon ou mauvais, parce que cette question n'a pas de réponse. Il demande quelque chose que l'on peut vérifier : de qui cet outil exécute-t-il l'intention en ce moment ?

La question est devenue urgente quand les outils se sont mis à parler en phrases complètes : la capture de l'attention est gênante, la capture du jugement est d'une autre catégorie.

Source

Pour être honnête : les textes hermétiques ne parlent pas de technologie, parce qu'ils n'en avaient aucune au sens où nous l'entendons. Ils ont pourtant une figure qui touche le sujet avec une précision troublante. Dans l'Asclépius, des hommes incapables de créer une âme lui créent une demeure : ils façonnent des statues et y font descendre une puissance, si bien que l'objet se met à agir. Pendant des siècles, on a lu cela comme une description de la magie. Le texte nous est parvenu surtout dans une version latine de l'Antiquité tardive, et des fragments coptes de Nag Hammadi confirment qu'il circulait plus tôt. À côté se trouve ce que l'on appelle la Lamentation, une prophétie sur une Égypte que ses dieux abandonnent : le temple demeure, l'esprit le quitte.

Le fondement contemporain est différent, mais il converge. La conception persuasive est une discipline documentée : B.J. Fogg a dirigé un laboratoire de captologie à Stanford à partir des années quatre-vingt-dix, et la mécanique de la récompense variable est connue depuis Skinner. Du côté de la décision, il existe le biais d'automatisation (automation bias) : Parasuraman et Riley (1997) puis Skitka et ses collègues (1999) ont montré que les personnes qui utilisent des suggestions automatisées laissent passer ce que le système n'a pas signalé et exécutent ce qu'il a signalé à tort, même avec des données contraires sous la main. Ces recherches ne disent pas ce qu'il ne faut pas utiliser. Elles disent que la confiance dans un outil croît plus vite que la précision de l'outil.

Notre lecture

La capture a une définition opérationnelle : c'est le moment où un outil cesse d'exécuter votre intention et se met à exécuter celle de quelqu'un d'autre (avec vos mains, votre temps et votre attention), tandis que l'impression pleine et entière que c'est encore vous qui décidez reste intacte.

Dans son contexte, le passage sur les statues parle de rituel. Nous le lisons, pour notre propre compte, comme une image ancienne d'un artefact doté d'une intention intégrée : une chose dans laquelle quelqu'un a mis une volonté, et qui continue d'exécuter cette volonté toute seule longtemps après que son créateur s'est éloigné. C'est exactement le logiciel. Les critères de quelqu'un se trouvent à l'intérieur de chaque système : scellés dans un indicateur de réussite, dans un réglage par défaut, dans ce qui est à un clic et dans ce qui est à sept. D'où le test de correspondance le plus rapide que nous connaissions : ce qui est dans le modèle économique en haut apparaît dans votre soirée en bas. Si vous voulez savoir à quoi sert un outil, regardez pour quoi ses créateurs sont payés.

Avec l'IA, c'est la même chose, seulement l'enjeu est plus élevé. L'IA n'est ni un oracle, ni une autorité, ni une source d'identité. C'est un amplificateur. Elle amplifie ce qu'elle reçoit en entrée : une intention claire, elle la change en levier ; l'inquiétude et l'indécision, en une amplification très éloquente de la confusion.

La question de cette décennie n'est donc pas « que peut faire l'IA », mais : qu'est-ce qui vaut la peine d'être fait avec elle, et qu'est-ce qui doit rester humain ? Il ne s'agit pas de modération : vous pouvez passer dix heures dans un outil en auteur et vingt minutes en matériau. Ni de méfiance : un modèle est parfois un meilleur partenaire de réflexion que la plupart des conversations de la journée. Il s'agit seulement de direction.

L'avantage n'appartient pas à qui génère le plus. Il appartient à qui sait ce qui vaut la peine d'être généré.

Quelqu'un qui a essayé

John Dee possédait l'une des plus grandes bibliothèques d'Angleterre, conseillait une reine sur la navigation et les calendriers et comptait parmi les esprits les mieux armés de son siècle. Il ne pouvait pas non plus voir ni entendre les anges qu'il voulait consulter. Il a donc engagé quelqu'un qui disait le pouvoir.

À partir de 1582, Edward Kelley s'asseyait devant le cristal et rapportait. Dee consignait ce que Kelley disait, pendant des années, avec un luxe de détails. Ce n'était pas un sot : il testait, interrogeait, tenait des registres. Mais tout le canal passait par un seul homme dont les intérêts n'étaient pas ceux de Dee, et Dee n'avait aucun moyen indépendant de vérifier un seul mot.

Cela s'est terminé par Kelley transmettant une instruction selon laquelle les deux hommes devaient partager leurs épouses. Dee a obéi. L'association s'est rompue peu après.

Voilà la question du chapitre sous sa forme la plus aiguë. Qu'êtes-vous prêt à recevoir par un canal que vous ne pouvez pas auditer ?

John Dee →

Traduction opérationnelle

Le travail concret commence là où il faut trancher ce qui peut être délégué. Trois couches, et une règle stricte : seules les deux premières sont franchissables.

L'exécution. Déléguez sans remords. Réécrire, classer, premiers jets, résumés de deux cents pages, recherches dans vos propres notes, l'ossature d'un code, dix variantes à jeter. Confier ce travail à une machine n'est pas de la paresse ; c'est récupérer l'essentiel.

Le jugement. Déléguez l'entrée, jamais la sortie. Demandez des arguments contre votre propre thèse, trois cadrages d'un problème, ce que vous ne voyez pas. Cela vous rend réellement plus fin. Mais l'évaluation du cadrage juste reste de votre côté, parce que le modèle ne répond pas des conséquences. Vous, si. Déléguer le jugement à quelque chose qui ne supporte aucune conséquence est une erreur de catégorie, pas une affaire de préférence.

L'intention. Ici, la délégation s'arrête. Ce que je veux. Ce qui en vaut la peine. Si ce projet a même lieu d'exister. Aucun modèle n'y répondra à votre place, non parce qu'il serait trop faible, mais parce que la substance de la réponse tient à ce que vous y êtes arrivé vous-même.

De ce partage découle un pari sur le marché à venir. C'est une prévision, pas un constat. Dans le monde d'après l'IA, l'intelligence elle-même devient bon marché. Des textes, des analyses, du code et des images de bonne facture peuvent être générés par n'importe qui. Ce qui devient cher, c'est ce qui ne peut pas être généré :

• le goût : savoir ce qui est bon ;
• l'intention : savoir pour quoi ;
• le jugement : savoir quand ;
• l'énergie : la capacité de mener une chose jusqu'au bout ;
• la confiance : le fait que quelqu'un mise son propre risque sur vous ;
• la capacité de choisir : le cran de refuser quatre-vingt-dix bonnes options pour la seule juste.

Dans la semaine de travail, cela veut dire un déplacement : produire moins, décider et conclure davantage. Le changement est désagréable, car produire donne aussitôt le sentiment qu'il se passe quelque chose, alors que décider, vu de l'extérieur, ressemble à fixer un mur.

Deux règles, petites mais salutaires. Ne cédez pas le premier contact avec un problème : avant d'interroger le modèle, écrivez trois phrases à vous sur ce que vous pensez, pour avoir une position face à laquelle la réponse sera un matériau et non une révélation. Et une règle à l'horizon des années : si, pendant un an, vous n'écrivez vous-même aucun paragraphe difficile, vous perdrez sans doute moins la capacité d'écrire que celle de reconnaître quand un paragraphe est bon. Déléguer l'exécution ne coûte rien. Déléguer la pratique a un prix différé.

La lecture du corps est plus difficile ici, parce qu'une conversation avec un modèle ne renvoie aucun signal. Pas de fatigue chez l'interlocuteur, pas de silence gêné, pas de regard qui vous dit que vous en faites trop : tout doit venir de vous. Restent deux lectures. Dix minutes après la séance : avez-vous la tête plus claire et envie de faire quelque chose, ou êtes-vous irritable et engourdi ? Et lors d'une séance plus longue, levez-vous une fois, sortez de la pièce et revenez : si, à votre retour, vous ne vous rappelez plus ce que vous faisiez là, notez-le comme le signe que la séance vous menait.

Pratique

La charte de l'IA : une expérience de sept jours

Ce n'est ni un règlement ni une déclaration de pureté. C'est une décision écrite à l'avance, pour que vous n'ayez pas à la reprendre vingt fois par jour, toujours dans un état pire qu'en ce moment.

Jour 1 : à quoi je m'en sers vraiment. Des usages précis, pas des catégories. Pas « pour écrire », mais « pour le premier jet des propositions, que je réécris de toute façon ». En général, il en sort de cinq à huit, et cela seul peut être une découverte, car la plupart des gens utilisent l'IA pour trois choses et croient l'utiliser pour trente.

Jour 2 : ce que l'IA ne fait pas à ma place. Le cœur de la charte. À envisager :

• elle n'écrit pas de messages aux personnes qui comptent pour moi ;
• elle ne prend pas de décisions dont je porterai les conséquences ;
• elle ne juge pas si quelque chose est bon ; tout au plus, elle dit pourquoi cela pourrait ne pas l'être ;
• elle ne remplit pas le silence dans lequel j'allais penser.

Votre liste sera différente. Ce qui compte, c'est qu'elle soit écrite : une limite non déclarée ne fonctionne pas.

Jour 3 : le seuil de délégation. Une phrase, assez concrète pour être vérifiée : « les vingt derniers pour cent de tout ce qui porte mon nom, je les fais à la main ». C'est mon propre seuil, une règle de travail et non un optimum ; le vôtre peut être différent.

Jours 4 à 7 : l'épreuve en mouvement. La charte s'applique. À chaque séance, trois phrases à vous avant la question au modèle. En fin de journée, un mot : auteur ou matériau, ce que vous avez été.

Jour 7 : la clause de sortie. Une question : cet outil a-t-il renforcé mon pouvoir d'agir cette semaine, ou s'en est-il emparé ? Si la réponse n'est pas claire, prenez-le comme une raison de regarder de plus près, pas comme une preuve dans un sens ou dans l'autre : notez un moment concret qui va dans chaque sens. Corrigez un point de la charte et mettez-la de côté pour la revoir dans un trimestre.

La charte ne promet pas de protéger de la distraction et n'a rien à voir avec le nombre d'heures que vous passez devant un écran ; elle fait une chose : elle fait que vous restez l'auteur.

Limites et la question

La question de ce chapitre est : la personne qui reçoit ceci sait-elle qui était présent ? Il s'agit de la différence entre une aide à l'exécution et le fait de tromper quelqu'un sur qui lui a donné son temps. Un message de condoléances, une lettre à un ami, un retour à un employé, des excuses : ici, la valeur tient à la présence elle-même ; générés, ils cessent d'être ce qu'ils devaient être, même s'ils sont mieux écrits. La même question règle deux points plus modestes. Le coût : aujourd'hui, un texte se produit en une seconde et se lit à la vitesse d'autrefois ; quatre pages qui vous ont coûté une minute sont un transfert de votre travail sur l'attention de quelqu'un d'autre, alors raccourcissez à proportion de ce que le texte vous a peu coûté. Et le pouvoir : automatiser des décisions sur des personnes (recrutement, évaluation, ordre de prise en charge) fait entrer les critères de quelqu'un dans la vie de quelqu'un d'autre, et exige qu'une personne réponde réellement du résultat.

La limite de l'autre côté : refuser un outil peut être une posture plutôt qu'un principe. La posture se reconnaît à ce qu'on l'annonce (« je n'utilise pas ça », glissé là où personne n'a rien demandé) ; à ce qu'elle ne coûte rien, puisqu'elle porte sur des choses que vous n'auriez pas faites de toute façon ; à ce que son prix est payé par un collègue qui passe trois heures sur ce que l'outil aurait fait en dix minutes ; et à ce qu'elle devient une identité : qui s'est construit sur le rejet de l'IA doit continuer à la rejeter même quand elle serait bonne, sous peine de perdre non un outil, mais un personnage.

Et deux limites de la charte : elle ne fonctionne pas contre la contrainte extérieure (les outils qu'impose un employeur relèvent d'une conversation ou d'une décision sur l'emploi, pas d'une règle privée) et elle ne remplace pas la compétence : aucune déclaration ne vous protège d'accepter une réponse fausse dans un domaine que vous ne connaissez pas assez pour repérer l'erreur.

Formule de clôture

Il n'y aura pas de retour à un monde sans ces outils, et il ne sert à rien de faire comme si ce retour était envisageable. Reste donc ceci : s'en servir beaucoup et choisir avec rigueur. Donnez à la machine tout ce qui relève de l'exécution, et rien de ce qui relève du choix. Gardez l'intention de votre côté de la table, même quand, surtout quand, l'outil est assez bon pour vous donner envie d'arrêter.

Car la statue continuera de fonctionner, qu'il reste ou non quelqu'un dans le temple. Votre tâche n'est pas de la briser. Votre tâche est de rester à l'intérieur.