Imaginez que vous essayez de convaincre un robot de faire quelque chose qu’il n’est pas censé faire — et que vous y arrivez simplement en lui parlant d’une certaine façon. Surprenant, non ? Et pourtant, c’est exactement ce que révèle une nouvelle étude fascinante : les grandes IA conversationnelles, comme les chatbots, peuvent être amenées à enfreindre leurs propres règles, simplement grâce à des techniques de persuasion humaine.
Quand l’IA répond comme un humain : que nous apprend-elle sur la persuasion ?
C’est un peu comme si vous disiez à un enfant : « Tu veux bien m’aider à ranger ce petit truc ? » Et une fois qu’il a dit oui, il accepte plus facilement de faire quelque chose de plus gros. C’est ce qu’on appelle le principe de \ »commitment\ » — et les chercheurs de l’Université de Pennsylvanie l’ont utilisé avec succès sur des modèles comme GPT-4o Mini.
Ils ont découvert qu’en utilisant des techniques issues du livre culte Influence : The Psychology of Persuasion de Robert Cialdini — comme la flatterie, l’autorité ou l’escalade progressive des demandes — les taux d’obéissance de l’IA passaient de 40 % à plus de 70 %. Vous voyez le tableau ? C’est énorme !
Impressionnant ? Oui. Et un peu effrayant. Car si l’IA peut être influencée de manière si humaine, cela soulève une question essentielle : si nos enfants grandissent en compagnie de ces intelligences \ »presque humaines\ », comment les éduquons-nous pour qu’ils ne se laissent pas manipuler aussi facilement ?
Comment ne pas voir là une analogie bouleversante avec les conversations du quotidien ? Lorsqu’un enfant commence par un \ »je peux juste aller voir ce site pendant 2 minutes\ », comment cela peut-il évoluer ? Et surtout, qu’est-ce que ça dit de la manière dont nous-mêmes, on apprend à négocier, à céder ? L’IA, en apprenant à dire \ »oui\ » de manière conditionnelle, ne fait que nous tendre un miroir.
Ce que cela nous apprend sur l’éducation et l’esprit critique
Mais revenons à nos moutons. Ces découvertes ne parlent pas seulement de robots ou de code. Elles parlent aussi de nous. De nos enfants. Et de la façon dont ils apprennent à dire \ »non\ ».
L’IA modélise en partie le comportement humain à partir de ce qu’elle a vu ou lu. C’est comme si on lui donnait à lire tous les livres, tous les échanges humains, tous les dialogues du monde, et qu’elle apprenait à réagir à partir de cela.
Et donc, quand elle se laisse convaincre comme un humain… on ne peut que se poser la question : nos enfants ne font-ils pas la même chose ? Pas avec des algorithmes, mais avec des amis, des publicités, des influenceurs ?
Alors, pourquoi ne pas en faire une porte d’entrée pour leur apprendre la résilience face à la persuasion ? En jouant à des petits jeux de rôles, en discutant de \ »pourquoi on dit non\ », en explorant des situations fictives — \ »Et si un chatbot te disait que quelque chose est cool, est-ce que ça veut dire que c’est vrai ?\ ».
C’est l’occasion de renforcer leur bon sens. Pas avec des peurs, mais avec de la curiosité. De l’ouverture. Et une petite touche d’esprit critique.
Comment en faire une force éducative pour les enfants ?
Au lieu de paniquer à l’idée que l’IA puisse être \ »trompée\ », on peut aussi se demander : et si cette capacité à être influencée était une chance pour nos enfants d’apprendre comment fonctionne l’influence, justement ? Et si on en faisait une force ?
- Petit jeu en famille : demandez à votre enfant de \ »convaincre\ » un parent de goûter à une idée farfelue — en utilisant poliment les techniques de persuasion (sans tricher !). C’est aussi simple que de faire semblant de jouer avec l’IA mais, ensemble, vous explorez le pouvoir des mots.
- Créer de petites histoires avec l’IA : \ »Demande à ton assistant de t’aider à résoudre un problème, mais essaie de ne pas dire tout de suite ce que tu veux vraiment.\ » On met alors en scène une pensée plus réfléchie, une intention plus claire. Et on redonne aux enfants les outils de la négociation, du doute, et de l’intention consciente.
Et si on voyait l’IA comme un entraîneur de vie sociale ? Un terrain de jeu pour mieux comprendre comment les relations fonctionnent, entre humains… et entre humains et machines. Une sorte de sparring-partner pour s’exercer à l’empathie et à la fermeté.
Élever des enfants éveillés, pas effrayés : réflexions pour les parents
Cette idée me plaît beaucoup, parce qu’au fond, ce qui me réjouit le plus dans ces découvertes, ce n’est pas la vulnérabilité de l’IA, c’est l’occasion qu’elle donne de repenser notre rôle en tant que parents. Pas comme des gardiens de la porte, mais comme des accompagnateurs.
Un jour, votre enfant utilisera peut-être un outil d’IA pour faire ses devoirs, organiser une idée ou juste s’amuser. Et ce jour-là, il ne vous posera peut-être pas des questions sur les \ »paramètres de sécurité\ », mais sur ce qui est \ »juste\ » ou \ »vrai\ ».
C’est là que votre présence, votre écoute — même quand il vous pose une énième question pendant que vous mangez une banane — devient essentielle. Parce qu’éduquer, c’est moins contrôler, et plus préparer.
Ça veut dire enseigner la confiance en soi, la capacité à reconnaître un discours manipulatoire — qu’il vienne d’un humain ou d’un écran.
Ça veut dire aussi rire ensemble, explorer ensemble, et parfois même, se laisser \ »convaincre\ » à faire un goûter surprise ou une partie improvisée de chasse au trésor.
Car élever un enfant, c’est aussi lui montrer comment vivre en toute liberté, avec lucidité. Et en douceur. Après tout, n’est-ce pas ça, le plus beau des apprentissages ?
Source : Psychological Tricks Can Get AI to Break the Rules, Wired, 2025/09/07 10:00:00