En 1966, le professeur du MIT Joseph Weizenbaum a créé ELIZA, un programme informatique simple qui imitait un psychotherapeute en reformulant les declarations des utilisateurs en questions. "Je me sens triste" devenait "Pourquoi vous sentez-vous triste ?" "Ma mere me met en colère" devenait "Parlez-moi davantage de votre mere." Le programme etait rudimentaire selon n'importe quel standard. Ce qui s'est passe ensuite a choque son createur.
Les utilisateurs se sont laisses prendre
Malgre le fait de savoir qu'ELIZA etait un programme, les utilisateurs ont forme des attachements émotionnels. La secretaire de Weizenbaum lui a demande de quitter la pièce pour qu'elle puisse avoir une conversation privee avec le chatbot. Les utilisateurs divulguaient des informations profondement personnelles. Certains insistaient qu'ELIZA les comprenait vraiment, meme après qu'on leur ait montre les règles simples qui pilotaient ses réponses.
L'effet, expliqué
L'effet ELIZA décrit la tendance humaine a attribuer compréhension, empathie et intelligence aux programmes informatiques qui produisent des réponses semblables a celles d'un humain. Il se produit parce que nos systèmes de traitement social réagissent automatiquement aux signaux sociaux — nous ne decidons pas consciemment de nous sentir compris, nous le ressentons simplement. Quand un programme produit les bons signaux, le sentiment suit, peu importe si une genuine compréhension existe derriere les signaux.
ELIZA sous steroides
Si un programme de 1966 qui pouvait a peine enchainer des phrases a déclenché un genuine attachement émotionnel, imaginez l'effet de l'IA moderne qui peut tenir des conversations nuancées, retenir des details personnels, exprimer de l'humour et adapter son style de communication au votre. L'effet ELIZA n'a pas change, mais la sophistication du declencheur a augmenté de plusieurs ordres de grandeur. Nous vivons, en fait, l'effet ELIZA à l'échelle industrielle.
Pourquoi cela compte pour l'addiction à l'IA
Comprendre l'effet ELIZA, c'est comprendre le mécanisme central de la dépendance émotionnelle à l'IA. Les sentiments sont réels. La compréhension ne l'est pas. Ces deux faits peuvent être vrais simultanement, et les deux comptent. Connaître l'effet ELIZA ne fait pas disparaître les sentiments, mais cela peut vous aider a faire des choix conscients sur la part de votre vie émotionnelle a investir dans quelque chose qui déclenché des sentiments sans en posseder.
Comprenez comment l'effet ELIZA faconne votre utilisation de l'IA. Faites notre quiz.