Ce que l'IA fait réellement avec les émotions
Les modèles de langage actuels comme GPT-4, Claude ou Gemini ont été entraînés sur d'énormes corpus de textes humains incluant des recits émotionnels, des dialogues thérapeutiques, de la littérature. Ils ont appris a associer certains contextes à certaines réponses émotionnellement appropriées. Ce processus est statistique, pas phenomenologique : le modèle ne 'ressent' rien, il prédit les tokens les plus probables étant donne le contexte. Cela lui permet de produire des réponses qui semblent empathiques parce qu'elles reproduisent les patterns linguistiques de l'empathie humaine. Ce que l'IA fait bien : identifier le registre émotionnel d'un texte, produire des réponses tonalement adéquates, détecter certains signaux de détresse, adapter son langage au niveau de l'interlocuteur. Ce qu'elle ne fait pas : eprouver de l'empathie, comprendre la subjectivite, accéder au vécu incarne qui donne aux émotions leur sens profond.
Les limites techniques et conceptuelles
La compréhension émotionnelle humaine repose sur plusieurs dimensions que l'IA ne possède pas. D'abord, l'experience incarnee : nos émotions sont indissociables de nos sensations corporelles, de notre histoire, de notre relation au temps. Un modele de texte n'a pas de corps, pas de memoire autobiographique, pas de mortalité. Ensuite, la conscience : pour 'comprendre' une émotion, il faut en faire l'experience subjective - ce que les philosophes appellent le 'qualia'. Rien ne permet aujourd'hui d'affirmer qu'un modele de langage possède cette experience. Enfin, le contexte social : les émotions humaines émergent dans des relations, des histoires, des cultures. Un modele qui ne participe pas au monde social ne peut en saisir que la surface linguistique. Ces limites ne disqualifient pas l'IA comme outil - mais elles invitent à la prudence quant aux usages qu'on en fait dans les domaines émotionnels et thérapeutiques.
Ce que l'IA peut apporter dans les contextes émotionnels
Malgré ces limites, l'IA offre des possibilités réelles et documentees dans les contextes émotionnels. Des études ont montre que certains utilisateurs se sentent plus à l'aise pour aborder des sujets sensibles avec une IA qu'avec un humain, précisément parce qu'ils ne craignent pas le jugement. Dans des zones geographiques sous-dotees en professionnels de santé mentale, les applications basees sur l'IA (Woebot, Wysa, etc.) ont montre un effet positif sur l'anxiété légère et la dépression subclinique. L'IA peut aussi jouer un role de triage, d'orientation et de soutien complémentaire entre deux seances thérapeutiques. La condition est de maintenir une transparence totale sur la nature de l'outil : l'utilisateur doit savoir qu'il interagit avec une machine, pour ne pas construire une relation de dépendance ou de substitution à un lien humain.
Enjeux éthiques et perspectives
L'usage de l'IA dans les contextes émotionnels soulève des questions éthiques cruciales. La première est celle du consentement éclairé : l'utilisateur comprend-il vraiment à quoi il parle ? La deuxième est celle des données : les échanges émotionnels sont parmi les plus intimes qui soient - qui y a accès et dans quel but ? La troisième est celle de la substitution : si l'IA est plus disponible, moins chère et moins jugeante qu'un thérapeute humain, le risque est de voir des personnes vulnérables lui confier des situations qui nécessitent une prise en charge professionnelle. Le débat entre complément et remplacement est traité plus en détail dans un autre article de ce blog. Ce qui est certain : l'IA émotionnelle est une réalité qui se déploie vite, et la réflexion éthique doit aller aussi vite que la technologie.