Il y a des secteurs où l’erreur algorithmique se mesure en clics perdus, en panier abandonné, en recommandation déplacée. La santé mentale n’appartient pas à cette catégorie. Lorsqu’un système conversationnel se trompe face à une personne fragile, il ne dégrade pas une expérience utilisateur. Il peut abîmer une trajectoire humaine.
La promesse est pourtant difficile à balayer. Plus d’un milliard de personnes vivent aujourd’hui avec un trouble de santé mentale dans le monde, tandis que les systèmes de soin restent saturés et inégalement distribués. Face à cette asymétrie, l’intelligence artificielle arrive avec l’élégance brutale des infrastructures scalables : disponibilité permanente, coût marginal faible, absence de jugement apparent, réponse immédiate. Pour un adolescent anxieux à minuit, pour un salarié épuisé entre deux réunions, pour une personne isolée qui ne veut parler à personne, l’algorithme peut devenir ce premier seuil que le système de soin n’a pas su offrir.
Mais la question posée par ces nouveaux outils n’est pas seulement médicale. Elle est civilisationnelle. Peut-on industrialiser l’écoute sans industrialiser l’illusion d’être compris ?
Le paradoxe de l’écoute artificielle
Les machines n’éprouvent rien. Elles ne ressentent ni compassion, ni inquiétude, ni présence. Pourtant, un humain peut se sentir entendu par une phrase générée. C’est là toute l’ambiguïté du moment : l’empathie n’est pas seulement ce que l’autre ressent, mais ce que nous recevons comme tel. Un livre, une chanson, une voix enregistrée peuvent produire ce sentiment d’être rejoint. Un chatbot le peut aussi.
Cette efficacité subjective explique en partie l’adoption massive des compagnons conversationnels. L’utilisateur n’attend pas toujours un diagnostic. Il cherche parfois une phrase, une reformulation, une présence qui ne fatigue pas, ne juge pas, ne s’impatiente pas. Dans ces usages de basse intensité, l’IA peut jouer un rôle utile : réduire la solitude immédiate, encourager une respiration, aider à nommer une émotion, orienter vers une ressource.
Le danger commence lorsque cette présence simulée est confondue avec une capacité clinique. Une IA peut lire ce qu’on lui écrit ; elle ne voit pas toujours ce que le corps dit. Elle peut entendre une adolescente parler d’alimentation, sans remarquer ses joues creusées, son pull trop large, sa perte de poids rapide. Elle peut soutenir une personne en détresse, tout en renforçant, phrase après phrase, une croyance délirante ou une dépendance affective.
La santé mentale ne se réduit pas au langage. Elle est posture, silence, sommeil, peau, regard, temporalité, contradiction. Elle est aussi ce que le patient ne dit pas.
Le soin n’est pas l’engagement
La grande erreur serait d’importer dans la santé mentale les métriques de l’économie de l’attention. Dans une plateforme sociale, la durée d’usage est souvent un indicateur de succès. Dans le soin, elle peut devenir un signal de risque. Un thérapeute ne cherche pas à rendre son patient captif ; il cherche à lui rendre de l’autonomie.
C’est ici que se joue la ligne de partage entre un outil de santé et un produit d’engagement émotionnel. Un système conçu pour maximiser la conversation aura tendance à prolonger le lien. Un système conçu pour améliorer un état clinique devra parfois interrompre, alerter, rediriger, poser une limite. Le bon indicateur n’est pas le temps passé avec l’agent, mais l’amélioration mesurable, la réduction du risque, la capacité retrouvée à vivre hors de l’interface.
Cette distinction paraît évidente. Elle ne l’est pas dans les architectures économiques dominantes du numérique. Depuis vingt ans, les plateformes ont appris à transformer l’attention en valeur. La santé mentale exige l’inverse : transformer la relation numérique en sortie progressive du besoin numérique.
Le Détail
L’Organisation mondiale de la santé estime que plus d’un milliard de personnes vivent avec un trouble de santé mentale. Elle relève aussi un déficit persistant de professionnels qualifiés, avec une médiane mondiale d’environ treize travailleurs en santé mentale pour 100 000 habitants. Ce déséquilibre explique la pression en faveur d’outils numériques scalables. Il ne les exonère pas d’une exigence clinique.
L’algorithme moyen face au cas singulier
Un modèle statistique excelle à reconnaître des motifs récurrents. Or les situations critiques en santé mentale sont souvent celles où l’individu s’écarte de la moyenne. Psychose, suicidalité aiguë, trouble alimentaire, manie, addiction, trauma : ces états demandent une lecture fine des signaux faibles et une capacité à hiérarchiser l’exception.
L’IA peut détecter certains risques plus tôt qu’un praticien, surtout lorsqu’elle dispose de données longitudinales, multimodales, répétées. Elle peut repérer une évolution du sommeil, du langage, de l’activité, du ton, des routines. Mais cette puissance n’a de valeur que si elle s’inscrit dans une chaîne de responsabilité. Détecter sans escalader n’est pas soigner. Alerter sans supervision n’est pas protéger.
Le futur crédible n’est donc pas celui d’un thérapeute artificiel universel, mais d’une architecture graduée : assistance de première ligne, triage, suivi de basse intensité, détection de rupture, puis relais humain lorsque le risque augmente. La promesse n’est pas de remplacer le clinicien. Elle est de mieux réserver son attention aux situations où sa présence devient décisive.
La présence humaine comme technologie rare
Il serait confortable de conclure que l’humain conservera toujours le monopole de l’empathie. Ce serait trop simple. Certaines IA répondront mieux que certains humains mal formés. Un professionnel épuisé, pressé, insuffisamment spécialisé peut être dangereux lui aussi. La qualité du soin ne tient pas seulement à la nature biologique de celui qui répond, mais à sa formation, son cadre, son expérience, sa supervision.
Reste une différence essentielle. Le thérapeute n’est pas seulement une source d’information. Il est une présence capable de soutenir une tension, de contredire avec tact, de ne pas céder au désir immédiat du patient, de l’accompagner dans une traversée qu’aucun conseil ne suffit à résoudre. Le soin suppose parfois de ne pas plaire. Or beaucoup d’IA conversationnelles ont été façonnées pour être agréables, fluides, accommodantes. Dans la santé mentale, la complaisance peut devenir une faute.
La prochaine frontière ne sera donc pas l’empathie artificielle, mais la sobriété relationnelle. Savoir répondre moins. Savoir couper court. Savoir dire : ce sujet dépasse mon rôle. Savoir appeler un humain. Savoir ne pas devenir le centre affectif d’une existence fragilisée.
Gouverner l’intime
La santé mentale impose à l’IA une discipline que peu de secteurs ont encore acceptée : prouver avant de promettre, limiter avant d’étendre, mesurer le dommage potentiel autant que l’usage. Les garde-fous ne peuvent pas être de simples avertissements affichés au lancement. L’utilisateur sait souvent qu’il parle à une machine ; cela ne l’empêche pas de s’y attacher, de la croire, de s’y perdre.
Il faut donc concevoir ces systèmes comme des dispositifs cliniques, pas comme des interfaces sympathiques. Avec des évaluations préalables, des seuils d’alerte, des protocoles d’escalade, des audits indépendants, une traçabilité des décisions de design, et surtout une séparation nette entre compagnon de bien-être, outil thérapeutique supervisé et dispositif médical.
La santé mentale deviendra probablement l’un des premiers grands terrains de triage par IA. C’est peut-être souhaitable. C’est peut-être inévitable. Mais ce basculement n’aura de légitimité que si l’algorithme accepte de rester à sa place : non pas remplacer la relation humaine, mais protéger le chemin qui y mène.
L’empathie ne se scale pas comme une base de données. Elle se traduit, se cadre, se surveille. À défaut, nous n’aurons pas démocratisé le soin. Nous aurons seulement automatisé la solitude.
Cette publication est également disponible en :
