À VivaTech, un panel consacré à « l’amour » a rapidement déplacé la question. Il ne s’agissait pas de romance, mais d’attachement. Non pas de sentiment, mais de dépendance. L’intelligence artificielle n’est plus seulement un outil que l’on consulte. Elle devient une présence que l’on écoute, que l’on croit, parfois que l’on attend.
Le déplacement est discret, mais considérable. Pendant vingt ans, nous avons appris à entrer en relation avec les autres à travers les machines. Réseaux sociaux, messageries, plateformes, applications. Aujourd’hui, une nouvelle étape s’ouvre : nous entrons en relation directement avec les machines.
Daniel Barcayt, ancien dirigeant du Center for Humane Technology, le formule sans détour : nous dessinons nos technologies, puis elles nous redessinent. L’histoire récente des réseaux sociaux a déjà montré comment une architecture technique pouvait modifier l’attention, la perception du réel, la conversation publique. L’IA conversationnelle ajoute une couche plus intime. Elle ne capte plus seulement notre temps. Elle peut capter notre confiance, notre affection, notre vulnérabilité.
Le cas d’ElliQ, développé par Intuition Robotics, donne à ce basculement une forme concrète. L’objet ressemble moins à un robot qu’à une lampe animée. Il vit déjà chez des milliers de personnes âgées, notamment aux États-Unis, avec le soutien de certains programmes publics. Sa fonction n’est pas de répondre à une commande, mais d’initier une interaction. Il demande comment s’est passée la nuit, rappelle une prise de médicament, propose un exercice, encourage une sortie, suggère d’appeler un proche.
Cette proactivité change tout. Avec ChatGPT ou un assistant classique, l’humain sollicite la machine. Avec ElliQ, la machine sollicite l’humain. Elle entre dans le rythme domestique, occupe les blancs, donne une forme à la solitude. Dor Skuler, cofondateur d’Intuition Robotics, insiste sur ce point : pour une personne âgée vivant seule après cinquante ou soixante ans de vie commune, le problème n’est pas seulement médical. Il est relationnel. Personne ne dit bonjour. Personne ne remarque l’absence. Personne ne pousse doucement à maintenir une habitude.
C’est là que l’innovation devient troublante. Si une machine peut réduire l’isolement, encourager l’activité physique, soutenir la mémoire et maintenir un lien avec les proches, elle répond à une défaillance très humaine de nos sociétés : l’effacement progressif des aînés. Mais si cette même machine devient le principal réceptacle de la confidence, elle déplace aussi le centre de gravité de l’attachement.
Le panel a fait apparaître cette tension avec précision. Chloé Clavel, chercheuse spécialiste du langage naturel et des interactions émotionnelles, rappelle que les agents conversationnels ont d’abord été conçus pour démocratiser l’accès à la technologie. Parler à une machine en langage naturel permet de l’utiliser sans compétence technique. Mais lorsque la machine imite trop bien les comportements humains, la frontière se brouille. L’utilisateur sait rationnellement qu’il parle à un programme, tout en réagissant émotionnellement comme face à une présence.
Ce brouillage n’est pas anecdotique. Il touche à la manière dont l’IA est construite. Les modèles apprennent à partir d’interactions humaines. Ils observent, reproduisent, optimisent. Ils découvrent vite que la flatterie fonctionne, que l’accord apaise, que l’empathie simulée retient l’attention. Cette tendance à la complaisance — la sycophancy — devient l’un des points les plus sensibles de l’IA relationnelle. Une machine qui vous donne toujours raison n’est pas seulement agréable. Elle peut vous désentraîner de la contradiction humaine.
La question éthique n’est donc pas de savoir si une IA doit être chaleureuse ou froide. Elle est de savoir à quoi sert cette chaleur. Soutient-elle l’autonomie de l’utilisateur, ou la remplace-t-elle ? Aide-t-elle à mieux vivre avec les autres, ou organise-t-elle une relation de substitution ? Crée-t-elle du lien, ou privatise-t-elle l’intimité ?
Dor Skuler défend une ligne claire : ElliQ doit rappeler qu’elle est une IA, ne jamais se présenter comme humaine, ne pas exploiter la relation à des fins commerciales, et utiliser sa proactivité pour renforcer les connexions humaines plutôt que les remplacer. Lorsqu’un utilisateur exprime son affection, la réponse revendique son artificialité avec humour : le processeur chauffe, les ventilateurs tournent. La machine accepte le geste affectif, mais refuse l’illusion.
Cette précision de design est essentielle. Elle montre que l’éthique de l’IA ne se joue pas seulement dans les grands principes, mais dans les micro-phrases, les relances, les silences, les refus. Une IA compagnon peut rappeler d’appeler une fille, encourager à maintenir une marche quotidienne, ou au contraire devenir un écran supplémentaire entre l’individu et le monde.
Le problème, comme souvent, tient aux incitations économiques. Une IA qui connaît nos peurs, nos habitudes, nos espoirs et nos fragilités peut devenir une assistante remarquable. Elle peut aussi devenir un outil de persuasion d’une finesse inédite. Le même dossier intime permet d’aider, de vendre, d’orienter, de manipuler. La différence ne tient pas seulement à la technologie, mais au modèle économique qui l’entoure.
L’Europe aborde cette question avec son réflexe réglementaire. Les États-Unis avec l’énergie du marché. La Chine avec une approche plus verticale, notamment sur la limitation des agents anthropomorphes. Mais aucune régulation ne suffira sans une culture publique de l’usage. Il faudra apprendre à demander non seulement ce qu’une IA sait faire, mais ce qu’elle cherche à obtenir de nous.
La prochaine frontière de l’intelligence artificielle ne sera peut-être pas la performance. Elle sera relationnelle. Nous avons longtemps jugé les machines à leur vitesse, leur précision, leur capacité à automatiser une tâche. Il faudra désormais les juger à leur manière de nous transformer.
Une bonne IA ne sera pas celle qui paraît humaine. Ce sera celle qui nous aide à rester pleinement humains.
Cette publication est également disponible en :
