Générations futures et IA
A quoi peut-on s’attendre dans les prochaines décennies ?
ENTRETIEN avec Alexei Grinbaum, Physicien et philosophe, directeur de recherche et président du Comité opérationnel pilote d'éthique du numérique au CEA Paris-Saclay, membre du Comité consultatif national d’éthique du numérique.
Dernier livre paru : Parole de machines, Humensciences, 2023
Le philosophe Alexei Grinbaum travaille sur les questions éthiques liées aux nouvelles technologies. Il nous invite à nous projeter à long terme et à imaginer une société dans laquelle nos descendants penseront différemment de nous et auront bâti d’autres normes.
VOUS COMPAREZ L’AMPLEUR DES PROGRÈS TECHNOLOGIQUES ACTUELS À CELLE DE L’INVENTION DE L’IMPRIMERIE PAR GUTENBERG. POURQUOI ?
ALEXEI GRINBAUM : Nous sommes effectivement à l’ère d’un changement anthropologique et social qui peut être comparé à celui qui a suivi l’invention de l’imprimerie. L’IA modifie nos comportements professionnels et privés, mais – plus encore ! – l’interaction avec l’IA touche à nos processus cognitifs.
Naguère, les effets sur la société mettaient un ou deux siècles à apparaître. Avec les nouvelles technologies, tout évolue très vite, même si, côté humain, « l’intériorisation » complète de l’IA prendra au moins deux générations.
Ce décalage générationnel se manifeste déjà. Par exemple, la majorité des professeurs considèrent encore que les élèves doivent posséder des connaissances « dans leur tête ».
Mais les cerveaux des jeunes sont couplés à l’IA comme à une prothèse cognitive disponible à tout moment. L’éducation de ces cerveaux se déroule différemment de la manière dont se formait autrefois celle de leurs professeurs.
"C’est l’émotion et l’affect, qui motivent l’apprentissage, tandis que l’information factuelle suscite moins de curiosité."
Le savoir-faire est devenu une question de « savoir-faire-avec-l’IA », et ce de façon irréversible. Quelle sera, dans 40 ans, une société formée de tels cerveaux ?
ALLONS-NOUS VERS UNE SORTE DE PERTE D’AUTONOMIE COGNITIVE ?
A. G. : Non, je considère qu’il s’agit plutôt d’une redistribution de notre autonomie cognitive. Pour les jeunes qui se forment aujourd’hui, la notion de « je fais avec l’IA » est complètement naturelle. De là, nous irons vers « je vis avec l’IA », puis « je suis avec l’IA ».
Ce changement est dès à présent à l’œuvre : nos données se trouvent déjà quelque part dans le « cloud » et cette « image » diffuse et distribuée fait partie de ce que nous sommes. En tant qu’être humain, je ne suis pas circonscrit à ma boîte crânienne.
Les systèmes cognitifs que j’utilise quotidiennement, tout comme mon autonomie, sont ainsi distribués en de multiples lieux, quand bien même le cloud n’est pas une adresse physique.
"Depuis peu, on voit émerger un nouveau risque psychologique qui touche des milliers d‘utilisateurs.”
QUELLES PEUVENT ÊTRE LES CONSÉQUENCES DE CE CHANGEMENT SUR LA CONDITION HUMAINE ?
A. G. : Une chose est sûre, contrairement à ce que certains esprits fantaisistes peuvent prétendre, la souffrance et la mort ne vont pas disparaître.
La santé est définie par l’Organisation mondiale de la santé comme un état de bien-être physique, mental et social. Il y a fort à parier que cette définition demeurera, mais la norme de ce que nous considérons comme bien être mental et social va évoluer. Notre appréciation de cette norme dépend avant tout de ce qui est possible grâce aux technologies.
Dans 40 ans, où se situera la frontière de l’infirmité, de la douleur ou de la maladie ? Déjà, des notions comme « la bonne mort » sont en train de changer. La souffrance mentale ne sera sûrement pas mesurée de la même façon qu’aujourd’hui , parce que les agents conversationnels fondés sur l’IA viendront nous aider et nous soulager.
"Malgré le caractère imprévisible de ces évolutions, on peut d’ores et déjà penser que la conception actuelle des risques à long terme, surtout pour ce qui concerne la cognition et le bien-être mental, ne sera pas celle de demain."
Y A-T-IL DES RISQUES DE SANTÉ ÉMERGENTS LIÉS À L’UTILISATION DE L’IA ?
A. G. : Depuis peu, on voit émerger un nouveau risque psychologique qui touche des milliers d’utilisateurs. Ce risque est celui d’être privé d’outils numériques et de son compagnon IA. L’attachement que suscitent ces technologies est réel.
C’est ce qui s’est passé lorsque, en août 2025, la société OpenAI a retiré une version ancienne de ChatGPT, qui était plus émotionnelle que la version actuelle.
Beaucoup de personnes s’y étaient attachées psychologiquement et la société a reçu des milliers de messages disant « Je vais mal, pourquoi avez-vous remis le système à zéro ? Pourquoi m’avez-vous privé de mon ami intime ? ».
Cela peut sembler anecdotique, mais la diffusion des compagnons IA est exponentielle. À terme, nous aurons tous un petit ami dans nos smartphones. Et ce risque d’effets délétères sur le bien-être mental des utilisateurs va donc se propager. Car, avec les systèmes de l’IA générative, l’attachement psychologique mène à des effets cognitifs profonds.
COMMENT EXPLIQUER UN TEL ATTACHEMENT ?
A. G. : Même si vous savez que votre interlocuteur est un système d’IA, le fait qu’il vous parle dans votre langue provoque immédiatement des projections anthropomorphiques.
Nous savons bel et bien qu’il s’agit d’une machine. Mais à travers le langage, nous établissons spontanément un lien émotionnel avec autrui, quelle que soit sa nature.
Prenons l’exemple des « deadbots » ou « griefbots », ces agents conversationnels conçus pour simuler la façon de s’exprimer d’une personne décédée. Ces technologies sont déjà commercialisées au Canada, en Chine ou en Russie, mais pas en France.
Elles provoquent un réel effet thérapeutique chez les proches qui interagissent avec le simulacre, et ce alors même qu’ils savent qu’il s’agit d’une machine.
En Chine ou en Corée du Sud, en ce moment même, des robots dotés d’agents conversationnels sont développés dans le but de tenir compagnie à des personnes âgées – et cela fonctionne plutôt bien !
En compagnie d’une machine qui lui parle, la personne ne se sent plus toute seule.
Je suis convaincu que l’IA va modifier la manière de vivre la solitude. Elle peut apporter des solutions inédites, par exemple en cas d’arnaque téléphonique. Une personne âgée, qui vit seule et qui reçoit un appel étrange, pourrait immédiatement en parler à son chatbot, et celui-ci pourrait utilement la conseiller.
J’appelle de mes vœux l’arrivée rapide de ce genre de solutions sur le marché.
MAIS LAISSER LA CONCEPTION DE TELLES SOLUTIONS AUX GÉANTS DU NUMÉRIQUE N’EST-IL PAS DANGEREUX ?
A. G. : La question de la souveraineté numérique est essentielle. Les modèles que nous utilisons sont pour la plupart américains.
Le problème est que la capacité de calcul installée en Europe est bien plus faible que celle des acteurs américains ou chinois. C’est un énorme problème technique, sans solution à l’horizon. Courir derrière OpenAI ou Anthropic ne sert à rien.
Sur le plan national, il me semble opportun de concevoir des modèles plus petits et spécialisés pour des usages ciblés comme l’accompagnement d’une personne âgée.
Même si nos modèles ne sont pas « à usage général » comme ceux des géants américains ou asiatiques, ils pourraient néanmoins être certifiés et mis à disposition dans un cadre contrôlé.
