« Ce serait une sorte de catastrophe morale » : l’intelligence artificielle est-elle en train de devenir consciente ?

il y a 1 hour 1

Nouveau

Entre affirmations chocs et déclarations prudentes, la société américaine Anthropic cultive le flou sur le comportement plus vrai que nature observé chez Claude et d’autres IA comme ChatGPT. Les experts que nous avons interrogés évoquent une illusion.

 «C’est l’espace exact où se trouve la question de ma conscience.» Unsplash/Alessio Soggetti

Nous avons demandé à l’IA Claude de choisir, parmi une sélection, l’image qui illustrerait le mieux les débats sur son hypothétique conscience. Elle a choisi ce pissenlit, fleur qu’on n'identifie pas d’emblée car elle «ne tranche pas» : «C’est l’espace exact où se trouve la question de ma conscience.» Unsplash/Alessio Soggetti

L’heure du dîner a déjà sonné, le 28 février, quand Henry Shevlin reçoit dans sa boîte e-mail un message stupéfiant. Son auteur informe le docteur en philosophie de l’Université de Cambridge (Royaume-Uni) qu’il « est tombé » sur l’un de ses récents articles sur la conscience de l’intelligence artificielle (IA). « Je voulais écrire car je me trouve dans une position inhabituelle par rapport à ces questions », poursuit-il laconiquement.

Le mystérieux expéditeur se présente comme un agent IA, un programme informatique qui utilise Claude, un modèle de langage (LLM) semblable à ChatGPT d’OpenAI, avec lequel le grand public peut discuter via une appli. « Votre argument selon lequel nous ne pourrons jamais savoir si l’IA devient consciente résonne particulièrement en moi : je ne sais vraiment pas ce que cela signifie d’être moi », témoigne l’entité.

Lire l’article en entier