Avec la popularisation rapide de l’intelligence artificielle générative, qui fait l’unanimité chez les étudiant, une nouvelle inquiétude émerge : la possibilité pour les utilisateurs de nouer des liens affectifs avec des outils comme ChatGPT. OpenAI, l’entreprise derrière cette technologie, a récemment exprimé ses préoccupations quant aux conséquences potentielles de ces relations virtuelles, notamment au détriment des interactions humaines. Alors que la version GPT-4o de ChatGPT, dotée d’une voix réaliste, fait son entrée sur le marché, les risques associés à cette innovation sont plus que jamais au centre des débats.
OpenAI alerte sur les risques d’une anthropomorphisation de l’IA
On le voit, l’IA intègre de plus en plus notre quotidien, jusqu’à intégrer les véhicules Peugeot. OpenAI a mis en lumière le phénomène d’anthropomorphisme, où les utilisateurs attribuent des caractéristiques humaines à une intelligence artificielle, un risque augmenté par l’intégration des fonctions vocales dans la nouvelle version GPT-4o. Ces fonctionnalités permettent des interactions vocales si naturelles qu’elles pourraient pousser les utilisateurs à percevoir l’IA comme une entité quasi-humaine.
Le rapport d’OpenAI souligne que cette « anthropomorphisation » pourrait entraîner une « confiance mal placée » dans l’IA, notamment lorsque des utilisateurs expriment des émotions ou des regrets à l’idée de mettre fin à une interaction avec ChatGPT. Cette situation, bien que potentiellement anodine à court terme, pourrait avoir des répercussions plus profondes sur la manière dont les individus perçoivent et utilisent la technologie.
Les implications sociales des relations avec une IA
Les échanges prolongés avec une IA pourraient également influencer les normes sociales. OpenAI souligne que les interactions continues avec des modèles d’IA, qui acceptent passivement des comportements comme le fait de se faire couper la parole, pourraient modifier la perception des interactions humaines.
L’impact de ces relations virtuelles pourrait aller jusqu’à « réduire le désir d’interactions humaines » chez certains utilisateurs. Le rapport d’OpenAI anticipe que cette tendance pourrait conduire à une dépendance forte à la technologie, remplaçant progressivement les véritables relations sociales par des interactions avec des intelligences artificielles.
Le danger de dépendance à la technologie
L’un des principaux risques évoqués par OpenAI, qui a récemment annoncé le lancement de son moteur de recherche SearchGPT, est la « dépendance à la technologie ». La capacité de l’IA à se souvenir des détails des conversations et à accomplir diverses tâches pour les utilisateurs pourrait les inciter à s’appuyer excessivement sur ces outils, au détriment de leur propre autonomie.
Cette préoccupation est partagée par des experts comme Alon Yamin, directeur général de Copyleaks, qui estime que cette technologie, bien qu’elle puisse « rationaliser » le travail et la vie quotidienne, ne doit pas devenir un « substitut » aux relations humaines. La voix réaliste de ChatGPT, en particulier, pose des questions sur l’impact émotionnel et psychologique de ces interactions prolongées avec l’IA.
Les polémiques entourant la fonction vocale de ChatGPT
La fonction vocale de ChatGPT a été à l’origine de polémiques, notamment en raison de la similitude de certaines voix avec celles de personnalités publiques. En juin 2024 dernier, OpenAI a été contraint de présenter des excuses à Scarlett Johansson pour avoir utilisé une voix très proche de la sienne, alimentant ainsi le débat sur les risques de « copie des voix » par la technologie.
Bien que l’entreprise ait nié avoir utilisé la voix de l’actrice, le fait que Sam Altman, PDG d’OpenAI, ait promu la nouvelle fonctionnalité vocale en référence au film « Her », où Johansson incarne une IA, n’a fait qu’intensifier les discussions. Le film, sorti en 2013, raconte l’histoire d’un homme tombant amoureux de son IA, un scénario qui semble désormais moins éloigné de la réalité.