« les IA ne sont pas conçues pour distinguer le vrai du faux »

paultensor
Lecture en 8 min
À propos des liens affiliés : Sur ce site, certains liens sont affiliés. Cela signifie que si vous cliquez et effectuez un achat, je peux recevoir une petite commission, sans frais supplémentaires pour vous. Je m’engage à recommander uniquement des produits et services que j’ai testés ou qui reflètent des standards de qualité élevés. Ces contributions me permettent de maintenir ce site et de continuer à partager du contenu qui vous est utile. Merci pour votre confiance et votre soutien !

L’intelligence artificielleintelligence artificielle fascine autant qu’elle inquiète. Avec son développement fulgurant, beaucoup se demandent si elle pourrait modifier en profondeur notre façon de penser, d’apprendre ou même de nous concentrer.

À l’occasion de la Semaine du cerveau, nous avons échangé avec Albert Moukheiber, docteur en neurosciences et psychologue clinicien, pour comprendre si l’IA a un impact réel sur notre cerveau et, si oui, à quel point elle influence nos processus cognitifs.

Albert Moukheiber : Les IA génératives sont encore récentes, donc la plupart des études actuelles sont exploratoires. Pour le moment, il est difficile de déterminer précisément comment elles influencent notre cerveau.

Une chose est certaine : elles modifient notre fonctionnement, mais cela n’est pas particulièrement surprenant. En réalité, tout ce que nous faisons laisse une empreinte dans notre cerveau. Par exemple, jouer du piano ou vivre en ville modifie notre structure cérébrale. Actuellement, il est encore trop tôt pour comprendre avec précision, d’un point de vue biologique, ce qui se passe réellement.

D’un point de vue psychologique par contre, ce que l’on est en train d’observer ressemble à l’adoption de n’importe quel nouvel outil. Les gens sont encore en phase de familiarisation : certains utilisent l’IA efficacement, d’autres font des erreurs, et certains la trouvent particulièrement utile. C’est une technologie qui reste encore récente et nous manquons encore de recul pour en tirer des conclusions définitives.

Chaque semaine, il y a de nouvelles études qui sont publiées : certaines affirment qu’elle pourrait nuire à notre capacité de raisonnement critique, là où d’autres estiment qu’elle est bénéfique. Pour l’instant, c’est assez instable et difficile à évaluer. Oui, l’IA modifie nos comportements, mais comment précisément et avec quelles conséquences ? Il n’y a pas encore de preuves suffisantes pour le dire avec certitude.

Futura : Parmi ces études, une enquête a récemment suggéré que l’usage des IA pouvait affaiblir notre pensée critique, quelle conclusion peut-on en tirer ?

Albert Moukheiber : Cette étude de MicrosoftMicrosoft, par exemple, n’est pas vraiment de bonne qualité. Elle présente de nombreux biais méthodologiques et d’échantillonnageéchantillonnage. En résumé, ce n’est pas une étude très fiable à ce stade, elle reste encore dans une phase exploratoire, comme beaucoup d’autres.

Futura : Au-delà de cette étude spécifique, une utilisation excessive de l’IA pourrait-elle vraiment nuire à notre pensée critique ?

Albert Moukheiber : Oui, cela pourrait effectivement affecter l’esprit critique. Mais on ne sait pas encore si cet impact sera positif ou négatif.

Cela dépend de nombreux facteurs : de l’IA elle-même, de l’algorithme utilisé, et de l’agentivité que l’utilisateur a sur son outil. Par exemple, ai-je la possibilité d’optimiser l’IA et de lui fournir les sources sur lesquelles elle va s’entraîner ? Il y a tellement de variables à prendre en compte. En fait, si vous me demandiez si regarder la télévision ou lire des livres influence l’esprit critique, la réponse serait aussi oui : tout dépend du contenu et de l’interaction que l’on a avec.

On peut critiquer l’IA d’un point de vue politique, notamment en raison du fait que quelques grandes entreprises contrôlent presque toute la technologie derrière ces intelligences artificielles. Mais, pour le moment, il ne faut pas diaboliser l’IA du point de vue des neurosciences.

Le danger de l’intelligence artificielle selon Albert Moukheiber.

Futura : Y a-t-il un risque que l’utilisation des IA conversationnelles diminue notre capacité à nous concentrer sur des tâches longues ?

Albert Moukheiber : Non, pas nécessairement. Notre cerveau est assez contextuel. On peut être habitué à des réponses rapides dans certains domaines, mais rester très patient dans d’autres. Par exemple, sur YouTubeYouTube ou InstagramInstagram, une vidéo de plus d’une minute est souvent rapidement ignorée, mais à la maison, on peut regarder deux saisonssaisons de NetflixNetflix sans interruption sans problème. Un effet n’entraîne pas toujours un autre. Obtenir une réponse rapide ne signifie pas forcément perdre toute patience pour d’autres activités.

C’est un peu comme dire que, puisque tout le monde a une encyclopédie chez soi et peut trouver la définition d’un mot en un instant, on deviendrait automatiquement plus impatients. Ça semble absurde, non ? Pourtant, c’est exactement le même type de transformation qu’avec l’apparition des dictionnaires : autrefois, il fallait se rendre à la bibliothèque du village pour comprendre ce qu’était la photosynthèsephotosynthèse par exemple, puis les dictionnaires ont simplifié l’accès à cette information.

Cette peur du changement est en réalité très ancienne. Platon lui-même redoutait l’écriture, craignant qu’elle ne nous fasse perdre notre capacité de mémorisation. Plus récemment, on entend souvent que l’usage de GoogleGoogle Maps nous empêche de retenir les itinéraires, ce qui est vrai… Mais a-t-on réellement besoin de les connaître par cœur ?

Futura : À l’inverse, l’IA générative pourrait-elle faciliter certains processus cognitifs et certaines tâches ?

Albert Moukheiber : L’IA générative peut être très utile pour des tâches comme la traduction ou la rédaction de lettres, mais elle devient problématique lorsqu’elle est utilisée comme un moteur de recherche, parce qu’elle peut « halluciner » et inventer des informations erronées.

Et nous ne sommes pas habitués à interagir avec des outils qui peuvent nous induire en erreur, ce qui nous pousse parfois à leur accorder une confiance injustifiée. Cela dit, cette relation évoluera avec le temps, car l’IA générative est encore très récente dans notre quotidien.

Les IA ne sont pas conçues pour distinguer le vrai du faux, mais simplement pour générer des réponses. Et lorsqu’une information manque, elles ne le reconnaissent pas forcément. Il ne faut donc pas les utiliser comme un moteur de recherche ni prendre leurs réponses pour argentargent comptant.

Partager cet article