Peu après avoir annoncé mi-mai son nouveau moteur de recherche basé sur l’intelligence artificielle, AI Overviews, Google a été contraint vendredi 24 mai d’annoncer des modifications à ce nouveau service.
En mai, plusieurs géants de la tech ont présenté leurs avancées et nouveautés en matière d’intelligence artificielle (IA) générative. Parmi eux, Google, dont le moteur de recherche ne propose plus directement des liens, mais d’abord une réponse de son robot aux questions posées par les internautes aux États-Unis. Limité pour l’instant au territoire américain, AI Overviews a donné des réponses problématiques, comme suggérer de manger des pierres ou d’utiliser de la colle « non toxique » pour faire adhérer du fromage à une pizza. Certaines réponses provenaient de blagues sur des forums en ligne, voire du site satirique The Onion.
Le nouveau patron de The Onion a mis en évidence le lien entre certaines réponses et des contenus humoristiques ou satiriques de sa plateforme. Par exemple, AI Overviews a affirmé que la CIA utilisait des surligneurs noirs pour rendre des documents illisibles, une affirmation tirée d’un article satirique de The Onion.
Plus inquiétant, AI Overviews a relayé des théories du complot, comme l’affirmation selon laquelle l’ancien président américain Barack Obama était « considéré par certains comme étant le premier président musulman ». Cette fausse information est couramment véhiculée par des adeptes de théories du complot.
Google a réagi vendredi 24 mai, assurant que cette réponse « violait nos règlements et nous l’avons supprimée », a expliqué une porte-parole. Le groupe a indiqué qu’il « agissait rapidement lorsque cela était justifié par nos règlements en matière de contenus » et utilisait ces exemples pour améliorer son système, dont certaines modifications ont déjà été mises en place.
Cet épisode alimente les critiques contre les géants de la tech, accusés de ne pas maîtriser les erreurs et préjugés relayés par leurs robots. De plus, le nouveau moteur de recherche de Google inquiète les sites d’informations, car les réponses de l’IA relèguent au second plan les liens vers des articles écrits par des journalistes, réduisant ainsi le nombre de visites sur les sites internet des médias et pouvant compromettre leurs revenus.
