Les déboires d’AI Overviews de Google : un lancement chaotique

Le lancement catastrophique d’AI Overviews, le nouveau chatbot de Google, a secoué le monde de la tech et réveillé les craintes sur la fiabilité de l’IA. Retour sur les nombreux dérapages de cette intelligence artificielle et la réaction en urgence de la firme de Mountain View pour éteindre l’incendie et tenter de rétablir la confiance des utilisateurs.

Un démarrage en fanfare vite transformé en cauchemar

Lancé en grande pompe le 14 mai 2024 aux États-Unis, AI Overviews promettait de révolutionner la recherche en ligne en offrant des synthèses pertinentes en haut des pages de résultats. Mais l’enthousiasme initial a vite laissé place à la consternation face aux nombreuses fake news et théories complotistes relayées par le robot conversationnel.

Parmi les plus choquantes, on peut citer l’affirmation qu’Obama serait « considéré par certains comme le premier président musulman », une rumeur constamment démentie. Le chatbot a aussi soutenu mordicus que la CIA utiliserait des « surligneurs noirs », information tirée d’un article satirique mais présentée comme un fait.

Des suggestions aberrantes qui ont fait le buzz

Mais le pire restait à venir avec des réponses surréalistes qui ont affolé la toile. À un internaute lui demandant comment faire tenir le fromage sur sa pizza, AI Overviews a ainsi suggéré d’utiliser… de la colle non toxique ! Le chatbot a aussi conseillé de manger des pierres ou carrément de se jeter d’un pont à une personne exprimant des pensées suicidaires.

Ces exemples démontrent l’incapacité d’AI Overviews à faire la part des choses entre contenus sérieux et second degré, la plupart de ces énormités étant tirées de sources satiriques ou humoristiques.

Numerama

Google contraint à revoir sa copie en urgence

Face au bad buzz généré par ces bourdes à répétition, Google a dû réagir dans l’urgence. Dès le 24 mai, des « améliorations » étaient mises en place pour supprimer les réponses problématiques et éviter de nouveaux dérapages.

Mais le mal était fait. La confiance des utilisateurs dans les capacités de Google à maîtriser son IA a été sérieusement ébranlée. Ces incidents ont remis sur le devant de la scène les inquiétudes sur les dérives potentielles des chatbots et autres agents conversationnels dopés à l’IA.

Une remise en question nécessaire des géants de la tech

Au-delà de Google, c’est toute l’industrie des nouvelles technologies qui doit s’interroger sur sa responsabilité dans le déploiement à grande échelle d’intelligences artificielles pas encore totalement maîtrisées. La course à l’innovation ne doit pas se faire au détriment de l’éthique et de la lutte contre la désinformation.

Les géants du numérique doivent impérativement renforcer leurs procédures de contrôle et de validation avant de lâcher dans la nature des IA aussi puissantes qu’incontrôlables. Sous peine de voir la confiance du public s’éroder dangereusement et de nouveaux appels à réguler sévèrement le secteur émerger.

En attendant un hypothétique âge de raison de l’IA, la prudence reste plus que jamais de mise face à ces outils certes prometteurs mais dont les limites apparaissent au grand jour. La fiabilité est la clé de l’acceptation de ces nouvelles technologies.

Espérons que le reboot en cours d’AI Overviews permettra à Google de tirer les leçons de cet échec cuisant. L’avenir de l’IA conversationnelle en dépend. Mais une chose est sûre : la route vers des chatbots éthiques et dignes de confiance sera encore longue et semée d’embûches. La responsabilité des acteurs du secteur est engagée.