Lorsque Google vous dit de manger de la... colle

[Mouche001]

Salut!

Pour votre information  :

Émission «Les Décrypteurs» de Radio-Canada (25 mai 2024)

Le directeur général de Google Sundar Pichai jubilait mardi dernier. Du moins, c’est ce qu’il a maintes fois déclaré pendant son discours; il était assez difficile de détecter une véritable émotion sur son visage peu expressif.

Vêtu d’une chemise décontractée, de jeans et de baskets, le directeur général de Google a annoncé au monde entier que son entreprise intégrerait désormais des systèmes d’intelligence artificielle (IA) dans tous ses services.

Comme nous l'avons décortiqué dans le balado des Décrypteurs de la semaine dernière, cette présentation annonçait un changement de cap radical chez le géant américain. Google allait maintenant se définir comme une entreprise d’IA et chercher à étendre son monopole dans ce domaine.

L’annonce qui a le plus fait réagir a sans doute été l’arrivée de son produit d'AI Overviews (résumés générés par IA) dans son moteur de recherche. À l’avenir, Google allait montrer en premier lieu un court texte généré par IA qui résumerait l’information disponible sur le web pour répondre aux requêtes des utilisateurs.

« Je suis très heureux d’annoncer que nous allons lancer les résumés générés par IA pour tout le monde aux États-Unis cette semaine et que nous allons l'étendre à d’autres pays bientôt », a assuré Sundar Pichai.

Était-ce une promesse ou une menace?

En effet, si cet outil a bel et bien été lancé aux États-Unis, il est rapidement devenu la risée du web.

« C’est fini pour Google. »

« Google devrait retirer immédiatement les résumés générés par IA. C’est incroyablement dangereux. »

« Google est brisé. J'insiste : vraiment brisé. »

Voilà quelques réactions qui ont accompagné des captures d’écran de recherches effectuées sur Google au cours des derniers jours.

Ces captures d’écran montraient entre autres que Google suggérait que l’ancien président américain Barak Obama est musulman (c’est faux et cela a été démenti des centaines de fois depuis près de 20 ans maintenant), qu’un chien a déjà joué au hockey dans la LNH(pardon?) ou encore qu’il faut mettre de la colle non toxique dans sa pizza pour empêcher le fromage de glisser (une mauvaise idée, selon la journaliste de Business Insider Katie Notopoulos, qui a tenté l’expérience).

Le fait que les modèles de langage comme ChatGPT d'OpenAI ou Gemini de Google « hallucinent » est un problème bien connu. Ces systèmes inventent souvent de toutes pièces de l’information et la présentent comme si c’était factuel. Par exemple, j’ai inventé deux modèles de guitare complètement fictifs et j’ai demandé à ChatGPT-4o, la toute nouvelle mouture de ce robot conversationnel, de m’expliquer les différences entre eux. Bien que ces guitares n’existent tout simplement pas, ChatGPT m’a recraché un beau paragraphe qui explique en détail toutes les fonctions des deux guitares.

Hallucinant, en effet.

Toutefois, on ne parle probablement pas d’hallucinations dans le cas des résumés observés dans les résultats de recherche Google. Cette nouvelle fonction parcourt les sites web pertinents pour répondre à la requête et fait simplement les résumés à l’aide de l’IA. Le problème, c'est que ce système ne comprend pas tout à fait les contextes et évalue mal la fiabilité de l’information.

Ben Collins, un ancien journaliste de NBC et actuel propriétaire du site web satirique The Onion, a offert d'excellents exemples de ce bogue à l'œuvre. Il a demandé à Google combien de pierres il devrait manger chaque jour. Google lui a répondu que selon des experts, nous devrions manger une petite pierre par jour. Or, la source d’information était un article humoristique de The Onion, qu’aucune personne ne considérerait comme une source fiable. L’article est une blague. Une blague qui est passée à 30 mètres au-dessus de la tête de Google.

Ça promet!

Dans le contexte du web – et surtout des réseaux sociaux –, où le sarcasme, l’ironie, les canulars et les mèmes forment en quelque sorte la seule langue commune, on voit mal comment un robot dépourvu d’un sens de l’humour pourrait fonctionner. On pourrait imaginer quelqu’un qui demanderait à Google si les Décrypteurs pensent que l’IA du moteur de recherche fonctionne bien pour se faire répondre : « Oui, dans l’infolettre du 25 mai, le journaliste Jeff Yates a écrit que "ça promet!". »

Du côté de Google, la porte-parole Meghann Farnsworth a affirmé à The Verge que les captures d’écran étaient des « exemples isolés » et qu’il s’agissait de réponses offertes à des « requêtes généralement très inhabituelles, qui ne représentent pas l’expérience de la plupart des utilisateurs ».

Je vous laisse sur une anecdote tellement délicieuse qu’on n’aurait pas pu l’inventer.

Le journaliste indépendant Ed Zitron a publié jeudi un tweet contenant une capture d’écranet dans lequel il a demandé à Google s’il existe un pays en Afrique dont le nom commence par la lettre K. « Aucun des 54 pays africains n’a un nom qui commence par la lettre K », lui a tout bonnement répondu Google avant de mentionner que le Kenya a une population de 47,6 millions d’habitants.

Où Google a-t-il bien pu obtenir cette information? Dans le forum Hacker News, où un internaute se moquait de ChatGPT parce que ce robot conversationnel lui avait dit qu’aucun pays africain n’a un nom qui commence par la lettre K.

Je vous laisse calmement défaire ce nœud formé de différentes couches d’ironie en ce beau samedi matin. Surtout, ne demandez pas à Google de vous aider.