From Benalla to #summerbody
Si le robot conversationnel d’OpenAI s’appuie bien sur les travaux de ses partenaires médias, il renvoie souvent l’internaute vers des liens faux, non vérifiés ou des sources externes.
Au fil des mois, plusieurs médias occidentaux ont signé des accords avec OpenAI, le constructeur de ChatGPT. Dans la plupart des cas, ces partenariats permettent à l’entreprise d’utiliser tout ou partie des productions journalistiques pour entraîner son modèle génératif, en échange de la production de résumés des articles originaux, avec des liens permettant d’aller les lire dans leur intégralité.
Or, d’après des tests réalisés par Nieman Lab, la machine produit (« hallucine ») de fausses URLs pour au moins dix des publications partenaires, parmi lesquelles El País, The Associated Press, The Financial Times et The Atlantic. Next a reproduit l’expérience pour les deux médias couvrant les affaires françaises et européennes, Le Monde et Politico Europe, et relève une réelle tendance de la machine à produire de fausses URL qui, dans le cas du Monde, inclue de faux identifiants.
Avec ce résultat cocasse : un internaute qui chercherait à se renseigner sur l’affaire Benalla peut se retrouver renvoyé sur une chronique au sujet du « Summer Body ».