Ceci est votre rappel périodique que les chatbots alimentés par l’IA inventent encore des choses et mentent avec toute la confiance d’un système GPS vous disant que le chemin le plus courtroom pour rentrer chez vous est de traverser le lac.
Mon rappel vient grâce à Laboratoire Niémanlequel pour voir si ChatGPT fournirait des liens corrects vers des articles de publications d’actualité pour lesquelles il verse des thousands and thousands de {dollars}. Il s’avère que ce n’est pas le cas de ChatGPT. Au lieu de cela, il constitue en toute confiance des URL entières, un phénomène que l’industrie de l’IA qualifie d’« hallucinant », un terme qui semble plus approprié pour une personne réelle défoncée par ses propres conneries.
Laboratoire NiémanAndrew Deck, d’Andrew Deck, a demandé au service de fournir des liens vers des articles exclusifs et de grande envergure publiés par 10 éditeurs avec lesquels OpenAI a conclu des accords valant des thousands and thousands de {dollars}. Ceux-ci comprenaient le Presse associée, Le journal de Wall Avenuele Le Monetary Occasions, Les temps (ROYAUME-UNI), Le Monde, Le Pays, L’Atlantique, Le bord, Voixet Politique. En réponse, ChatGPT a renvoyé des URL inventées qui ont conduit à des pages d’erreur 404 parce qu’elles n’existaient tout simplement pas. En d’autres termes, le système fonctionnait exactement comme prévu : en prédisant la model la plus possible de l’URL d’un article au lieu de citer réellement la bonne. Laboratoire Niéman a fait une expérience similaire avec une seule publication — Interne du milieu des affaires – plus tôt ce mois-ci et .
Un porte-parole d’OpenAI a déclaré Laboratoire Nieman que l’entreprise était encore en practice de créer « une expérience qui allie les capacités conversationnelles avec son dernier contenu d’actualité, garantissant une attribution appropriée et un lien vers le matériel supply – une expérience améliorée encore en développement et non encore disponible dans ChatGPT ». Mais ils ont refusé d’expliquer les fausses URL.
Nous ne savons pas quand cette nouvelle expérience sera disponible ni à quel level elle sera fiable. Malgré cela, les éditeurs de presse continuent d’alimenter leurs années de journalisme en échange d’argent sonnant et trébuchant parce que l’industrie du journalisme a à comprendre remark gagner de l’argent sans aux entreprises technologiques. Pendant ce temps, les entreprises d’IA sont sur le contenu publié par quiconque n’a pas signé ces accords faustiens et qui l’utilise de toute façon pour former ses modèles. Mustafa Suleiman, responsable de l’IA chez Microsoft, tout ce qui est publié sur Web est un « logiciel gratuit » qui constitue un jeu équitable pour la formation de modèles d’IA. Microsoft était évalué à 3 360 milliards de {dollars} au second où j’écris ces lignes.
Il y a une leçon ici : si ChatGPT invente des URL, il invente également des faits. C’est ainsi que fonctionne l’IA générative : à la base, la technologie est une model plus sophistiquée de la saisie semi-automatique, qui consiste simplement à deviner le prochain mot believable dans une séquence. Il ne « comprend » pas ce que vous dites, même s’il agit comme s’il le faisait. Récemment, j’ai essayé de demander à nos principaux chatbots de m’aider à résoudre le problème. New York Occasions Spelling Bee et je les ai regardés .
Si l’IA générative ne peut même pas résoudre le Spelling Bee, vous ne devriez pas l’utiliser pour obtenir vos informations.
