Fable, une populaire utility de médias sociaux qui se décrit comme un paradis pour les « rats de bibliothèque et les bingewatchers », a créé une fonction de résumé de fin d’année alimentée par l’IA récapitulant les livres que les utilisateurs ont lus en 2024. Elle était censée être ludique et amusante, mais certains récapitulatifs ont pris une tournure différente. ton étrangement combatif. Le résumé de l’écrivain Danny Groves, par exemple, lui demande s’il est « déjà d’humeur à entendre le level de vue d’un homme blanc cis et hétérosexuel » après l’avoir qualifié de « passionné de la diversité ».
Le résumé de l’influenceuse littéraire Tiana Trammell, quant à lui, se terminait par le conseil suivant : « N’oubliez pas de faire floor pour un auteur blanc occasionnel, d’accord ? »
Trammell a été sidérée et elle a vite réalisé qu’elle n’était pas seule après avoir partagé son expérience avec les résumés de Fable sur Threads. « J’ai reçu plusieurs messages », dit-elle, de personnes dont les résumés contenaient des commentaires inappropriés sur « le handicap et l’orientation sexuelle ».
Depuis les débuts de Spotify enveloppéles fonctionnalités de récapitulation annuelle sont devenues omniprésentes sur Web, fournissant aux utilisateurs un aperçu du nombre de livres et d’articles de presse qu’ils ont lus, des chansons qu’ils ont écoutées et des entraînements qu’ils ont effectués. Certaines entreprises utilisent désormais l’IA pour produire ou augmenter entièrement la présentation de ces indicateurs. Spotify, par exemple, suggest désormais un Podcast généré par l’IA où des robots analysent votre historique d’écoute et font des suppositions sur votre vie en fonction de vos goûts. Fable a suivi la tendance en utilisant l’API d’OpenAI pour générer des résumés des 12 derniers mois des habitudes de lecture de ses utilisateurs, mais il ne s’attendait pas à ce que le modèle d’IA crache des commentaires qui prennent l’attract d’un professional anti-réveillé. .
Fable s’est ensuite excusé sur plusieurs réseaux sociaux, notamment Threads et Instagram, où il a posté une vidéo d’un exécutif délivrant le mea culpa. « Nous sommes profondément désolés pour le mal causé par certains de nos résumés de lecture cette semaine », a écrit la société dans la légende. « Nous ferons mieux. »
Kimberly Marsh Allee, responsable de la communauté de Fable, a déclaré à WIRED avant la publication que la société travaillait sur une série de changements pour améliorer ses résumés d’IA, y compris une possibility de désinscription pour les personnes qui n’en veulent pas et des divulgations plus claires indiquant qu’ils ‘ re généré par l’IA. « Pour le second, nous avons supprimé la partie du modèle qui rôtit le lecteur de manière ludique, et à la place le modèle résume simplement les goûts de l’utilisateur en matière de livres », a-t-elle déclaré.
Après la publication, Marsh Allee a déclaré que Fable avait plutôt pris la décision de supprimer immédiatement les résumés de lecture 2024 générés par l’IA, ainsi que deux autres fonctionnalités utilisant l’IA.
Pour certains utilisateurs, ajuster l’IA ne semble pas être une réponse adéquate. L’écrivain fantastique et romantique AR Kaufer a été consterné lorsqu’elle a vu des captures d’écran de certains résumés sur les réseaux sociaux. «Ils doivent dire qu’ils suppriment complètement l’IA. Et ils doivent publier une déclaration, non seulement sur l’IA, mais aussi en présentant des excuses aux personnes concernées », déclare Kaufer. « Ces ‘excuses’ sur Threads ne semblent pas sincères, mentionnant que l’utility est ‘ludique’ comme si elle excuse d’une manière ou d’une autre les citations racistes/sexistes/capacitaires. » En réponse à l’incident, Kaufer a décidé de supprimer son compte Fable.
