OpenAI supprime l’une des voix utilisées par ChatGPT. Les utilisateurs ont trouvé que cela ressemblait à Scarlett Johansson, la société annoncé Lundi, et Johansson elle-même a publié une déclaration disant qu’elle avait engagé un conseil juridique pour s’enquérir de la voix de Sky et obtenir des détails exacts sur la façon dont elle a été développée. Sky est maintenant en pause après qu’OpenAI l’ait utilisé lors de la démonstration son nouveau modèle GPT-4o la semaine dernière.
« Nous pensons que les voix de l’IA ne doivent pas délibérément imiter la voix distinctive d’une célébrité : la voix de Sky n’est pas une imitation de Scarlett Johansson mais appartient à une actrice professionnelle différente utilisant sa propre voix naturelle », a écrit la société dans un communiqué. article de weblog. « Pour protéger leur vie privée, nous ne pouvons pas partager les noms de nos skills vocaux. »
Une vidéo de la démo a fait le tour des réseaux sociaux la semaine dernière, les utilisateurs trouvant la voix similaire à celle de Johansson. Certains se sont moqués de la voix parce qu’elle était trop coquettetandis que d’autres l’ont comparé à un fantasme masculin.
La voix séduisante a établi des comparaisons avec le movie « Her » de 2013, dans lequel Johansson interprète un assistant virtuel sensuel. Le personnage principal du movie, interprété par Joaquin Phoenix, finit par tomber amoureux de l’assistant virtuel.
Bien que la société n’ait pas comparé la voix de Sky à celle de Johansson, Sam Altman, PDG d’OpenAI, tweeté le mot « Elle » suite à l’événement de l’entreprise.
TechCrunch a confirmé que Johansson avait publié une déclaration plus tard lundi disant qu’OpenAI l’avait approchée en septembre au sujet de la fourniture de la voix, ce qui a été rapporté pour la première fois par le correspondant de NPR Bobby Allyn. Dans le communiqué, elle a déclaré qu’elle avait refusé « après mûre réflexion et pour des raisons personnelles » et qu’elle avait été « choquée » lorsqu’elle a entendu la démo publiée.
Le communiqué indique également qu’elle a été « forcée d’embaucher un conseiller juridique » et que la société « a accepté à contrecœur » de changer la voix de Sky.
La démo d’OpenAI la semaine dernière visait à présenter les capacités conversationnelles améliorées du chatbot, mais est devenue virale après que la voix sensuelle ait ri de presque tout ce qu’un employé d’OpenAI disait. À un second donné, le chatbot a dit à l’employé : « Wow, c’est toute une tenue que vous portez. » À un autre second, le chatbot a dit « Arrête, tu me fais rougir » après avoir reçu un praise.
Dans son article de weblog, OpenAI déclare vouloir que les voix de ses chatbots semblent « accessibles » et « inspirent la confiance ». Il souhaite également qu’ils aient une « voix chaleureuse, engageante, inspirant confiance et charismatique ».
À l’avenir, OpenAI annonce son intention « d’introduire des voix supplémentaires dans ChatGPT pour mieux répondre aux divers intérêts et préférences des utilisateurs ».
La déclaration de Johansson dans son intégralité :
« En septembre dernier, j’ai reçu une offre de Sam Altman, qui souhaitait m’embaucher pour exprimer le système ChatGPT 4.0 actuel. Il m’a dit qu’il estimait qu’en exprimant le système, je pourrais combler le fossé entre les entreprises technologiques et les créatifs et aider les consommateurs à se sentir à l’aise avec le changement sismique concernant les humains et l’IA. Il a dit qu’il pensait que ma voix réconforterait les gens.
Après mûre réflexion et pour des raisons personnelles, j’ai décliné l’offre. Neuf mois plus tard, mes amis, ma famille et le grand public ont tous remarqué à quel level le nouveau système nommé « Sky » me ressemblait.
Quand j’ai entendu la démo publiée, j’ai été choqué, en colère et incrédule que M. Altman poursuive une voix qui ressemblait si étrangement à la mienne que mes amis les plus proches et les médias ne pouvaient pas faire la différence. M. Altman a même insinué que la similitude était intentionnelle, en tweetant un seul mot « elle » – une référence au movie dans lequel j’exprimais un système de chat, Samantha, qui noue une relation intime avec un humain.
Deux jours avant la sortie de la démo ChatGPT 4.0, M. Altman a contacté mon agent pour me demander de reconsidérer ma décision. Avant que nous puissions nous connecter, le système était là.
À la suite de leurs actions, j’ai été obligé d’engager un conseiller juridique, qui a écrit deux lettres à M. Altman et à OpenAI, expliquant ce qu’ils avaient fait et leur demandant de détailler le processus actual par lequel ils ont créé la voix « Sky ». Par conséquent, OpenAI a accepté à contrecœur de supprimer la voix « Sky ».
À une époque où nous sommes tous aux prises avec les deepfakes et la safety de notre propre picture, de notre propre travail, de notre propre identité, je pense que ce sont des questions qui méritent une clarté absolue. J’attends avec impatience une résolution sous forme de transparence et l’adoption d’une législation appropriée pour contribuer à garantir la safety des droits individuels.
OpenAI a partagé la déclaration suivante d’Altman : « La voix de Sky n’est pas celle de Scarlett Johansson, et elle n’a jamais été destinée à ressembler à la sienne. Nous avons choisi le doubleur derrière la voix de Sky avant toute démarche auprès de Mme Johansson. Par respect pour Mme Johansson, nous avons cessé d’utiliser la voix de Sky dans nos produits. Nous sommes désolés auprès de Mme Johansson de ne pas avoir mieux communiqué.
Mise à jour : cette histoire a été initialement publiée lundi à 8 heures du matin (heure du Pacifique) et a été mise à jour pour inclure les déclarations de Johansson et d’Altman.
