Considering Machines Lab Lab veut rendre les modèles AI plus cohérents

Il y a eu un grand intérêt pour ce que le laboratoire des machines de pensée de Mira Murati construit avec son 2 milliards de {dollars} de financement de semences et l’équipe des étoiles d’anciens chercheurs d’Openai qui ont rejoint le laboratoire. Dans un article de weblog Publié mercredi, le laboratoire de recherche de Murati a donné au monde son premier aperçu de l’un de ses projets: créer des modèles d’IA avec des réponses reproductibles.

Le billet de weblog de recherche, intitulé «Vaincre le non-déterminisme dans l’inférence LLM», essaie de déballer la trigger profonde de ce qui introduit le caractère aléatoire dans les réponses du modèle d’IA. Par exemple, posez à chatte la même query à quelques reprises et vous aurez probablement un giant éventail de réponses. Cela a été largement accepté dans la communauté de l’IA comme un fait – les modèles d’IA d’aujourd’hui sont considérés comme des systèmes non déterministes – mais le laboratoire des machines de réflexion considère cela comme un problème résoluble.

Le publish, rédigé par le chercheur de laboratoire des machines de pensée Horace He, fait valoir que la trigger profonde de l’aléatoire des modèles d’IA est la façon dont les nains GPU – les petits programmes qui fonctionnent à l’intérieur des puces informatiques de Nvidia – sont cousues ensemble dans le traitement d’inférence (tout ce qui se passe après avoir appuyé sur Entrée dans Chatgpt). Il suggère qu’en contrôlant soigneusement cette couche d’orchestration, il est attainable de rendre les modèles AI plus déterministes.

Au-delà de la création de réponses plus fiables pour les entreprises et les scientifiques, il be aware que l’obtention de modèles d’IA générer des réponses reproductibles pourrait également améliorer la formation d’apprentissage par renforcement (RL). RL est le processus de récompense des modèles d’IA pour les réponses correctes, mais si les réponses sont toutes légèrement différentes, les données deviennent un peu bruyantes. Créer des réponses plus cohérentes sur les modèles d’IA pourrait rendre l’ensemble du processus RL «plus lisse», selon He. Considering Machines Lab a déclaré aux investisseurs qu’il prévoyait d’utiliser RL pour Personnaliser les modèles d’IA pour les entreprisesLes informations précédemment rapportées.

Murati, l’ancien directeur de la technologie d’Openai, a déclaré en juillet que le premier produit de Considering Machines Lab sera dévoilé dans les prochains moiset qu’il sera «utile pour les chercheurs et les startups qui développent des modèles personnalisés». On ne sait toujours pas quel est ce produit, ou s’il utilisera des methods de cette recherche pour générer des réponses plus reproductibles.

Considering Machines Lab a également déclaré qu’il prévoyait de publier fréquemment des articles de weblogCode et autres informations sur ses recherches dans le however de «bénéficier au public, mais aussi d’améliorer notre propre tradition de recherche». Cet article, le premier de la nouvelle série de blogs de l’entreprise intitulé «Connexionnisme», semble faire partie de cet effort. Openai s’est également engagé à ouvrir la recherche lors de sa création, mais la société est devenue plus fermée à mesure qu’elle est devenue plus grande. Nous verrons si le laboratoire de recherche de Murati reste fidèle à cette affirmation.

Le weblog de recherche offre un aperçu uncommon dans l’une des startups d’IA les plus secrètes de la Silicon Valley. Bien qu’il ne révèle pas exactement où se déroule la technologie, cela indique que Considering Machines Lab s’attaque à certaines des plus grandes questions de la frontière de la recherche sur l’IA. Le véritable take a look at est de savoir si le laboratoire des machines de réflexion peut résoudre ces problèmes et faire des produits autour de ses recherches pour justifier sa valorisation de 12 milliards de {dollars}.