Le message d’aujourd’hui est extrait de Tremblant, ne tremblez pas: remark la créativité peut embrasser l’IA par Nadim Sadekfondateur et PDG de Shimmr aiune plate-forme publicitaire alimentée par l’IA.
J’ai rencontré Sadek en personne au NYU’s Publishing Institute en janvier, et je l’ai trouvé un fondateur chaleureux, conscient de soi et très humain d’une startup AI. Son dernier livre essaie d’équilibrer une imaginative and prescient optimiste de la façon dont les gens créatifs peuvent utiliser l’IA, avec une évaluation lucide de ses risques. Pour mon lectorat, j’ai choisi d’extraire une partie sur les risques.
En 2023, l’avocat de Manhattan, Steven A. Schwartz, a déposé un file du tribunal fédéral citant six décisions judiciaires, chacune apparemment parfaite pour son cas. Mais chacun d’eux était fictif, halluciné par Chatgpt, avec des noms plausibles, des dates et un raisonnement juridique. Lorsque la tromperie a été découverte, le tribunal a sanctionné Schwartz et lui a infligé une amende de 5 000 $. L’incident est devenu une histoire de précursation historique sur les risks de s’appuyer sur une IA générative sans vérification, en particulier dans les domaines où l’intégrité factuelle est d’une significance capitale.
Le premier et le plus immédiat de risks auxquels nous sommes tous confrontés concernant l’IA sont les pratiques. Ce sont les Gremlins qui vivent à l’intérieur de la génération actuelle de modèles d’IA, les bogues du système qui peuvent avoir de graves conséquences du monde réel.
Le plus célèbre d’entre eux est ce que l’on appelle hallucination. C’est ce que nous identifions lorsqu’une IA invente en toute confiance et artificiellement les faits. Il crache des bêtises. Parce que la fonction principale d’un LLM est de générer du texte statistiquement possible, et non de vérifier la vérité, il n’a pas de idea interne de ce qui est réel et de ce qui ne l’est pas. S’il n’a pas les informations correctes dans ses données de formation, elle ne dira pas «Je ne sais pas». Au lieu de cela, cela générera souvent une réponse à consonance believable qui est entièrement fictive. Cela est passé d’une bizarrerie humoristique à un problème grave.
Quand j’ai écrit un livre précédent, je me souviens avoir demandé à l’IA de faire des recherches – pour trouver d’autres auteurs avec une thèse similaire à la mienne. Crestfallen, j’ai regardé une longue liste de titres qui semblaient occuper à peu près le même espace que j’étais. Ensuite, j’ai regardé leurs dates de publication – tout dans le futur! Pour tout créateur utilisant l’IA pour la recherche – un journaliste, un historien, un auteur non-fiction – le hazard est clair. L’IA est un brillant assistant de recherche, mais un horrible vérificateur de faits. Chaque data qu’il fournit doit être traitée avec suspicion et vérifiée indépendamment.
Le deuxième gremlin est une amplification biaisée. Dans mon entreprise SHIMMR IA, où nous produisons une publicité autonome en utilisant l’IA, je me souviens avoir reproché notre chef de produit pourquoi nos formulaires vidéo naissants étaient toujours beaucoup plus convaincants lorsque le protagoniste était une femme. Elle m’a réprimandé. «Où pensez-vous que les générateurs de vidéos ont appris à produire des interprétations crédibles de déménagement des femmes?» Eh bien, la réponse est de parcourir Web et de capturer toutes les vidéos qu’il peut trouver. La pornographie représente une grande partie de cela. Et ce sont principalement des femmes qui peuplent la pornographie.
L’IA a appris à rendre les femmes dans des vidéos beaucoup plus de manière convaincante que les hommes en grande partie parce que c’est ce qu’il a trouvé pour s’entraîner. L’IA reflète la totalité de ses données de formation. Le problème est que notre monde numérique n’est pas une utopie impartiale; C’est le reflet de nos sociétés imparfaites et inégales. Une IA formée sur Web apprendra inévitablement et reproduira les biais qu’il trouve là-bas. Si les données historiques montrent que la plupart des PDG sont des hommes, un générateur d’photos invité avec «une picture d’un PDG» produira massivement des photos d’hommes. Si les textes en ligne associent plus fréquemment certaines ethnies au crime, l’IA apprendra cette corrélation toxique.
Le hazard n’est pas seulement que l’IA reflète nos préjugés, mais qu’il les amplifie, les blanchissant par la voix apparemment goal d’une machine et les présentant comme un fait neutre. Cela peut renforcer les stéréotypes, empoisonner le discours public et causer du mal. C’est l’une des raisons pour lesquelles je plaide pour tout ce que nous avons créé et produit – officié et rémunéré – pour être inclus dans la formation de l’IA. Nous avons un rôle actif à jouer dans la manufacturing d’IA éthique.
Le prochain ensemble de risks est plus subtil, mais peut-être plus corrosif à lengthy terme. Ils concernent ce qui pourrait nous arriver, les créateurs humains, alors que nous devenons de plus en plus dépendants de notre nouveau partenaire sophistiqué.
Une amie m’a raconté qu’elle regardait son fils, 20 ans et brillant comme un bouton, travaillant sur une mission universitaire. Il avait tapé une invite dans Chatgpt: « Écrivez un court docket essai sur la façon dont les RH peuvent échouer à une société. » L’IA a livré cinq paragraphes parfaitement structurés. Il a modifié une phrase ici, a ajouté une date là et l’a soumise. Temps écoulé: douze minutes. Compréhension acquise: zéro.
Beaucoup d’entre nous craignent le manquement à l’apprentissage engagé qui est un risque évident à l’ère de l’EACHIDE-AI. Chaque outil qui facilite la tâche comporte le risque que nous oublions remark faire la tâche nous-mêmes. Nous utilisons les calculatrices et notre capacité à faire des fonds d’arithmétiques mentaux. Nous utilisons le GPS et notre sens inné de la path. La peur est qu’une génération de créateurs qui grandissent avec l’IA en tant que compagnon fixed ne développera pas les compétences fondamentales de leur métier. Un écrivain qui a toujours utilisé une IA pour structurer ses arguments apprendra-t-il à construire un récit à partir de zéro? Un musicien qui a toujours utilisé une IA pour générer des progressions d’accords apprendra-t-elle les principes fondamentaux de la théorie musicale?
Ce n’est pas un argument luddite contre l’utilisation de nouveaux outils mais une prudence quant au potentiel de nos capacités intuitives à l’atrophie. La créativité est une danse entre notre étincelle intuitive et associative et notre travail analytique et structurant. Si nous externalisons toute la structuration, l’édition, le raffinage de l’IA, qu’advient-il de nos propres capacités analytiques? Plus essential encore, qu’arrive-t-il à l’interplay cruciale entre les deux? Le processus de lutte avec la construction, de frapper une deadlock et de repenser votre argument, est souvent ce qui drive les idées intuitives les plus intéressantes à la floor. En enlevant la friction, nous risquons de retirer le feu.
Cela conduit à une peur connexe: l’homogénéisation de la tradition. Que se passe-t-il lorsque des tens of millions de créateurs, des étudiants écrivant des essais aux spécialistes du advertising créant des campagnes publicitaires aux artistes générant des photos, commencent tous à utiliser la même poignée de modèles d’IA? Il y a un réel hazard que la sortie start à converger sur une moyenne fade, générique et infléchie AI. Nous pouvons voir l’émergence d’une nouvelle monoculture, où l’artwork, l’écriture et la musique partagent tous la même sensation statistiquement à portée de most important et de lisse algorithmique. La voix distinctive, originale, vraiment originale – les choses mêmes que nous apprécions le plus dans l’artwork – pourrait être noyée dans une mer de contenu compétent mais sans âme.
Un filet neuronal aurait-il produit Être John Malkovichun movie sur un portail dans la conscience d’un acteur caché derrière un classeur de bureau? Ou EffacerLes débuts surréalistes de David Lynch sur la parentalité, l’effroi et un bébé mutant suintant? Presque certainement pas. Ces œuvres sont bizarres, déchiquetées et humaines avec défi. Ils sont nés des obsessions, des névroses et de la imaginative and prescient qu’aucun modèle de probabilité ne devrait prioriser.
Ma conviction est que l’antidote de cette Sols AI (comme certains l’ont appelé) est que nous sommes sans cesse excentriques, chaque être humain communiquant et manifestant dans des modes uniques. Les AIS répondent aux entrées – les formulements – et tant que nous permettons chacun à notre côté intuitif de réarranger, les interactions produites en collaboration avec l’IA entraîneront toujours des sorties idiosyncratiques et uniques. Nous devons continuer à être nous.
Be aware de Jane: Si vous avez apprécié cet article, consultez le nouveau livre de Nadim Sadek Tremblant, ne tremblez pas: remark la créativité peut embrasser l’IA.
Nadim Sadek est le fondateur et PDG de Shimmr aice qui crée de la publicité pour des livres en arrière pour maximiser leur visibilité à lengthy terme et leur potentiel de vente. Il est l’auteur de Shimmer, Do not Shake: How Publishing peut embrasser l’IA et Tremblant, ne tremblez pas: remark la créativité peut embrasser l’IA. Entrepreneur en série, Nadim était également fondateur et PDG d’Inish Turk Beg, une entreprise de whisky, de nourriture et de musique qu’il a construite sur une île qu’il a acquise au massive de la côte ouest de l’Irlande. À moitié irlandais, à moitié égyptien et élevé en Afrique, en Asie et en Europe, il vit maintenant à Londres.
