Que se passe-t-il lorsque le logiciel que tout le monde s’empresse d’adopter devient trop risqué pour que quiconque puisse l’assurer ? Selon reportage du Monetary Instancesnous sommes sur le level de le découvrir.
De grands assureurs, dont AIG, Nice American et WR Berkley, demandent aux régulateurs américains l’autorisation d’exclure les responsabilités liées à l’IA des polices d’assurance des entreprises. Un souscripteur décrit les résultats des modèles d’IA vers le FT comme « une boîte noire trop grande ».
L’industrie a de bonnes raisons d’être effrayée, nous rappelle l’histoire. L’AI Overview de Google a faussement accusé une entreprise solaire de problèmes juridiques, déclenchant une 110 hundreds of thousands de {dollars} procès en mars. L’année dernière, Air Canada s’est retrouvée coincée à honorer un rabais Le chatbot inventé. Et l’année dernière, les fraudeurs ont utilisé une model clonée numériquement d’un cadre supérieur pour voler 25 hundreds of thousands de {dollars} de la société d’ingénierie de conception basée à Londres Arup lors d’un appel vidéo qui semblait tout à fait réel.
Ce qui terrifie vraiment les assureurs, ce n’est pas un paiement massif ; c’est le risque systémique de milliers de réclamations simultanées lorsqu’un modèle d’IA largement utilisé y intervient. Comme l’a dit un dirigeant d’Aon, les assureurs peuvent gérer une perte de 400 hundreds of thousands de {dollars} pour une seule entreprise. Ce qu’ils ne peuvent pas gérer, c’est un incident d’IA agentique qui déclenche 10 000 pertes d’un coup.
