Trois des principaux acteurs de l'intelligence artificielle unissent leurs efforts pour encadrer les risques du secteur. OpenAI, Anthropic et Google DeepMind travaillent à la mise en place d'une instance de surveillance commune, dans un contexte de pression croissante pour mieux contrôler les dérives de l'IA.
L'idée est née d'une proposition de Demis Hassabis, directeur général de Google DeepMind avant de passer président début août, qui suggérait une entité similaire à l'Autorité américaine de régulation de l'industrie financière (FINRA), instance d'auto-régulation du secteur financier. La création de la FINRA a été autorisée par la loi fédérale et elle est placée sous la supervision du gendarme américain des marchés, la SEC.
Les grands acteurs de l'IA appellent, depuis plusieurs mois, le gouvernement américain à encadrer le secteur et à superviser la sécurité de l'IA.L'administration Trump a mis en place, début août, un processus d'évaluation des nouveaux modèles d'IA, mais il est basé sur le volontariat et son mécanisme n'a pas été communiqué. Après l'appel au ralentissement du développement de l'IA lancé samedi par le patron d'Anthropic Dario Amodei, Donald Trump et plusieurs membres de la majorité présidentielle ont réitéré leur souhait de ne pas corseter le secteur, officiellement par crainte de voir la Chine prendre l'ascendant. Ils ont balayé les alertes lancées par plusieurs responsables et développeurs, notamment Jacob Coxon il y a une semaine, sur les risques que représente l'IA pour l'humanité, le président américain les qualifiant de "canulars".
