En quelques jours, trois acteurs majeurs de l’intelligence artificielle se sont exprimés sur la manière d’encadrer les risques de cette technologie. Jack Clark, cofondateur d’Anthropic, réclame une législation solide. Jensen Huang, patron de Nvidia, plaide pour un dialogue avec les chercheurs chinois tout en contestant les appels à davantage de réglementation. Et Anthropic annonce avoir ouvert ses systèmes à des évaluateurs externes. Deux sont des déclarations ; la troisième décrit un dispositif en place, selon l’entreprise elle-même.

Jack Clark : « la Formule 1 la nuit, sans freins »

Selon l’agence AWP/AFP, reprise par Allnews, Jack Clark a réitéré vendredi ses appels à la régulation de l’IA lors d’un événement en marge des assemblées annuelles du Fonds monétaire international (FMI) et de la Banque mondiale à Bangkok. Il estime qu’autoriser les entreprises à opérer des modèles de pointe sans législation solide revient à lâcher une voiture de course dans les rues « la nuit, sans freins ». « Les jouets que j’achète pour mes enfants sont davantage réglementés que la super intelligence à laquelle je travaille dans la journée », a-t-il observé.

Toujours selon la dépêche, il a déploré que le président américain Donald Trump, dont le gouvernement a appelé le secteur à s’autoréguler, s’oppose à l’idée d’une régulation, contrairement à la Chine. La dépêche rappelle aussi qu’Anthropic propose une coordination internationale pour ralentir les avancées de l’ensemble du secteur, y compris les concurrents chinois, mais que cette initiative peine à se concrétiser dans un contexte de course aux investissements.

Jensen Huang : coopérer plutôt que réglementer

Selon le Journal du Coin, qui s’appuie sur CNBC, Jensen Huang a déclaré lors d’un point presse à Londres, mercredi 14 octobre, que Nvidia doit travailler avec les entreprises chinoises d’IA pour surveiller les risques d’une technologie qu’il qualifie de « potentiellement dangereuse ». Il dit entretenir des échanges avec de nombreux chercheurs chinois et souhaite les intensifier, et encourage les États-Unis comme le Royaume-Uni à renforcer ce dialogue.

Sa position diffère de celle de Jack Clark sur un point central : il conteste les appels à davantage de réglementation, défendus notamment par Sam Altman et Dario Amodei, sans écarter les risques. Le même jour, toujours selon la source, Nvidia a annoncé un don de puissance de calcul valorisé à 250 millions de dollars sur cinq ans pour la recherche britannique sur la sécurité des systèmes d’IA autonomes. Le Journal du Coin précise toutefois que l’appel de Jensen Huang ne constitue pas l’annonce d’un accord opérationnel entre laboratoires.

Anthropic ouvre ses portes à des évaluateurs indépendants

Le troisième volet est plus concret. Dans une annonce publiée le 15 octobre, Anthropic indique avoir commencé à donner un « accès comparable à celui d’un employé » à une équipe de METR, une organisation à but non lucratif qui évalue les modèles d’IA de pointe. Selon l’entreprise, six employés de METR disposent de matériel, de bureaux et d’un accès aux outils internes proche de celui de ses propres équipes d’évaluation des risques.

Le fonctionnement repose sur quelques principes, toujours selon Anthropic. METR publiera ses analyses sur les niveaux de risque, les incidents ou les pratiques de l’entreprise. Anthropic ne peut pas opposer de veto à la publication, mais peut exiger le retrait d’informations relevant de catégories étroites et définies à l’avance, comme les données de clients ou l’architecture des modèles. METR peut dire publiquement si ces retraits lui paraissent justifiés.

D’autres partenariats sont en cours, à un stade plus précoce et avec un accès plus limité : SecureBio, Accenture et Faculty, ainsi que des discussions préliminaires avec Hugging Face. Anthropic décrit un système à trois niveaux d’accès, du plus restreint, où la publication requiert son accord, jusqu’au modèle appliqué à METR. L’entreprise rappelle avoir signé le White House Accord on Super Intelligence, par lequel des entreprises se sont engagées à collaborer avec des auditeurs ou évaluateurs externes. Pour justifier la démarche, elle fait un parallèle avec la surveillance bancaire, où des examinateurs travaillent au sein des plus grandes banques parce que celles-ci connaissent mieux leurs risques que les observateurs extérieurs.

Ce que les entreprises suisses peuvent en retenir

Les sources ne détaillent pas de conséquences directes pour la Suisse. Quelques enseignements généraux se dégagent toutefois. D’abord, il faut distinguer les déclarations des engagements : un appel à la régulation ou au dialogue n’est pas une règle, alors qu’un accès accordé à des évaluateurs, avec des droits de publication, produit à terme des rapports consultables. Ensuite, la sécurité de l’IA reste un terrain de désaccord entre les dirigeants du secteur eux-mêmes, entre régulation, autorégulation et coopération entre chercheurs. Enfin, les futures publications d’évaluateurs comme METR pourraient offrir aux entreprises une information plus indépendante sur les risques des modèles qu’elles adoptent, à condition qu’elles paraissent comme annoncé.

Sources

  • Allnews : « IA: le cofondateur d’Anthropic appelle à nouveau à une régulation renforcée »
  • Journal du Coin : « « Potentiellement dangereuse » : le patron de Nvidia appelle à coopérer avec la Chine sur l’IA »
  • Anthropic News : « An update on independent evaluators »