Nel giro di pochi giorni, tre attori di primo piano dell’intelligenza artificiale si sono espressi sul modo di gestire i rischi di questa tecnologia. Jack Clark, cofondatore di Anthropic, chiede una legislazione solida. Jensen Huang, numero uno di Nvidia, sostiene il dialogo con i ricercatori cinesi pur contestando gli appelli a una maggiore regolamentazione. E Anthropic annuncia di aver aperto i suoi sistemi a valutatori esterni. Due sono dichiarazioni; la terza descrive un dispositivo già in funzione, secondo la stessa azienda.

Jack Clark: «la Formula 1 di notte, senza freni»

Secondo l’agenzia AWP/AFP, ripresa da Allnews, venerdì Jack Clark ha ribadito i suoi appelli a regolamentare l’IA durante un evento a margine delle assemblee annuali del Fondo monetario internazionale (FMI) e della Banca mondiale a Bangkok. A suo avviso, permettere alle aziende di gestire modelli di punta senza una legislazione solida equivale a lanciare un’auto da corsa per le strade «di notte, senza freni». «I giocattoli che compro per i miei figli sono più regolamentati della superintelligenza a cui lavoro durante il giorno», ha osservato.

Sempre secondo il dispaccio, ha deplorato che il presidente statunitense Donald Trump, il cui governo ha invitato il settore ad autoregolamentarsi, si opponga all’idea di una regolamentazione, a differenza della Cina. Il dispaccio ricorda inoltre che Anthropic propone un coordinamento internazionale per rallentare i progressi dell’intero settore, compresi i concorrenti cinesi, ma che questa iniziativa fatica a concretizzarsi in un contesto di corsa agli investimenti.

Jensen Huang: cooperare anziché regolamentare

Secondo il Journal du Coin, che si basa su CNBC, durante un incontro con la stampa a Londra, mercoledì 14 ottobre, Jensen Huang ha dichiarato che Nvidia deve collaborare con le aziende cinesi di IA per monitorare i rischi di una tecnologia che definisce «potenzialmente pericolosa». Afferma di intrattenere scambi con numerosi ricercatori cinesi e di volerli intensificare, e incoraggia sia gli Stati Uniti sia il Regno Unito a rafforzare questo dialogo.

La sua posizione si discosta da quella di Jack Clark su un punto centrale: contesta gli appelli a una maggiore regolamentazione, sostenuti in particolare da Sam Altman e Dario Amodei, senza però escludere i rischi. Lo stesso giorno, sempre secondo la fonte, Nvidia ha annunciato una donazione di potenza di calcolo del valore di 250 milioni di dollari su cinque anni per la ricerca britannica sulla sicurezza dei sistemi di IA autonomi. Il Journal du Coin precisa tuttavia che l’appello di Jensen Huang non costituisce l’annuncio di un accordo operativo tra laboratori.

Anthropic apre le porte a valutatori indipendenti

Il terzo tassello è più concreto. In un annuncio pubblicato il 15 ottobre, Anthropic indica di aver iniziato a concedere un «accesso paragonabile a quello di un dipendente» a un team di METR, un’organizzazione senza scopo di lucro che valuta i modelli di IA di punta. Secondo l’azienda, sei dipendenti di METR dispongono di attrezzature, uffici e un accesso agli strumenti interni vicino a quello dei suoi team di valutazione dei rischi.

Il funzionamento si fonda su alcuni principi, sempre secondo Anthropic. METR pubblicherà le sue analisi sui livelli di rischio, sugli incidenti o sulle pratiche dell’azienda. Anthropic non può porre il veto alla pubblicazione, ma può esigere la rimozione di informazioni che rientrano in categorie ristrette e definite in anticipo, come i dati dei clienti o l’architettura dei modelli. METR può dire pubblicamente se ritiene giustificate tali rimozioni.

Sono in corso altri partenariati, in una fase più iniziale e con un accesso più limitato: SecureBio, Accenture e Faculty, oltre a discussioni preliminari con Hugging Face. Anthropic descrive un sistema a tre livelli di accesso, dal più ristretto, in cui la pubblicazione richiede il suo consenso, fino al modello applicato a METR. L’azienda ricorda di aver firmato il White House Accord on Super Intelligence, con cui alcune aziende si sono impegnate a collaborare con revisori o valutatori esterni. Per giustificare l’iniziativa, traccia un parallelo con la vigilanza bancaria, in cui gli ispettori lavorano all’interno delle maggiori banche perché queste conoscono i propri rischi meglio degli osservatori esterni.

Che cosa possono trarne le aziende svizzere

Le fonti non illustrano conseguenze dirette per la Svizzera. Emergono tuttavia alcuni insegnamenti generali. Innanzitutto, occorre distinguere le dichiarazioni dagli impegni: un appello alla regolamentazione o al dialogo non è una regola, mentre un accesso concesso a valutatori, con diritti di pubblicazione, produce nel tempo rapporti consultabili. In secondo luogo, la sicurezza dell’IA resta un terreno di disaccordo tra gli stessi dirigenti del settore, tra regolamentazione, autoregolamentazione e cooperazione tra ricercatori. Infine, le future pubblicazioni di valutatori come METR potrebbero offrire alle aziende un’informazione più indipendente sui rischi dei modelli che adottano, a condizione che escano come annunciato.

Fonti

  • Allnews: «IA: il cofondatore di Anthropic chiede di nuovo una regolamentazione più incisiva»
  • Journal du Coin: «“Potenzialmente pericolosa”: il numero uno di Nvidia chiede di cooperare con la Cina sull’IA»
  • Anthropic News: «An update on independent evaluators»