Innerhalb weniger Tage haben sich drei wichtige Akteure der künstlichen Intelligenz dazu geäussert, wie die Risiken dieser Technologie eingehegt werden sollen. Jack Clark, Mitgründer von Anthropic, fordert eine solide Gesetzgebung. Jensen Huang, Chef von Nvidia, plädiert für einen Dialog mit chinesischen Forschenden und lehnt zugleich Forderungen nach mehr Regulierung ab. Und Anthropic gibt bekannt, seine Systeme für externe Evaluatoren geöffnet zu haben. Zwei davon sind Erklärungen; die dritte beschreibt eine bestehende Einrichtung, nach Angaben des Unternehmens selbst.

Jack Clark: «Formel 1 bei Nacht, ohne Bremsen»

Wie die Agentur AWP/AFP berichtet, aufgegriffen von Allnews, hat Jack Clark am Freitag an einer Veranstaltung am Rande der Jahrestagungen des Internationalen Währungsfonds (IWF) und der Weltbank in Bangkok seine Forderungen nach einer Regulierung der KI bekräftigt. Unternehmen ohne solide Gesetzgebung Spitzenmodelle betreiben zu lassen, sei, als würde man einen Rennwagen «bei Nacht, ohne Bremsen» auf die Strassen loslassen. «Das Spielzeug, das ich für meine Kinder kaufe, ist stärker reguliert als die Superintelligenz, an der ich tagsüber arbeite», bemerkte er.

Laut der Meldung bedauerte er zudem, dass sich US-Präsident Donald Trump, dessen Regierung die Branche zur Selbstregulierung aufgerufen hat, im Gegensatz zu China gegen eine Regulierung stellt. Die Meldung erinnert auch daran, dass Anthropic eine internationale Koordination vorschlägt, um die Fortschritte der gesamten Branche zu verlangsamen, einschliesslich der chinesischen Konkurrenten, diese Initiative aber vor dem Hintergrund eines Investitionswettlaufs nur schwer vorankommt.

Jensen Huang: kooperieren statt regulieren

Laut Journal du Coin, das sich auf CNBC stützt, erklärte Jensen Huang am Mittwoch, 14. Oktober, an einem Pressegespräch in London, Nvidia müsse mit chinesischen KI-Unternehmen zusammenarbeiten, um die Risiken einer Technologie zu überwachen, die er als «potenziell gefährlich» bezeichnet. Er sagt, er pflege einen Austausch mit zahlreichen chinesischen Forschenden und wolle diesen intensivieren, und ermutigt die USA wie auch Grossbritannien, diesen Dialog zu verstärken.

In einem zentralen Punkt weicht seine Position von jener von Jack Clark ab: Er lehnt Forderungen nach mehr Regulierung ab, wie sie namentlich Sam Altman und Dario Amodei vertreten, ohne die Risiken auszublenden. Am selben Tag kündigte Nvidia, ebenfalls laut der Quelle, eine Spende von Rechenleistung im Wert von 250 Millionen Dollar über fünf Jahre für die britische Forschung zur Sicherheit autonomer KI-Systeme an. Journal du Coin präzisiert allerdings, dass der Aufruf von Jensen Huang nicht die Ankündigung einer operativen Vereinbarung zwischen Labors darstellt.

Anthropic öffnet seine Türen für unabhängige Evaluatoren

Der dritte Teil ist konkreter. In einer am 15. Oktober veröffentlichten Mitteilung gibt Anthropic an, einem Team von METR, einer gemeinnützigen Organisation, die KI-Spitzenmodelle evaluiert, einen «Zugang vergleichbar mit dem eines Mitarbeitenden» gewährt zu haben. Nach Angaben des Unternehmens verfügen sechs Mitarbeitende von METR über Hardware, Büros und einen Zugang zu internen Werkzeugen, der jenem seiner eigenen Teams zur Risikobewertung nahekommt.

Die Funktionsweise beruht, ebenfalls laut Anthropic, auf einigen Grundsätzen. METR wird seine Analysen zu Risikoniveaus, Vorfällen oder Praktiken des Unternehmens veröffentlichen. Anthropic kann gegen die Veröffentlichung kein Veto einlegen, kann aber die Entfernung von Informationen verlangen, die unter enge, im Voraus festgelegte Kategorien fallen, etwa Kundendaten oder die Architektur der Modelle. METR kann öffentlich sagen, ob ihm diese Entfernungen gerechtfertigt erscheinen.

Weitere Partnerschaften laufen, in einem früheren Stadium und mit eingeschränkterem Zugang: SecureBio, Accenture und Faculty sowie erste Gespräche mit Hugging Face. Anthropic beschreibt ein System mit drei Zugangsstufen, von der restriktivsten, bei der eine Veröffentlichung seine Zustimmung erfordert, bis zum bei METR angewandten Modell. Das Unternehmen erinnert daran, den White House Accord on Super Intelligence unterzeichnet zu haben, mit dem sich Unternehmen verpflichtet haben, mit externen Prüfern oder Evaluatoren zusammenzuarbeiten. Zur Begründung zieht es eine Parallele zur Bankenaufsicht, bei der Prüfer innerhalb der grössten Banken arbeiten, weil diese ihre Risiken besser kennen als externe Beobachter.

Was Schweizer Unternehmen daraus mitnehmen können

Die Quellen nennen keine direkten Folgen für die Schweiz. Einige allgemeine Erkenntnisse lassen sich dennoch ableiten. Erstens gilt es, Erklärungen von Verpflichtungen zu unterscheiden: Ein Aufruf zu Regulierung oder Dialog ist keine Regel, während ein Zugang für Evaluatoren mit Veröffentlichungsrechten mit der Zeit einsehbare Berichte hervorbringt. Zweitens bleibt die Sicherheit der KI selbst unter den Führungskräften der Branche ein Feld der Uneinigkeit, zwischen Regulierung, Selbstregulierung und Zusammenarbeit unter Forschenden. Schliesslich könnten künftige Veröffentlichungen von Evaluatoren wie METR den Unternehmen unabhängigere Informationen über die Risiken der Modelle liefern, die sie einsetzen, sofern sie wie angekündigt erscheinen.

Quellen

  • Allnews: «IA: le cofondateur d’Anthropic appelle à nouveau à une régulation renforcée»
  • Journal du Coin: «‹Potentiellement dangereuse›: le patron de Nvidia appelle à coopérer avec la Chine sur l’IA»
  • Anthropic News: «An update on independent evaluators»