Die KI-Konvention des Europarats ist der erste rechtsverbindliche internationale Vertrag über künstliche Intelligenz (KI). Sie liegt seit dem 5. September 2024 zur Unterzeichnung auf und verpflichtet die Vertragsstaaten, Menschenrechte, Demokratie und Rechtsstaatlichkeit gegenüber KI-Systemen zu schützen, im öffentlichen wie im privaten Sektor. Die Schweiz gehört zu ihren Unterzeichnern.
Ihr vollständiger Name lautet Rahmenübereinkommen des Europarats über künstliche Intelligenz und Menschenrechte, Demokratie und Rechtsstaatlichkeit. Dieser Vertrag ist ein Baustein des rechtlichen Rahmens für KI. Laut Europarat ergänzt er die bestehenden internationalen Normen zu Menschenrechten, Demokratie und Rechtsstaatlichkeit.
Warum ein verbindlicher Vertrag über KI?
Der Europarat will die Rechtslücke schliessen, die durch rasche technologische Fortschritte entstehen könnte. Der Text soll sicherstellen, dass KI-Systeme über ihren gesamten Lebenszyklus hinweg mit den Menschenrechten vereinbar bleiben. Zugleich will er Fortschritt und technologische Innovation fördern.
Um Bestand zu haben, reguliert die Konvention keine bestimmte Technologie. Sie ist im Wesentlichen technologieneutral: Sie legt Grundsätze und Pflichten fest, keine technischen Normen.
Diese Wahl hebt sich von einer Branche ab, die in dieser Frage gespalten ist. Jack Clark, Mitgründer von Anthropic, fordert eine solide Gesetzgebung für Spitzenmodelle. Jensen Huang, Chef von Nvidia, wendet sich hingegen gegen Rufe nach mehr Regulierung, wie die Debatte über die KI-Regulierung zwischen den beiden Firmenchefs zeigt.
Was sieht die KI-Konvention des Europarats vor?
Die Konvention legt grundlegende Prinzipien fest. Jede Tätigkeit im Lebenszyklus eines KI-Systems muss sie einhalten:
- Menschenwürde und persönliche Autonomie;
- Gleichheit und Nichtdiskriminierung;
- Achtung der Privatsphäre und Schutz personenbezogener Daten;
- Transparenz und Aufsicht;
- Rechenschaftspflicht und Verantwortung;
- Zuverlässigkeit;
- sichere Innovation.
Welche Rechte haben Personen, die von einer KI betroffen sind?
Die Konvention verpflichtet die Staaten, den betroffenen Personen Garantien und Rechtsbehelfe zu bieten. Sie sieht insbesondere vor:
- relevante Informationen über KI-Systeme und deren Nutzung zu dokumentieren und den betroffenen Personen zugänglich zu machen;
- genügend Informationen bereitzustellen, um einen Entscheid anzufechten, der mithilfe eines KI-Systems getroffen wurde oder sich weitgehend darauf stützt;
- die Möglichkeit zu schaffen, die Nutzung des Systems selbst anzufechten;
- eine wirksame Beschwerdemöglichkeit bei den zuständigen Behörden zu eröffnen;
- Verfahrensgarantien vorzusehen, wenn ein KI-System erhebliche Auswirkungen auf die Menschenrechte und Grundfreiheiten hat;
- Personen darüber zu informieren, dass sie mit einer KI interagieren und nicht mit einem Menschen.
Wie regelt die Konvention die Risiken der KI?
Die Staaten müssen die Risiken und Auswirkungen von KI-Systemen bewerten lassen, ob tatsächlich oder potenziell. Diese Bewertungen betreffen Menschenrechte, Demokratie und Rechtsstaatlichkeit. Sie werden iterativ wiederholt, über die gesamte Lebensdauer des Systems hinweg.
Auf diese Bewertungen müssen Präventions- und Minderungsmassnahmen folgen. Der Text sieht auch einen stärkeren Hebel vor: Die Behörden können für bestimmte KI-Anwendungen ein Moratorium oder ein Verbot verhängen. Der Europarat spricht von «roten Linien».
Für wen gilt das Rahmenübereinkommen über künstliche Intelligenz?
Die Konvention erfasst die Nutzung von KI durch die öffentliche Hand, aber auch durch private Akteure. Private Akteure, die im Auftrag des Staates handeln, werden wie die öffentliche Hand behandelt.
Für den übrigen Privatsektor wählt jede Vertragspartei zwischen zwei Modalitäten. Sie kann unmittelbar an die einschlägigen Bestimmungen des Vertrags gebunden sein. Sie kann aber auch andere Massnahmen ergreifen, um ihnen nachzukommen, unter voller Einhaltung ihrer internationalen Verpflichtungen in Bezug auf Menschenrechte, Demokratie und Rechtsstaatlichkeit.
Bestimmte Bereiche sind ganz oder teilweise vom Text ausgenommen. Die Tabelle fasst den vom Europarat beschriebenen Geltungsbereich zusammen.
| Bereich | Was die Konvention vorsieht |
|---|---|
| Öffentliche Hand | Erfasst |
| Private Akteure, die im Auftrag des Staates handeln | Erfasst |
| Andere private Akteure | Erfasst, je nach der von jeder Vertragspartei gewählten Modalität |
| Nationale Sicherheit | Anwendung nicht zwingend, aber Einhaltung des Völkerrechts sowie der demokratischen Institutionen und Prozesse |
| Landesverteidigung | Ausgenommen |
| Forschung und Entwicklung | Ausgenommen, ausser bei Tests, die Menschenrechte, Demokratie oder Rechtsstaatlichkeit beeinträchtigen könnten |
Wer hat diesen Vertrag ausgehandelt, und wer hat ihn unterzeichnet?
Die Arbeiten begannen 2019. Der Ad-hoc-Ausschuss für künstliche Intelligenz (CAHAI) prüfte zunächst die Machbarkeit eines solchen Instruments. 2022 übernahm der Ausschuss für künstliche Intelligenz (CAI), um den Text auszuarbeiten und auszuhandeln.
Die 46 Mitgliedstaaten des Europarats haben die Konvention erarbeitet. Alle Beobachterstaaten nahmen an den Verhandlungen teil: Kanada, Japan, Mexiko, der Heilige Stuhl und die Vereinigten Staaten. Die Europäische Union (EU) war ebenfalls beteiligt, ebenso Australien, Argentinien, Costa Rica, Israel, Peru und Uruguay. Schliesslich trugen 68 internationale Vertreterinnen und Vertreter der Zivilgesellschaft, der Wissenschaft und der Industrie zum Text bei.
Die Liste der Unterzeichner reicht somit über Europa hinaus. Neben der Schweiz nennt sie namentlich das Vereinigte Königreich, Norwegen, Liechtenstein, Island, die Ukraine und die Europäische Union. Auch Kanada, die Vereinigten Staaten, Israel, Japan und Uruguay sind darauf aufgeführt.
Wie wird die Einhaltung der Konvention überwacht?
Die Konvention schafft einen Folgemechanismus: die Konferenz der Vertragsparteien. Sie vereint offizielle Vertreterinnen und Vertreter der Vertragsparteien und misst, inwieweit die Bestimmungen umgesetzt werden. Ihre Analysen und Empfehlungen sollen den Staaten helfen, den Text dauerhaft einzuhalten.
Diese Konferenz steht auch den Interessengruppen offen. Sie erleichtert die Zusammenarbeit mit ihnen, namentlich durch öffentliche Anhörungen zur Umsetzung der Konvention.
Welche Tragweite hat sie für die KI-Regulierung in der Schweiz?
Die Schweiz steht auf der vom Europarat veröffentlichten Liste der Unterzeichner. Der Europarat unterscheidet jedoch zwischen Unterzeichnern, Ratifikationen und Vertragsparteien. Nur die Vertragsparteien haben Einsitz in der Konferenz der Vertragsparteien, die die Anwendung des Textes verfolgt.
Dass die Schweiz zu den Unterzeichnern gehört, sagt somit für sich allein noch nicht, wie die Konvention in der Schweiz angewendet wird. Ihre konkrete Tragweite hängt von den auf nationaler Ebene getroffenen Massnahmen ab und von der für den Privatsektor gewählten Modalität.
Die Schweizer KI-Debatte schreitet auch auf anderen Feldern voran. Anfang 2026 hat der Nationalrat eine Ausweitung des Leistungsschutzrechts auf KI-Anwendungen gutgeheissen. Dieses Vorhaben betrifft das geistige Eigentum der Presseverlage, nicht die Konvention.
Was ändert sich für ein KMU in der Schweiz?
Die Konvention legt Pflichten für die Staaten fest. Sie sind es, die deren Grundsätze durchsetzen müssen, auch gegenüber privaten Akteuren. Ein kleines oder mittleres Unternehmen (KMU), das im Auftrag einer Verwaltung handelt, fällt in dieselbe Kategorie wie die öffentliche Hand.
Die Anforderungen des Textes bieten bereits Orientierungspunkte für ein Unternehmen, das KI gegenüber seiner Kundschaft einsetzt:
- einer Person mitteilen, dass sie mit einer KI kommuniziert und nicht mit einem Menschen;
- das System und seine Nutzung dokumentieren;
- die Anfechtung eines mithilfe von KI getroffenen Entscheids ermöglichen;
- die Risiken für die Rechte der betroffenen Personen bewerten.
Wie diese Anforderungen ins Schweizer Recht übertragen werden, ist noch offen, ebenso, welche Behörden ihre Einhaltung überwachen sollen.
Wichtige Zahlen
- 2019: Beginn der Arbeiten mit dem CAHAI;
- 2022: Der CAI übernimmt die Ausarbeitung und die Verhandlungen;
- 5. September 2024: Die Konvention wird zur Unterzeichnung aufgelegt;
- 46 Mitgliedstaaten des Europarats haben den Text erarbeitet;
- 68 Vertreterinnen und Vertreter der Zivilgesellschaft, der Wissenschaft und der Industrie haben mitgewirkt.
Was noch nicht bekannt ist
- An welchem Datum die Schweiz die Konvention unterzeichnet hat.
- Ob die Schweiz sie ratifiziert hat und zu den Vertragsparteien gehört.
- Welche Modalität die Schweiz für den Privatsektor wählen würde.
- Welche Schweizer Gesetze angepasst würden, und nach welchem Zeitplan.
- Wann die Konvention selbst in Kraft tritt.
