Gesetzesentwurf regelt Haftung für Transaktionen durch KI-Agenten

Auf den Philippinen wurde ein Gesetzesentwurf eingebracht, der rechtliche Rahmenbedingungen für Transaktionen schaffen soll, die durch Agenten künstlicher Intelligenz (KI) durchgeführt werden. Der Entwurf mit dem Titel „AI Agent Transactions and Accountability Act“ (Gesetzentwurf HB 11014) soll klare Regeln für den Einsatz von KI-Systemen festlegen und gleichzeitig sicherstellen, dass die dahinterstehenden Personen oder Unternehmen die Verantwortung behalten.

Ein zentraler Punkt des Entwurfs ist die rechtliche Einordnung: KI-Agenten erhalten keine eigene Rechtspersönlichkeit oder unabhängige Eigentumsrechte. Stattdessen werden Handlungen, die im Rahmen der erteilten Vollmacht erfolgen, rechtlich dem Auftraggeber, dem sogenannten Principal, zugerechnet.

Die Initiatoren des Gesetzentwurfs, Migz Villafuerte, Vorsitzender des Ausschusses für Informations- und Kommunikationstechnologie im Repräsentantenhaus, und Luigi Villafuerte, stellvertretender Mehrheitsführer, unterstützt von den Abgeordneten Tsuyoshi Anthony Horibata aus Camarines Sur sowie Terry Ridon vom Bicol Saro, erkennen an, dass KI-Agenten im Auftrag von Personen oder Unternehmen Verhandlungen führen, Verträge und elektronische Dokumente ausführen sowie Transaktionen über Schnittstellen, Anwendungsprogrammierschnittstellen (APIs), Smart Contracts und andere automatisierte Technologien einleiten können.

Um die Sicherheit zu erhöhen, soll das Ministerium für Informationstechnologie und DICT ein freiwilliges Registrierungssystem sowie ein System für digitale Autorisierungsnachweise (Digital Authority Credential) einführen. Dies soll es Dritten ermöglichen, die Identität eines Auftraggebers und den Umfang der KI-Vollmacht zu prüfen, ohne dass vertrauliche Authentifizierungsinformationen offengelegt werden müssen. Eine verpflichtende Registrierung ist laut dem Entwurf nur für besonders wertvolle, risikoreiche oder systemrelevante autonome Transaktionen vorgesehen, bei denen bestehende Regulierungen unzureichend sind.

Das Gesetz sieht zudem Schutzmechanismen für gutgläubige Dritte vor, die sich auf ein gültiges digitales Autorisierungsnachweis-Zertifikat verlassen. Es schützt das Eigentum an digitalen Vermögenswerten, die Selbstverwahrung (Self-Custody), Peer-to-Peer-Transaktionen sowie Open-Source-Technologien. Es verbietet ausdrücklich die Anforderung zur Offenlegung von privaten Schlüsseln, Seed-Phrasen oder Passwörtern. In Bezug auf die Haftung bleiben Auftraggeber grundsätzlich für die Handlungen ihrer KI-Agenten verantwortlich. Ausnahmen gelten jedoch bei Diebstahl von Zugangsdaten oder Anmeldedaten, unbefugtem Zugriff, Betrug, böswilligen Eingriffen durch Dritte oder bestimmten Fehlern, die außerhalb der Kontrolle des Auftraggebers liegen.

Bei vorsätzlichem Betrug oder der bewussten Umgehung von Gesetzen sieht der Entwurf Strafen von 200.000 bis zu 2 Millionen Pesos sowie Freiheitsstrafen von sechs Monaten bis zu sechs Jahren vor, wobei weitere gesetzliche Haftungsregeln unberührt bleiben. Die Abgeordneten Villafuerte betonen, dass die Gesetzgebung notwendig sei, um die Bevölkerung und Unternehmen auf die rasche Einführung von KI vorzubereiten und Risiken wie die Preisgabe sensibler Daten oder die Verbreitung falscher oder schädlicher Informationen zu minimieren. Das Vorhaben ist Teil einer umfassenderen Bemühung, das Vertrauen der Filipinos in neue Technologien zu stärken. Die Autoren haben zudem bereits den Gesetzentwurf HB 2827, den „Artificial Intelligence Development and Regulation Act“, vorgelegt, der die nationale KI-Strategie der Philippinen unterstützt und einen breiteren Rahmen für die Entwicklung, den Einsatz und die Regulierung von KI durch spezialisierte Aufsichts- und Politikgremien schaffen soll.