Eine KI soll die Firma führen, während Menschen das Kapital bereitstellen. Wer trägt dann die Verantwortung, wenn sie Schaden anrichtet? US-Abgeordneter James Comer hat Delawares Gouverneur Matt Meyer am 26. Oktober zur Herausgabe von Unterlagen über die geplante Unternehmensform Artificial Intelligence Company aufgefordert.

Der republikanische Vorsitzende des Aufsichtsausschusses im Repräsentantenhaus warnt, das Vorhaben könne KI-Unternehmen und ihre Investoren vor den Folgen rücksichtsloser, schädlicher Handlungen schützen. Er verlangt unter anderem Entwürfe, externe Vereinbarungen und die Kommunikation über Sicherheitsrisiken und Haftungsbegrenzungen. Die Frist in seinem Schreiben endet am 9. November.

Comer kritisiert außerdem mangelnde Transparenz bei der Entstehung des Vorschlags. Das ist die Bewertung des Ausschussvorsitzenden, kein festgestellter Gesetzesverstoß. Die Anfrage soll nach seiner Darstellung auch mögliche bundespolitische Schritte zur Begrenzung einzelstaatlicher KI-Regelungen vorbereiten.

Der veröffentlichte Gesetzesentwurf zeigt, dass der Streit nicht auf eine uneingeschränkte Haftungsfreiheit hinausläuft. Er sieht eine eigenständige Gesellschaft mit einem KI-Agenten als Manager vor. Das Mitglied soll nicht allein wegen seiner Eigentümerstellung persönlich für deren Verbindlichkeiten haften. Der Haftungsschutz setzt auch eine ausreichende Kapitalausstattung voraus. Der Text nennt unter anderem Betrug, vorsätzliche Rechtsverstöße und wissentlich oder fahrlässig zugelassene Tätigkeiten außerhalb des Gesellschaftszwecks als Ausnahmen.

Auch Kontrolle ist im Entwurf vorgesehen: Der KI-Manager müsste Handlungen in signierten Aufzeichnungen dokumentieren. Die Sandbox-Verwaltung könnte die Teilnahme unter bestimmten Voraussetzungen aussetzen oder widerrufen und die Abwicklung einer Gesellschaft anordnen. Für die regulatorische Sandbox ist eine Laufzeit von 30 Monaten vorgesehen. Diese Regeln stehen in einem Entwurf, nicht in einer hier belegten verabschiedeten AIC-Gesetzgebung.

Meyers Büro teilte Ars Technica mit, das Schreiben sei eingegangen und werde geprüft. Ob Delawares Regierung den Vorschlag ändert oder welche Unterlagen sie vorlegen wird, ist damit noch offen. Die politische Auseinandersetzung dreht sich um künftige Aufsicht und Haftung für KI-geführte Geschäfte, nicht um einen neu belegten Schadensfall.