DataAgenda-Arbeitspapier 87 : KI-Agenten, Autonomie und die Grenzen des Werkzeugparadigmas
A. Einleitung und Problemstellung
KI-Agenten verschieben den Gegenstand der KI-Regulierung vom Sprechen zum Handeln. Während Chatbots in erster Linie menschliches Denken und Entscheiden beeinflussen, führen KI-Agenten Handlungen selbst aus: Sie planen, setzen Werkzeuge ein und wirken unmittelbar auf digitale und physische Umgebungen ein.
Das Recht behandelt KI-Systeme bislang als Werkzeuge, deren Wirkungen dem Menschen zugerechnet werden, der sie entwickelt, anbietet oder einsetzt. Dieses Werkzeugparadigma gerät unter Druck, wenn ein System gerade so ausgelegt ist, dass es ohne menschliches Zutun und nach eigenen Ableitungen agiert. Das Arbeitspapier fragt, welche Ordnungsmodelle das Recht für solche autonom handelnden Systeme bereithält.
Die These lautet: Die Rechtsordnung kennt mit dem Tier seit jeher ein autonomes, nicht vollständig beherrschbares Wesen, dem sie den Status eines Werkzeugs zuweist. Die Tieranalogie bietet deshalb einen tragfähigen Ausgangspunkt, um Gefahren, Verantwortung und Haftung bei KI-Agenten zu strukturieren.