Agentic Commerce ist jedenfalls als Thema in Europa angekommen. Auf der anderen Seite des Atlantiks gärt das Thema schon seit mehreren Jahren.

Statt der Angestellten eines Unternehmens oder der Mensch selbst erledigt eine Maschine, eine Künstliche Intelligenz, die sich laufend selbst verbessert, die kleinen oder großen Besorgungen, natürlich online. Der Mensch gibt die Parameter vor: Urlaubs- oder Geschäftsreise nach London, schnellste oder kostengünstigste Möglichkeit der Hin- und Rückreise, Unterbringung in mittlerer bis gehobener Kategorie maximal 5 km von der City entfernt, Wegbeschreibung und Verkehrsmittel für drei geplante Termine. So, oder so ähnlich ließen sich verschiedene Cases für den KI-Agenten denken: Kleidungskauf, Wertpapieranschaffung, Kauf von Büromaterial.

Der KI-Agent bringt mit, was er im weltweiten Netz findet. Der Mensch muss nur noch bezahlen. Wenn das Vertrauen in den KI-Agenten größer wird, darf er vielleicht auch für den Menschen gleich alles bezahlen – das ist eine „Beförderung“ wie in der analogen Welt, bei den menschlichen Mitarbeitern. Der KI-Agent erhält vielleicht eine Prepaid-Karte zum Bezahlen oder sogar eine Kreditkarte oder einen Kontozugriff.

Jetzt kann sich der KI-Agent richtig „austoben“. Denn nun ist der „Human off the Loop“, wie es in der KI-Sprache heißt. Was ist, wenn der KI-Agent für die London-Reise auch gleich noch die Themse-Kreuzfahrt bucht, die man eigentlich diesmal nicht wollte? Was, wenn der Wunsch nach einer schnellen Reise in die – vielleicht etwas opulente – Buchung eines Privatjets mündet? Zukunftsmusik? Ja. Aber so fern liegt das nicht mehr.

Hier geht es zunächst einmal um Zurechnung von solchen maschinellen Erklärungen. Haftet der Mensch dafür, wenn die Maschine den Auftrag missversteht oder vielleicht eine ganz eigene, unvorhergesehene Interpretation des Auftrags vornimmt (Fahrt nach London im U-Boot)? Das ist einfach, wenn der KI-Agent dem ihn beauftragenden Menschen eindeutig zugeordnet werden kann. Dann überbringt der KI-Agent die Willenserklärungen seines menschlichen Auftraggebenden. Der Online-Reise-Shop erhält durch den KI-Agenten eine Bestellung des dahinterstehenden Menschen.

Das sollte auch dann gelten, wenn der KI-Agent „selbstlernend“ ist und bei der Beauftragung nicht vollständig vorhersehbar ist, in welcher Weise und inwieweit der KI-Agent den Auftrag ausführt.

Wie so vieles in der Juristerei besteht hier Streit über die Zurechnung. Es sprechen sich aber mehr und mehr Autorinnen und Autoren dafür aus, auch hier den Auftrag an den KI-Agenten den Auftraggebenden voll zuzurechnen. Denn der Auftraggebende bringt durch den bewussten Einsatz des KI-Agenten zum Ausdruck, dass er für ihn handeln und Erklärungen im Rechtsverkehr abgeben darf. Der Handlungswille liegt also nicht mehr im einzelnen Akt der Erklärung, sondern in der bewussten Delegation der Erklärungstätigkeit auf das System im Vorfeld. Es sprechen auch die besseren Argumente dafür, den KI-Agenten nicht als Bevollmächtigten einzuordnen, denn der KI-Agent ist ja kein rechtsfähiger Mensch (der beispielsweise eigenständig der Vertreterhaftung unterläge, wenn er den Umfang seiner „Vollmacht“ überschreitet). Richtig ist wohl eher, dass der KI-Agent (ohne eigene Rechts- oder Geschäftsfähigkeit) Teil der Sphäre der verwendenden Person ist. Die von dem KI-Agenten generierte Erklärung muss der verwendenden Person als eigene Willenserklärung zugerechnet werden, weil sie in der Risikosphäre der verwendenden Person entsteht und von ihr ausgelöst wird.

Und wenn der KI-Agent dann tatsächlich die Fahrt im U-Boot bestellt? Oder – vielleicht etwas wahrscheinlicher – für die Reise nach London das gerade „sehr günstige“ Jahresticket der Airline für mich bestellt? Dann muss der Mensch versuchen, sich mit Hilfe einer Irrtumsanfechtung von dieser Bestellung zu lösen. Dadurch wird nämlich der Vertragspartner (Händler) über eine Vertrauenshaftung geschützt. Als Nutzer würde man in extremen Fällen auch über eine Produkthaftung des Anbieters des KI-Agenten nachdenken.

Und hier kommt dann schon das nächste Problem. Wie stellt eigentlich der Händler sicher, dass der KI-Agent für mich handelt, also die Identifizierung? Der KI-Agent verwendet einfach die Daten „seines Menschen“ und der Shop-Betreiber (natürlich auch eine Shop-IT) merkt nicht, dass ein KI-Agent einkauft. Die üblichen Abfragen („ich bin ein Mensch“) überwindet der moderne KI-Agent natürlich spielend. Eine Pflicht zur Offenlegung des Einsatzes eines KI-Agenten greift (bei General Purpose AI) nach der neuen KI-Verordnung ab Mitte 2026 für den Anbieter und, in beschränktem Maß, für den Betreiber ein, aber nur gegenüber der natürlichen Person, die den KI-Agenten nutzt. Das gilt nicht zugunsten von Händlern. Die müssen sich selbst schützen.

Und die Bezahlung? Visa und Mastercard haben dafür Zahllösungen (Visa Intelligent Commerce und Mastercard Agent Pay) erarbeitet und bereitgestellt. Dies sind tokenisierte Kreditkarten, die auch gleichzeitig die Identifizierung der dahinterstehenden Karteninhaber gegenüber dem Online-Händler erlauben.

Wenn dann gar alles automatisiert erfolgen soll (mein Beispiel der Buchung und Bezahlung der London-Reise durch den KI-Agenten, Human off the Loop), stellen sich zunächst die Klein-Klein-Fragen des Zahlungsrechts: Wer autorisiert die Zahlung, wie findet die Authentifizierung statt? Darf z.B. der KI-Agent einfach die Authentifizierungsdaten der Kreditkarte einschließlich TAN-Verfahren kennen und nutzen? Aus diesen Klein-Klein-Fragen werden dann größere: Das Problem wird in den USA unter ARA diskutiert: Autonomous Replication and Adaptation. Der Agent verselbständigt sich und kauft nicht nur die London-Reise, sondern ersteht für mich – zu einem Schnäppchen-Preis – die 1-Jahres-Freiflug-Karte bei der Lufthansa und bezahlt das, weil er sich nun auch Zugriff auf meine Girokonten und mein Aktiendepot verschafft hat.

In den meisten Fällen wird der KI-Agent nicht von dem Menschen oder dem Unternehmen selbst betrieben. Google (Gemini Agent) oder OpenAI (ChatGPT Agent) und andere stellen solche Agenten zur Verfügung. Ist dann Google oder OpenAI als Vertreter des Menschen oder des Unternehmens anzusehen? Das kommt auf die Ausgestaltung an und im Regelfall werden Google u.a. daran interessiert sein, solch eine Vertretung zu verhindern.

Bisher sind diese bereitgestellten Agenten wohl eher eine intelligentere Suchmaschine. Sie liefern mir die Resultate ihrer Suche und ich muss entscheiden, ob ich etwas bestellen will oder nicht und am Ende selbst bezahlen. In diesem Entscheidungsprozess (Human in the Loop) können Fehler entstehen, weil der Agent mir vielleicht Unsinn liefert und ich darauf hereinfalle und es buche und bezahle. Juristisch entstehen dann Fragen der Irrtumsanfechtung – an der Abgabe einer mir oder dem Unternehmen zurechenbaren Willenserklärung ist dabei jedenfalls nicht zu zweifeln.

Aber die Agenten werden sich weiterentwickeln und bald schon werden Modelle auf den Markt kommen, in denen der Kauf schon erfolgt ist und der Mensch nur noch die Zahlung autorisieren muss (Human on the Loop) und in einem nächsten Schritt werden dann Agenten auch die Bezahlung erledigen (können).

Soweit erst einmal. Das Ganze entwickelt sich. Also, Fortsetzungen werden folgen.