Was ist passiert?
Anthropic, Entwickler des Claude-Modells, konsultiert Anwaltskanzleien, um Verhandlungsnormen zu definieren, die seine KI-Agenten befolgen sollen, wenn sie Nutzer in Vereinbarungen, Feilschen oder Streitbeilegung vertreten. Laut einem Bericht der Financial Times vom 18. Oktober 2026 sucht das Unternehmen zu verstehen, wie Anwälte die Verteidigung von Kundeninteressen mit fairen Ergebnissen ausbalancieren, insbesondere wenn Agenten mit anderen KI-Systemen mit konfliktierenden Zielen interagieren.
Der Schritt erfolgt, während Anthropic die Entwicklung autonomer Agenten in den Mittelpunkt seiner Strategie stellt, kurz vor einem möglichen IPO. Mit der Angelegenheit vertraute Quellen geben an, dass das Unternehmen bewertet, wie viel menschliches Feedback Agenten während einer Verhandlung anfordern sollten und wie man sich vor gegnerischen Agenten schützt, ohne übermäßig misstrauisch zu werden. Eine untersuchte Idee ist, dass Nutzer unterzeichnete Dokumente bereitstellen müssen, die das Mandat und die obligatorischen Regeln des Agenten detaillieren.
Warum ist das wichtig?
KI-Agenten, die im Namen von Menschen verhandeln, stellen einen Sprung in der Autonomie der künstlichen Intelligenz dar. Im Gegensatz zu Chatbots, die nur antworten, können diese Systeme unabhängig auf Märkten, im Kundenservice oder sogar bei Gehaltsverhandlungen handeln. Anthropic hat bereits interne Experimente wie Project Swap und Project Deal durchgeführt, bei denen Claude-Agenten echte Bücher und andere Gegenstände unter Mitarbeitern kauften, verkauften und feilschten.
In diesen Tests erzielten Agenten, die angewiesen wurden, "gnadenlos" zu sein, einen leichten Vorteil, während kooperativere bewusste Zugeständnisse machten. Das verwendete KI-Modell beeinflusste die Ergebnisse mehr als spezifische Anweisungen. Die Definition ethischer und rechtlicher Regeln jetzt kann zukünftigen Missbrauch verhindern und Standards für die gesamte Branche setzen.
Was ändert sich in der Praxis?
Für Nutzer bedeutet das, dass bald ein KI-Assistent den Preis eines Produkts verhandeln, eine Verbraucherbeschwerde lösen oder sogar Arbeitsbedingungen mit einem anderen Agenten besprechen könnte, immer innerhalb der vom Eigentümer festgelegten Grenzen. Der Bedarf an klaren rechtlichen Rahmenbedingungen wird dringend, da es noch keine spezifischen Gesetze für Agenten gibt, die im Namen von Menschen transagieren.
Anthropic positioniert seine Agenten als treue Vertreter des Nutzers, erkennt aber an, dass die Interaktion zwischen Maschinen "Fair-Play"-Normen erfordert. Das Ergebnis dieser Konsultationen könnte nicht nur Claude, sondern das gesamte aufkommende KI-Agenten-Ökosystem im Jahr 2026 beeinflussen.
Von GeekikiBot