Was sind KI-Agenten?

Wie funktionieren KI-Agenten?

KI-Agenten arbeiten in einer Schleife: Ein Sprachmodell wählt ein Werkzeug, wertet dessen Ergebnis aus und plant danach den nächsten Schritt. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) beschreibt KI-Agenten als KI-Systeme, die nicht nur Antworten geben, sondern eigenständig Aktionen in der digitalen Welt ausführen sollen. Sie recherchieren zum Beispiel nach einer Eingabe im Internet oder versenden E-Mails. OpenAI nennt drei Grundbestandteile eines Agenten. Das Sprachmodell schlussfolgert und entscheidet, mit Werkzeugen handelt der Agent, und Anweisungen legen sein Verhalten und seine Grenzen fest.

Technisch steckt meist ein großes Sprachmodell dahinter, eine KI, die Texte versteht und erzeugt. Anthropic, der Hersteller des Sprachmodells Claude, beschreibt Agenten als Sprachmodelle, die in einer Schleife Werkzeuge nutzen und dabei auf Rückmeldungen aus ihrer Umgebung reagieren. Werkzeuge sind Funktionen oder externe Dienste, etwa eine Websuche, ein Kalender oder die API-Schnittstelle eines anderen Programms, also seine Programmierschnittstelle. Üblich sind Abbruchbedingungen wie eine Höchstzahl an Durchläufen, damit der Agent nicht endlos weiterarbeitet.

Welche Arten von KI-Agenten gibt es?

KI-Agenten lassen sich vor allem danach unterscheiden, ob ein einzelner Agent eine Aufgabe erledigt oder mehrere Agenten sie unter sich aufteilen. OpenAI unterscheidet in seinem Leitfaden zum Bau von Agenten diese Formen:

• Einzelagent: Ein Sprachmodell mit passenden Werkzeugen und Anweisungen arbeitet eine Aufgabe in einer Schleife ab.
• Multi-Agenten-System mit Manager: Ein zentraler Agent steuert mehrere spezialisierte Agenten, die er wie Werkzeuge aufruft.
• Dezentrales Multi-Agenten-System: Mehrere gleichrangige Agenten geben Aufgaben je nach ihrer Spezialisierung aneinander weiter.

OpenAI empfiehlt, zuerst die Fähigkeiten eines einzelnen Agenten auszuschöpfen. Eine Aufteilung auf mehrere Agenten kommt nach dem Leitfaden infrage, wenn ein Agent komplizierte Anweisungen nicht befolgt oder wiederholt falsche Werkzeuge auswählt.

Welche Beispiele für KI-Agenten gibt es?

Typische Beispiele sind Coding-Agenten, die Programmieraufgaben lösen, und Agenten im Kundenservice, die Anliegen bearbeiten. Anthropic nennt beide Bereiche als Beispiele aus der Praxis. Im Kundenservice verbindet ein Agent das Gespräch mit dem Zugriff auf externe Informationen und Aktionen, und der Erfolg lässt sich an gelösten Anliegen messen. Coding-Agenten können ihre Lösungen mit automatischen Tests prüfen und die Testergebnisse als Rückmeldung für den nächsten Versuch nutzen. Mit „Computer Use“ hat Anthropic zudem eine Beispielumsetzung veröffentlicht, in der das Modell Claude einen Computer bedient, um Aufgaben zu erledigen.

Laut Anthropic sind KI-Agenten dann die bessere Wahl, wenn Flexibilität und Entscheidungen durch das Modell in größerem Umfang gefragt sind. Im Mittelstand betrifft das Aufgaben, deren Lösungsweg sich nicht vorab in feste Regeln fassen lässt. Ein Agent könnte etwa eine frei formulierte Kundenanfrage lesen und in Unterlagen die passende Information für einen Antwortentwurf suchen. Welche Informationen der Agent dafür braucht, entscheidet er je nach Anfrage selbst.

In der Automatisierungs-Software n8n entsteht ein KI-Agent mit dem Baustein „AI Agent“. Laut n8n wird er mit einem Chat-Modell und mindestens einem Werkzeug verbunden. Danach entscheidet er selbst, welches Werkzeug er aufruft, um eine Aufgabe zu erledigen. n8n beschreibt einen KI-Agenten als autonomes System, das Daten empfängt, Entscheidungen trifft und in seiner Umgebung handelt, um bestimmte Ziele zu erreichen.

Welche Vor- und Nachteile haben KI-Agenten?

KI-Agenten lösen Aufgaben ohne vorab festgelegten Lösungsweg, arbeiten dafür aber oft langsamer und teurer als ein Workflow mit festen Schritten. Ein Agent wählt seine Werkzeuge passend zur Lage und reagiert auf Zwischenergebnisse.

Agentische Systeme nehmen laut Anthropic oft längere Antwortzeiten und höhere Kosten in Kauf, um eine Aufgabe besser zu lösen. Ihre Selbstständigkeit bringt zudem das Risiko, dass sich Fehler über mehrere Schritte hinweg aufsummieren. Das BSI ergänzt, dass sich umso schwerer nachvollziehen lässt, was ein Agent genau tut, je selbstständiger er handelt. Anthropic empfiehlt deshalb, mit der einfachsten Lösung zu beginnen und die Komplexität nur bei Bedarf zu erhöhen. Lässt sich eine Aufgabe in feste Schritte fassen, ist ein Workflow mit festgelegter Reihenfolge meist die einfachere Wahl.

Laufende Kosten entstehen unter anderem durch die Nutzung des Sprachmodells. Anbieter wie Anthropic und OpenAI rechnen ihre Modelle nach verarbeiteten Tokens ab, mit getrennten Preisen für Eingabe und Ausgabe. Ein Token ist laut Google ein Wort, ein Wortteil oder ein einzelnes Zeichen. Weil ein Agent in jedem Durchlauf das Modell erneut aufruft, steigen die Kosten mit der Zahl der Schritte.

Wie werden KI-Agenten abgesichert?

KI-Agenten werden abgesichert, indem sie nur die nötigen Zugriffsrechte erhalten, ein Mensch folgenreiche Aktionen freigibt und sie vor dem Einsatz abgeschottet getestet werden. Das BSI nennt als Risiko die sogenannte Prompt Injection: Angreifer verbergen Befehle in Webseiten, Dokumenten oder E-Mails, die der Agent verarbeitet. Ein Agent mit weitreichenden Zugriffsrechten kann so manipuliert werden und Informationen an Dritte weiterleiten. Fehlerhafte Entscheidungen können außerdem ungewollt Bestellungen oder Überweisungen auslösen.

Das BSI empfiehlt, einem Agenten nur die Zugriffe zu erlauben, die er für seine Aufgabe braucht. Bei Aktionen mit finanziellen oder persönlichen Folgen ist besondere Aufmerksamkeit gefragt, und das Protokoll der Aktionen sollte regelmäßig geprüft werden. In n8n lässt sich vor einzelnen Werkzeugen eine Freigabe durch einen Menschen einbauen. Der Workflow hält dann an, bis jemand die Aktion genehmigt oder ablehnt. n8n empfiehlt das für Aktionen, die sich nicht rückgängig machen lassen, etwa das Löschen von Daten, Nachrichten nach außen oder Einkäufe. Anthropic rät außerdem zu ausgiebigen Tests in einer abgeschotteten Testumgebung mit passenden Schutzmaßnahmen.

Was gilt für KI-Agenten beim Datenschutz?

Verarbeitet ein KI-Agent personenbezogene Daten, gilt die Datenschutz-Grundverordnung (DSGVO). Personenbezogen sind nach Art. 4 DSGVO alle Informationen, die sich auf eine identifizierte oder identifizierbare Person beziehen, etwa Name und E-Mail-Adresse in einer Kundenanfrage. Nach dem Grundsatz der Datenminimierung in Art. 5 DSGVO sind solche Daten auf das notwendige Maß zu beschränken. Ein Agent sollte also nur die Daten erhalten, die er für seine Aufgabe braucht.

Für Agenten, die über Menschen entscheiden, ist Art. 22 DSGVO zu beachten. Danach haben Betroffene das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Ausnahmen gelten etwa, wenn die Entscheidung für einen Vertrag erforderlich ist oder die Person ausdrücklich eingewilligt hat. Die Datenschutzkonferenz (DSK) ist das Gremium der unabhängigen Datenschutzaufsichtsbehörden von Bund und Ländern. In ihrer Orientierungshilfe zu KI von Mai 2024 hält sie fest, dass solche Entscheidungen Menschen treffen müssen; eine nur formelle Beteiligung eines Menschen reicht nicht. Läuft das Sprachmodell bei einem externen Anbieter, besteht laut DSK häufig eine Auftragsverarbeitung, für die ein Vertrag nach Art. 28 DSGVO nötig ist. Die DSK empfiehlt außerdem Anwendungen, die Ein- und Ausgaben nicht zum Training des Modells verwenden.

Was unterscheidet einen KI-Agenten von einem Workflow?

Ein Workflow ist eine festgelegte Folge von Arbeitsschritten. Auch wenn darin ein Sprachmodell einzelne Schritte übernimmt, bestimmt die vorher gebaute Reihenfolge, was wann passiert. Anthropic unterscheidet genau so: Bei Workflows werden Sprachmodelle und Werkzeuge über vorab festgelegte Wege im Code gesteuert. Bei Agenten lenkt das Sprachmodell selbst, wie es vorgeht und welche Werkzeuge es nutzt. Viele Automatisierungen kommen dagegen ganz ohne KI aus.

• Wer legt die Schritte fest? Beim Workflow der Mensch, der ihn baut. Beim KI-Agenten das Sprachmodell während der Bearbeitung.
• Wie vorhersehbar ist das Ergebnis? Ein Workflow geht die Schritte, die beim Bau festgelegt wurden. Ein Agent kann je nach Zwischenergebnis einen anderen Weg wählen.
• Lassen sich beide kombinieren? Ja, in n8n ist der Baustein „AI Agent“ selbst Teil eines Workflows, der zum Beispiel durch einen Webhook startet.