Die ersten KI-Chat-Assistenten waren Werkzeuge, die eine einzelne Antwort auf eine Frage lieferten. Die neue Generation von Systemen, die als „Agenten“ bezeichnet werden, kann bei Vorgabe eines Zeils die Schritte planen, die zu dessen Erreichung erforderlich sind, Werkzeuge wie Websuche, Lesen und Schreiben von Dateien, Ausführen von Code oder Navigation auf einer Website nutzen und das Ergebnis überprüfen, wobei sie es bei Bedarf erneut versuchen.
Wie funktionieren sie?
Ein Agent arbeitet in der Regel in einer Schleife: Er versteht die Aufgabe, erstellt einen Plan, verwendet ein Werkzeug (zum Beispiel das Ausführen einer Suche oder das Öffnen einer Datei), bewertet das Ergebnis und entscheidet über den nächsten Schritt. Die Schleife wird fortgesetzt, bis die Aufgabe erledigt ist oder die Zustimmung des Benutzers erforderlich ist. Was ein Agent tun kann, hängt davon ab, zu welchen Werkzeugen und Daten ihm Zugriff gewährt wurde.
Anwendungsbeispiele
- Recherche: Dutzende Quellen durchsuchen und einen referenzierten Bericht erstellen.
- Büroarbeit: Informationen aus E-Mails in einer Tabelle sammeln, Besprechungen planen.
- Software: Einen Fehler in einer Codebasis finden und beheben, Tests schreiben.
- Persönliche Aufgaben: Reiseoptionen vergleichen, Formulare ausfüllen (mit Genehmigung für kritische Schritte wie die Bezahlung).
Risiken
- Fhlerhafte Aktionen: Ein Agent kann eine Anweisung missverstehen und eine unerwünschte E-Mail senden oder eine Datei löschen.
- Prompt Injection: Böswillige Anweisungen, die in einer Webseite oder einem Dokument versteckt sind, können versuchen, den Agenten zu steuern. Dies ist eines der am meisten diskutierten Sicherheitsprobleme für Agenten.
- Übermäßige Berechtigungen: Ein breiter Zugriff auf sensible Bereiche wie Bankkonten oder Unternehmenssysteme birgt das Risiko ernsthafter Schäden.
- Verantwortlichkeit: Der Benutzer oder die Organisation ist letztendlich für die Handlungen verantwortlich, die der Agent vornimmt.
Prinzipien für die sichere Nutzung
- Geben Sie dem Agenten nur die minimalen Berechtigungen, die für die Aufgabe erforderlich sind.
- Legen Sie fest, dass vor irreversiblen Schritten wie Geldüberweisungen, Käufen, dem Senden von E-Mails und dem Löschen eine Genehmigung eingeholt werden muss.
- Überprüfen Sie das Protokoll der vom Agenten durchgeführten Aktionen.
- Seien Sie vorsichtig, wenn Sie einen Agenten Dokumente und Websites aus unbekannten Quellen verarbeiten lassen.
Der Unterschied zwischen einem KI-Agenten und klassischer Automatisierung
Die klassischen Automatisierungswerkzeuge, die seit Jahren am Arbeitsplatz eingesetzt werden, arbeiten nach vorgeschriebenen Regeln wie: „Wenn eine Rechnung in diesem Ordner eingeht, schreiben Sie den Betrag in die Tabellenkalkulation.“ Wenn sie auf eine Situation außerhalb der Regeln stoßen, halten sie in der Regel an. KI-Agenten hingegen erhalten ein Ziel in natürlicher Sprache, planen die Schritte selbst und können einen anderen Weg ausprobieren, wenn etwas Unerwartetes passiert.
- Flexibilität: Ein Agent kann versuchen, ein Dokument zu verstehen, dessen Format sich geändert hat; ein regelbasiertes Werkzeug kann das nicht.
- Vorhersagbarkeit: Klassische Automatisierung liefert jedes Mal das gleiche Ergebnis; das Verhalten eines Agenten kann je nach Eingabe variieren und er kann Fehler machen.
- Aufsicht: Aus diesem Grund ist es bei Agenten noch wichtiger, jeden Schritt aufzuzeichnen und für wichtige Aktionen eine menschliche Genehmigung zu verlangen.
Fragen, die man vor dem Einsatz eines Agenten stellen sollte
Die Sicherheitsgemeinschaft OWASP führt „excessive agency“ (übermäßige Handlungsfreiheit) in ihrer Liste der wichtigsten Risiken bei Anwendungen mit großen Sprachmodellen auf: Wenn einem Agenten mehr Berechtigungen als nötig eingeräumt werden, können eine missverstandene Anweisung oder bösartige Inhalte echten Schaden anrichten.
Aus diesem Grund ist es sinnvoll, vor dem Einsatz eines Agenten Folgendes zu fragen: Auf welche Konten und Dateien kann er zugreifen? Erfordern irreversible Aktionen wie Geldüberweisungen, das Löschen oder das Senden von E-Mails meine Zustimmung? Kann ich jeden Schritt, den er unternommen hat, im Nachhinein sehen? Das US National Institute of Standards and Technology (NIST) empfiehlt im Rahmen seines AI Risk Management Frameworks ähnlich eine kontinuierliche Überwachung der Auswirkungen von KI-Systemen und klar definierte Verantwortlichkeiten.
Funktionen, Tarife und Preise von KI-Werkzeugen ändern sich häufig. Überprüfen Sie immer die offizielle Seite des Werkzeugs auf aktuelle Informationen.
Häufig gestellte Fragen
Was ist der Unterschied zwischen einem Agenten und einem Chat-Assistenten?
Ein Chat-Assistent liefert hauptsächlich Antworten; ein Agent ergreift durch den Einsatz von Werkzeugen Maßnahmen zur Erreichung eines Ziels. Da viele Assistenten mittlerweile Agentenfunktionen enthalten, verschwimmt die Grenze zwischen ihnen zunehmend.
Quellen und weiterführende Literatur
- OWASP, „Top 10 for LLM Applications“ (Prompt Injection und übermäßige Handlungsfreiheit).
- NIST, „AI Risk Management Framework: Generative AI Profile“ (NIST AI 600-1), 2024.
- Shunyu Yao et al., „ReAct: Synergizing Reasoning and Acting in Language Models“, ICLR, 2023.
- OWASP – Top 10 for LLM Applications 2025 (Excessive Agency)
- NIST – AI Risk Management Framework (AI RMF 1.0), 2023
Kommentar hinterlassen
Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert