Ein Gütesiegel für KI, ein Ausweis für deinen Agenten

Der TÜV will Vertrauen in KI zertifizierbar machen

Ab Ende 2026 soll es so etwas wie ein Gütesiegel für KI-Systeme geben: Die TÜV-Organisationen haben am 7. September ein dreistufiges Zertifizierungsprogramm vorgestellt, das aktuell im Pilotbetrieb mit Partnerunternehmen läuft. Hintergrund ist ein Vertrauensproblem, das die Verbreitung von KI bremst: Laut TÜV-Verband haben 79 Prozent der Bundesbürger:innen Angst vor nicht einschätzbaren KI-Risiken, nur 53 Prozent der Nutzer:innen vertrauen der Genauigkeit von KI-Systemen.

Die drei Stufen unterscheiden sich im Prüfaufwand: Stufe 1 prüft KI-Systeme, die laut EU-KI-Verordnung nicht als „hochriskant" gelten, auf grundlegende Qualitäts- und Sicherheitsanforderungen. Stufe 2 steht allen KI-Systemen offen und umfasst eine strukturierte Risikobewertung plus Dokumentenprüfung und Besuch beim Hersteller vor Ort. Stufe 3 ergänzt das um eine unabhängige technische Prüfung einzelner Systemeigenschaften – ein echter Blick unter die Haube, nicht nur aufs Papier. Laut TÜV AI.Lab soll das Zertifikat mit der EU-KI-Verordnung kompatibel sein und zusätzliche Nachweise für Dokumentationspflichten liefern.

Für Unternehmer:innen heißt das: Wer KI-gestützte Produkte oder Dienstleistungen anbietet, bekommt ab Jahresende eine zusätzliche Option neben Eigenerklärung und behördlicher Prüfung – ein unabhängiges Siegel, das sich Kund:innen und Geschäftspartnern gegenüber zeigen lässt. Ob sich die freiwillige Zertifizierung am Markt durchsetzt, entscheidet sich erst mit dem tatsächlichen Start Ende 2026.

Wenn der KI-Agent weiß, wer gerade fragt

Ein Problem, das viele Unternehmen beim Einsatz von KI-Agenten unterschätzen: Läuft ein Agent mit einem einzigen, fest hinterlegten Zugangsschlüssel (API-Key), sehen alle seine Aktionen für die angebundenen Systeme gleich aus – egal, welche Mitarbeiterin oder welcher Mitarbeiter die Anfrage eigentlich gestellt hat. Das Entwicklerframework LangChain hat dafür am 9. September eine Funktion namens „Connections" vorgestellt: Sie unterscheidet zwischen Zugängen, die der Agent für alle nutzt, und persönlichen Zugängen einzelner Nutzer:innen – und holt sich die passenden Zugangsdaten automatisch zur Laufzeit, statt sie fest im Code zu hinterlegen.

Am Beispiel eines Support-Teams, das über einen Agenten Probleme in einem Ticketsystem meldet: Mit „Connections" erscheint jede Meldung unter dem echten Namen der jeweiligen Person – nicht unter einem anonymen Bot-Konto. Fragt dieselbe Anfrage nach einer Information, auf die nur eine bestimmte Person Zugriff hat, bekommt auch nur diese Person eine Antwort; bei einer anderen greift die Anfrage ins Leere. Zugangsdaten lassen sich zentral austauschen, ohne dass jemand den Agenten neu programmieren muss.

Für Unternehmer:innen, die eine KI-Agentenplattform auswählen, lohnt sich eine einfache Prüffrage: Kann das System nachvollziehen, wer eine Aktion ausgelöst hat, und unterschiedliche Zugriffsrechte pro Person abbilden? Ohne das wird jede spätere Prüfung – wer hat was warum gemacht – zum Rätsel.

Wenn's schwierig wird, sollte dein KI-Agent eher fragen als weitermachen

Was passiert, wenn ein KI-Agent bei einer Aufgabe zunehmend an seine Grenzen stößt? Forschende der Cornell University und der University of Maryland sind dem in einem am 9. September veröffentlichten Preprint nachgegangen: Sie simulierten 120 Gesundheitsversorgungs-Szenarien mit zwei KI-Modellen und zwölf von Fachleuten entworfenen Aufgaben in drei Schwierigkeitsstufen.

Ergebnis: Je schwieriger die Aufgabe wurde, desto mehr verlegten sich die Agenten zunächst darauf, selbstständig einen Ausweg zu suchen – erst bei wachsender Überforderung baten sie spürbar häufiger Menschen um Unterstützung, statt früh genug nachzufragen. In strukturierten Auswertungen zeigte sich parallel eine steigende „Arbeitsbelastung", die die Agenten in ihren eigenen Textantworten kaum von sich aus ansprachen.

Was heißt das praktisch? Ein Agent, der bei wachsender Unsicherheit stur weiterarbeitet statt früh zu signalisieren, dass er an eine Grenze stößt, ist ein Risiko – gerade bei mehrstufigen Aufgaben mit echten Konsequenzen. Beim Einrichten lohnt sich deshalb die Frage, wie früh ein Agent Unsicherheit tatsächlich anzeigt.

Vier Signale, bei denen dein KI-Agent lieber nachfragen sollte

Aus den beiden Themen von oben – nachvollziehbare Zugriffsrechte und Agenten, die bei Überforderung eher schweigen als anhalten – lässt sich eine kompakte Checkliste für den eigenen Betrieb ableiten. Vier Situationen, in denen ein KI-Agent innehalten und einen Menschen einbeziehen sollte, statt einfach weiterzumachen:

Fehlende Berechtigung. Stößt der Agent auf Daten oder ein System, für das die anfragende Person eigentlich keinen Zugriff hat, darf er nicht improvisieren oder ausweichen – er sollte das offen melden.

Unumkehrbare Aktionen. Bevor eine Zahlung ausgelöst, eine Kündigung verschickt oder ein Vertrag verändert wird, gehört ein Kontrollpunkt dazwischen – unabhängig davon, wie sicher sich der Agent „fühlt".

Wachsende Unsicherheit über mehrere Schritte. Häufen sich Fehlversuche oder widersprüchliche Zwischenergebnisse, ist das ein Signal zum Anhalten, nicht zum Verdoppeln der Versuche.

Fehlender Kontext. Wenn Informationen fehlen, die nur ein Mensch beisteuern kann (etwa eine Kundenvorgeschichte außerhalb des Systems), sollte der Agent das benennen statt zu raten.

Wer diese vier Punkte beim Einrichten eines Agenten explizit mitdenkt – etwa als feste Regel im Workflow –, verhindert einen Großteil der teuren Überraschungen, bevor sie passieren.

1. DeepSeek hat am 10. September sein neues Modell V4.1-Flash veröffentlicht – mit offenen Gewichten unter MIT-Lizenz und einem Einstiegspreis von 0,003 US-Dollar je eine Million Eingabe-Token in Nebenzeiten (bei Cache-Treffer). In mehreren Benchmarks liegt es nach Angaben von DeepSeek vor GPT-5.6 Sol und Claude Opus 5, bei anderen Tests dahinter. Warum das zählt: Für kostenbewusste Unternehmen wird günstige, frei nutzbare KI-Technik zur ernsthaften Alternative zu den bekannten Anbietern – Leistungsangaben von Herstellern selbst sind dabei trotzdem mit Vorsicht zu lesen.

2. OpenAI verschiebt seinen Börsengang auf frühestens 2027 – daraufhin brach die Aktie des Großinvestors SoftBank am 14. September um rund 11,5 Prozent ein, auch Chip-Werte wie Intel, AMD und Marvell gaben deutlich nach. Auslöser war unter anderem der Vorschlag von Anthropic-Chef Dario Amodei, das Tempo der KI-Entwicklung mit unabhängigen externen Prüfer:innen zu bremsen. Warum das zählt: Gerät die Finanzierung der großen KI-Anbieter ins Wanken, kann sich das langfristig auf Preise und Verfügbarkeit der Werkzeuge auswirken, auf die auch der Mittelstand setzt.