WAVZ® KI-Briefing

Der KI-Agent geht einkaufen, Brüssel schreibt die Hausordnung

Wer einen Onlineshop, ein Kundenportal oder ein Abo-Angebot betreibt, bekommt aus Brüssel eine neue Hausordnung. Die EU-Kommission hat am 11. November ihren Entwurf für den **Digital Fairness Act** vorgelegt. Er soll die Richtlinie über unlautere Geschäftsprak

KI & Mittelstand

Wer einen Onlineshop, ein Kundenportal oder ein Abo-Angebot betreibt, bekommt aus Brüssel eine neue Hausordnung. Die EU-Kommission hat am 11. November ihren Entwurf für den Digital Fairness Act vorgelegt. Er soll die Richtlinie über unlautere Geschäftspraktiken von 2005 ablösen und würde als Verordnung direkt in allen 27 Mitgliedstaaten gelten, ohne nationales Umsetzungsgesetz. Eine Anhangsliste nennt 62 verbotene Praktiken, darunter zehn sogenannte Dark Patterns. Das sind Gestaltungstricks, die zum Kauf drängen, etwa der falsche Hinweis, ein Produkt sei fast ausverkauft, oder ein Ablehnen-Knopf, der wie die falsche Wahl aussieht. Neu sind Regeln für Käufe durch KI-Agenten. Wer Kund:innen ein solches System anbietet, muss sie beim ersten Einsatz fragen, ob sie jeden Vertrag selbst bestätigen wollen, keinen oder nur bestimmte, etwa bis zu einem Höchstpreis und für einen begrenzten Zeitraum. Dazu kommen ein Anspruch auf einen menschlichen Ansprechpartner im Kundenservice, Erinnerungen vor dem Ende kostenloser Testphasen und einfachere Kündigungen. Bei groß angelegten Verstößen könnte die Kommission künftig selbst Bußgelder von bis zu sechs Prozent des weltweiten Jahresumsatzes verhängen. OpenAI zeigt, wie nah das Thema ist. Seit dem 13. November können die Agenten in ChatGPT mit der neuen ChatGPT Wallet bezahlen, vorerst nur für einen Teil der Pro-Kund:innen in den USA. Der Act ist noch ein Entwurf, Parlament und Mitgliedstaaten verhandeln. Ich würde trotzdem jetzt anfangen, den eigenen Bestellprozess mit den Augen der Kommission anzusehen. Ein Chatbot ohne Weg zum Menschen dürfte die erste Baustelle sein.

Agentenbuilding

Ein Agent, der Abos kündigt und Lieferantenrechnungen aus Portalen holt, läuft jetzt auch auf dem eigenen Rechner. n8n Labs, ein Experimentierteam des Automatisierungsanbieters n8n, hat am 10. November Nod als Forschungsvorschau veröffentlicht. Nod ist eine eigenständige Open-Source-App für Mac und Windows und braucht kein n8n-Konto. Der Agent arbeitet in einer abgeschotteten virtuellen Maschine mit eigenem Browser direkt auf dem Gerät, bedient verbundene Dienste wie Gmail, Kalender, Drive und Slack und arbeitet auch auf Webseiten ohne Schnittstelle. Für Firmen ist vor allem die Sicherheitslogik interessant. Bevor Nod etwas sendet, bezahlt, veröffentlicht oder löscht, das nicht ausdrücklich beauftragt war, prüft ein separates Kontrollmodell, ob der Auftrag das deckt. Gespeicherte Passwörter und Karten liegen verschlüsselt auf dem Rechner und werden über Formulare eingetragen, die das Sprachmodell nicht lesen kann. Jede Aufgabe endet mit einer Kostenquittung, ab 5 Dollar fragt Nod nach, ein Monatslimit lässt sich setzen. Die App selbst ist kostenlos, bezahlt wird das gewählte KI-Modell, etwa per eigenem API-Schlüssel. n8n richtet Nod ausdrücklich an Einzelpersonen, also eher an Selbstständige als an die Buchhaltungsabteilung. Ich halte das Kostenlimit für die wichtigste Funktion, weil n8n selbst einräumt, dass frühe Testnutzer:innen von den Kosten überrascht waren. Wer so etwas im Betrieb zulässt, klärt vorher, welche Konten und Karten ein persönlicher Agent überhaupt sehen darf.

Wissenschaft & Studien

Ein KI-Agent mit gutem Gedächtnis notiert weniger. Das legt ein Forschungsbeitrag von Anthropic nahe, über den The Decoder am 16. November berichtet hat. Im Spiel Pokémon Red legte das ältere Claude Sonnet 3.7 nach rund 10.000 Spielschritten 413 Notizdateien in 225 Ordnern an, verlor sich zeitweise im Umsortieren und holte einen einzigen Orden. Das neuere Claude Fable 5 kam mit wenigen Dateien voller Pläne und selbst geprüfter Regeln auf vier Orden. Ein Verfahren namens „Dreaming“, bei dem Claude in Pausen alte Sitzungsprotokolle mit seinen Notizen abgleicht, korrigierte eine falsche Notiz, an der der Agent zuvor dreimal gescheitert war. In einem juristischen Test kam Claude bei Fragen über verstreute Dokumente mit einem selbst gebauten Wiki auf 87 Prozent, mit reiner Suche auf 73 Prozent. Die Tests stammen alle von Anthropic, der Pokémon-Vergleich beruht auf je einem einzigen Durchlauf. Für alle, die Agenten mit Gedächtnis einsetzen, folgt daraus vor allem Pflegearbeit. Notizen und Wikis brauchen regelmäßige Durchsicht, sonst wandert eine falsche Erinnerung in jede neue Sitzung mit.

Praxis

Die Dark-Pattern-Inventur für Shop und Kundenportal Bis der Digital Fairness Act gilt, vergeht noch Zeit. Eine Bestandsaufnahme kostet dagegen nur einen Nachmittag, und sie lohnt sich auch ohne Gesetz, weil Kund:innen manipulative Tricks ohnehin übelnehmen. Erstens die Kaufstrecke durchklicken. Zwei Personen bestellen im eigenen Shop oder Portal und notieren jede Stelle, an der Zeitdruck, knappe Bestände oder vorausgewählte Zusatzoptionen auftauchen. Jeder Hinweis „nur noch 3 auf Lager“ muss sich mit echten Lagerdaten belegen lassen. Zweitens den Ausstieg testen. Gezählt wird, wie viele Klicks eine Kündigung braucht und wie viele der Abschluss. Der Ablehnen-Knopf gehört gleichwertig neben den Zustimmen-Knopf, und kostenlose Testphasen brauchen eine Erinnerung, bevor sie ins bezahlte Abo übergehen. Drittens den Weg zum Menschen sichern. Wer im Kundenservice einen Chatbot einsetzt, prüft, ob Kund:innen jederzeit eine Person erreichen, und macht diesen Weg im Dialog sichtbar. Viertens die Seiten agententauglich machen. Bestellt künftig ein KI-Agent im Auftrag eines Kunden, sollten Preis, Laufzeit und Gesamtsumme eindeutig und maschinenlesbar auf der Seite stehen, damit Agent und Kunde dasselbe bestätigen. Das Ergebnis passt in eine einfache Tabelle mit Fundstelle, Risiko und zuständiger Person. Damit lässt sich das Gespräch mit Agentur oder Shop-Dienstleister in einer Sitzung führen.

Kurz & quer

Alibabas neues Spitzenmodell Qwen4-Max kostet laut dem Vergleichsdienst Artificial Analysis 3,27 Dollar pro Testaufgabe, rund ein Drittel des Vorgängers. Im Intelligence Index kommt es auf 43 Punkte, Claude Fable 5.2 führt mit 65. Wer Modelle nach Kosten pro erledigter Aufgabe auswählt, findet hier ein günstiges Angebot, die Herkunft bleibt beim Datenschutz ein eigener Prüfpunkt. (Quelle: The Decoder) DeepL aus Köln hat am 11. November Aure vorgestellt, ein Sprachmodell, das bei der Live-Übersetzung Tonfall, Betonung und Tempo der sprechenden Person mitnimmt. Es läuft automatisch in DeepL Voice für Online-Meetings und persönliche Gespräche sowie in der Voice-API und unterstützt zunächst acht Sprachen, darunter Deutsch. In Verhandlungen mit internationalen Kunden trägt die Übersetzung damit mehr Nachdruck und Zwischentöne als eine gleichförmige Kunststimme. (Quelle: DeepL)

Quellen

Daily Briefing

Täglich per E-Mail.