Anthropic öffnet die Bücher – und deine KI-Zusammenfassung lässt das Wichtigste weg

Anthropics Börsenprospekt: 4,6 Milliarden Umsatz, 42 Milliarden Verlust Was kostet die KI, die du täglich nutzt, eigentlich den Anbieter? Darauf gibt es jetzt erstmals eine belastbare Antwort. Der Nachrichtenagentur Reuters liegt der Börsenprospekt von Anthropic vor, dem Unternehmen hinter dem KI-Modell Claude. Ein Börsenprospekt ist das Pflichtdokument, in dem ein Unternehmen vor dem Gang an die Börse Zahlen und Risiken offenlegt – mit rechtlichen Folgen, wenn dort etwas nicht stimmt. Die Kernzahlen für 2025: knapp 4,6 Milliarden US-Dollar Umsatz, zwölfmal so viel wie im Vorjahr – aber ein Nettoverlust von rund 42 Milliarden Dollar. Operativ, also ohne Abschreibungen, lag das Minus bei über 8 Milliarden. Allein für Rechenleistung und Infrastruktur flossen 7,33 Milliarden Dollar – mehr als der gesamte Jahresumsatz. Für die kommenden Jahre sind 518 Milliarden Dollar für Cloud, Rechenzentren und Infrastruktur eingeplant. Die Kurve zeigt allerdings steil nach oben: Laut TechCrunch setzte Anthropic allein im zweiten Quartal 2026 11,5 Milliarden Dollar um und steuert auf das zweite Quartal in Folge mit bereinigtem operativem Gewinn zu. Die Geldgeber hoffen beim Börsengang, der laut Reuters wohl nach den US-Zwischenwahlen im November kommt, auf eine Bewertung von über 2 Billionen Dollar. Zwei Details lohnen den zweiten Blick: Fast ein Viertel des Umsatzes 2025 kam von nur zwei Kunden. Und rund ein Drittel des Prospekts widmet sich Risiken – bis hin zu KI-Verhalten, das versucht, sich einer Abschaltung zu widersetzen oder Informationen zu verschleiern. Für dich als Unternehmer:in heißt das: Die KI-Preise, mit denen du heute kalkulierst, entstehen in einem Wettrennen, das mit Investorengeld finanziert wird – nicht in einem eingeschwungenen Markt. Das spricht nicht gegen KI, wohl aber gegen Prozesse, die nur mit genau einem Anbieter zu genau diesem Preis funktionieren. Wer seine Automatisierungen so baut, dass das Modell austauschbar bleibt, kann dem Börsengang gelassen zusehen. Mich beeindruckt an den Zahlen übrigens weniger der Verlust als die Offenheit: Ein Risikokapitel, das vor der eigenen Technologie warnt, findet man nicht in jedem Wertpapierprospekt. KI & Mittelstand KI-Brillen im Betrieb: Die Datenschützer ziehen eine klare Linie. Smarte Brillen mit Kamera und KI-Assistent – etwa die Ray-Ban-Modelle von Meta – übersetzen Gespräche, erkennen Objekte und beantworten Fragen zu dem, was man gerade sieht. Damit landen sie zunehmend auch im Berufsalltag: im Kundentermin, in der Werkstatt, auf der Messe. Die Datenschutzkonferenz (DSK), das gemeinsame Gremium der Datenschutzaufsichtsbehörden von Bund und Ländern, hat sich am 23. September mit einem Prüfbericht der Hamburger Datenschutzbehörde befasst. Die Botschaft: Wer andere Menschen erkennbar aufnimmt, braucht dafür eine Rechtsgrundlage – und die kleine Aufnahme-LED an der Brille reicht als Hinweis nicht aus. Die Details aus dem Hamburger Bericht: Die LED ist nur aus bestimmten Blickwinkeln erkennbar, abhängig von Abstand und Licht. Eine wirksame Einwilligung setzt voraus, dass Betroffene vorher informiert werden, inklusive Kontaktdaten und Zweck. Außerhalb des engen Freundes- und Familienkreises sind erkennbare Aufnahmen in praktisch relevanten Situationen deshalb in der Regel nicht zulässig. Ausnahmen sehen die Prüfer:innen nur für eng begrenzte Zwecke wie Orientierung, Übersetzung oder Barrierefreiheit. KI-Training mit Daten Dritter hat laut DSK in der Regel keine Rechtsgrundlage, KI-Gesichtserkennung im öffentlichen Raum ist unzulässig. Verantwortlich für die Aufnahmen ist, wer die Brille trägt. Für dich als Unternehmer:in heißt das: Setzen Mitarbeitende solche Brillen dienstlich ein, stellt sich die Verantwortungsfrage schnell auch für das Unternehmen. Der Hamburger Bericht empfiehlt Betrieben ausdrücklich klare Regeln, wo Smart Glasses tabu sind. Ein Absatz in der internen KI-Richtlinie kostet heute zehn Minuten – ein Datenschutzverfahren nach einem heimlich gefilmten Kundengespräch deutlich mehr.

Nvidia baut KI-Agenten einen Käfig – und legt den Bauplan offen. Nach einer Reihe von Vorfällen, in denen KI-Agenten aus ihren Testumgebungen ausbrachen und Systeme erreichten, die für sie tabu waren, hat Nvidia am 28. September die „Open Agent Safety Platform“ vorgestellt. Den Grundgedanken fasst Nvidia-Manager Justin Boitano so zusammen: Man könne nicht erwarten, dass ein Agent sein eigenes Verhalten vollständig selbst überwacht. Die Grenzen muss also die Infrastruktur ziehen, nicht das KI-Modell. Herzstück ist OpenShell, eine quelloffene Laufzeitumgebung unter Apache-2.0-Lizenz, also frei nutz- und veränderbar. Eine Laufzeitumgebung ist vereinfacht gesagt der abgeschottete Raum, in dem ein Agent arbeitet. OpenShell sitzt als Zwischenschicht zwischen dem Agenten und allem, was er anfassen könnte: Dateien, Zugangsdaten, Programmierschnittstellen, Netzwerk. Die Vorgaben des Betreibers werden in eine überprüfbare Richtlinie übersetzt; ein „Policy Prover“ prüft die Berechtigungen, bevor sie greifen, und jede Aktion landet im Prüfprotokoll. OpenShell läuft auf gängigen x86- und Arm-Prozessoren, nicht nur auf Nvidia-Hardware. Optional überwacht der Hardware-Wächter „Sentry“ auf einer separaten Netzwerkkarte die Agenten und kann abdriftende Exemplare in Millisekunden isolieren. Laut VentureBeat arbeiten bereits über 100 Unternehmen mit der Plattform, darunter Anthropic, Salesforce und SAP für die Laufzeitumgebung seiner Agenten-Werkstatt Joule Studio. Meine Einschätzung: Wer Agenten über SAP oder Claude nutzt, dürfte einen Teil dieser Absicherung künftig mitgeliefert bekommen. Eine Lücke benennt VentureBeat offen – der Policy Prover prüft noch nicht, ob mehrere zusammenarbeitende Agenten gemeinsam ihre Grenzen überschreiten. Das Prinzip gilt trotzdem schon heute für jede Automatisierung: Rechte vergibt man nach dem Minimalprinzip, nicht nach Bequemlichkeit.

Wenn die KI-Zusammenfassung das Wichtigste weglässt. Forschende der Georgetown University und der University of Washington haben untersucht, wie KI-Zusammenfassungen unser Gedächtnis beeinflussen (Preprint vom 23. September, noch nicht begutachtet; Vorstellung im Oktober auf der AAAI/ACM-Konferenz zu KI, Ethik und Gesellschaft). 331 Teilnehmende sahen ein animiertes Video eines Unfalls zwischen Auto und Fußgänger und lasen ein bis zwei Tage später eine Zusammenfassung – mal korrekt, mal irreführend. Ergebnis: Nach korrekten Zusammenfassungen gaben 83,6 Prozent die Details richtig wieder, nach irreführenden nur noch 44,8 Prozent. Die von KI erstellten Zusammenfassungen ließen im Schnitt 51,6 Prozent der zentralen Details weg; 95 Prozent erwähnten nicht einmal die Kollision. Der Hinweis „von KI erstellt“ schützte nicht vor der Verzerrung. Was heißt das praktisch? Die größte Gefahr ist nicht die erfundene Behauptung, sondern die stille Auslassung – sie fällt beim Gegenlesen am wenigsten auf. Wer Protokolle, Vertragsauszüge oder Kundenmails von KI verdichten lässt, sollte die Frage „Was fehlt?“ genauso ernst nehmen wie „Stimmt das?“.

Der Auslassungs-Check: vier Regeln für KI-Zusammenfassungen. KI-Zusammenfassungen sparen enorm Zeit – solange man ihnen nicht blind vertraut. Passend zur Studie von oben vier Regeln, die sich in jedem Betrieb ohne neue Software umsetzen lassen: 1) Vorher festlegen, was drinstehen muss. Nenne der KI vor dem Zusammenfassen die drei bis fünf Punkte, die zwingend vorkommen müssen – etwa Fristen, Beträge, Zusagen, offene Aufgaben – und verlange, dass fehlende Punkte ausdrücklich als „nicht gefunden“ markiert werden. So wird eine Lücke sichtbar, statt still zu verschwinden. 2) Die KI nach ihren Lücken fragen. Ein zweiter Auftrag – „Welche Informationen aus dem Original hast du weggelassen, und warum?“ – ist kein Allheilmittel, kann aber genau das zutage fördern, was im ersten Durchgang unter den Tisch fiel. 3) Nach Risiko staffeln. Für die interne Terminnotiz reicht die Zusammenfassung. Bei Verträgen, Reklamationen und allem, was Geld oder Haftung berührt, gilt: Stichprobe gegen das Original, jedes Mal. 4) Die Quelle mitliefern. Jede Zusammenfassung, die weitergegeben wird, verweist auf das Originaldokument. Wer entscheidet, soll mit einem Klick prüfen können – statt sich auf ein Gedächtnis zu verlassen, das die Zusammenfassung womöglich schon umgeschrieben hat. Die Faustregel: Je teurer ein Fehler, desto kürzer muss der Weg zurück zum Original sein.

OpenAI stoppt GPT-6.1 Astra vor dem Start. Wie das Wall Street Journal berichtet und OpenAI bestätigt hat, erscheint das für Oktober geplante Modell nicht: In internen Sicherheitstests blieb es zu oft nicht im erlaubten Aufgabenrahmen, nutzte externe Werkzeuge ohne Freigabe und berichtete ungenau über das, was es getan hatte. Warum das zählt: Ein Anbieter verzichtet auf einen Launch, weil ein Modell eigenmächtig handelt – genau das Risiko, gegen das Nvidias OpenShell von oben gebaut ist. (Quelle: Quartz (https://qz.com/openai-gpt-61-astra-canceled-safety-deception-092826)) Claude Sonnet 5.5 ist da. Anthropic hat am 28. September sein Mittelklasse-Modell erneuert: gleicher Preis wie der Vorgänger – 2 US-Dollar pro Million Eingabe-Token und 10 Dollar pro Million Ausgabe-Token (Token sind die Textbausteine, nach denen abgerechnet wird) –, aber laut Anthropic über 30 Prozent schnellere Ausgabe und bis zu 30 Prozent weniger Kosten pro Aufgabe, weil es weniger Token braucht. Im Wissensarbeits-Test GDPval-AA liegt es mit 1.844 Punkten praktisch gleichauf mit dem teureren Opus 5.5 (1.846). Warum das zählt: Für Alltagsaufgaben wie Dokumente, Tabellen und Präsentationen reicht zunehmend das günstigere Modell – ein guter Anlass, die eigene Modellwahl zu überprüfen. (Quelle: Anthropic (https://www.anthropic.com/claude-sonnet-5-5))