Meta spielt jetzt in der Oberliga, Microsoft will einen Not-Aus für KI

Meta bringt Muse Wonder und spielt bei den Spitzenmodellen mit Meta hat am 12. Oktober zwei neue KI-Modelle veröffentlicht, Muse Wonder und Muse Wonder Full. TechCrunch wertet das als ersten Versuch des Konzerns, ein Spitzenmodell zu bauen. Bisher hatte Meta mit Muse Spark vor allem ein leichtes, schnelles Modell im Angebot. Laut Metas eigenem Modellsteckbrief erreichen die neuen Modelle in Leistungstests ähnliche Werte wie Fable 5.1 von Anthropic und GPT-6 Astra von OpenAI. Unabhängig nachgemessen ist das noch nicht. Muse Wonder ist ab sofort über Metas Programmierschnittstelle buchbar und kostet 4 US-Dollar pro Million Token Eingabe und 20 Dollar pro Million Token Ausgabe. Token sind die Wortbausteine, nach denen KI-Anbieter abrechnen. TechCrunch ordnet den Preis auf dem Niveau von GPT-6 Sol und Claude Opus 5.5 ein. Die größere Variante Wonder Full gibt es nur im Abo des Programmierwerkzeugs Muse Code. Meta wirbt mit zwei Funktionen. Active Memory merkt sich, was einer Person wichtig ist, und holt es in späteren Gesprächen wieder hervor. Active Focus soll einen Agenten bei schwierigen Aufgaben dranbleiben lassen, andere Lösungswege probieren lassen und vor wichtigen Schritten eine Rückfrage auslösen. Den vollständigen Sicherheitsbericht hat Meta erst angekündigt, und ob das Modell in der EU per Schnittstelle buchbar ist, lassen die Ankündigungen offen. Ich würde Muse Wonder deshalb vorerst testen und noch nicht in Kundenprozesse einbauen. Für den Einkauf ist die Meldung trotzdem gut. Mit einem vierten großen Anbieter in der Spitzenklasse rechne ich damit, dass hohe Preise für Modelle dieser Liga schwerer zu halten sind. Für jede Milchpackung im Supermarkt gelten Sicherheitsregeln und Kontrollen, für KI deutlich weniger. Das hat Microsoft-Präsident Brad Smith der BBC gesagt, berichtet der Guardian am 12. Oktober. Smith nennt KI Werkzeug und Waffe zugleich und will sie dringend regulieren. KI-Systeme sollen einen Not-Aus bekommen, mit dem Menschen sie bremsen oder anhalten können, wenn sie außer Kontrolle geraten. Wessen System von einem fremden, aus dem Ruder gelaufenen Agenten geknackt wird, soll rechtliche Ansprüche bekommen. Neue Modelle sollen außerdem vor dem Start von externen Prüfern freigegeben werden, ergänzt TechCrunch. Freiwillige Zusagen, wie sie die großen Labore im September im Weißen Haus unterschrieben haben, reichen Smith nicht, weil sie nur Firmen binden, die sich ohnehin daran halten. Dass ausgerechnet ein Konzern, der selbst Agenten verkauft, schärfere Regeln verlangt, überrascht mich weniger, als es sollte. Prüfpflichten kann ein Konzern dieser Größe leicht bezahlen, kleinere Wettbewerber tun sich damit schwerer. In der EU ist ein Teil dieser Debatte bereits entschieden. Die KI-Verordnung (AI Act) behandelt KI in Bereichen wie Personalauswahl, Bildung oder kritischer Infrastruktur als Hochrisiko-Anwendung. Die Regeln dafür gelten nach der Übersicht der EU-Kommission ab dem 2. Dezember 2027. Einen Not-Aus für die eigenen Agenten kann jeder Betrieb schon heute einrichten, wie weiter unten in der Praxis beschrieben.

Microsoft hat am 7. Oktober sein Baukastensystem Copilot Studio um eine Reihe von Prüfwerkzeugen erweitert. Auf dieser Plattform stellen Fachabteilungen ohne tiefe Programmierkenntnisse eigene Agenten für Microsoft 365 zusammen. Am meisten bringt aus meiner Sicht das Prüfpanel, das jetzt allgemein verfügbar ist. Es zeigt schon beim Bauen Fehler und Warnungen an, sortiert nach Schwere. Außerdem meldet es, wenn ein Agent noch nie getestet wurde oder ein Modellwechsel alte Testergebnisse entwertet haben könnte. Ausgebaut hat Microsoft auch die Tests, im Fachjargon Evaluations. Dabei löst ein Agent vorbereitete Aufgaben, und die Ergebnisse werden gemessen. Neu sind Messgrößen dafür, ob die gewünschte Aufgabe tatsächlich erledigt wurde, ob der Agent die richtigen Werkzeuge mit den richtigen Eingaben aufgerufen hat und wie lange er braucht. Wer nur prüfen soll, bekommt eine eigene Leserolle und keine Bauberechtigung. Für Technikteams kommen sogenannte Hooks hinzu, vorerst als Vorschau und für Agenten, die auf Microsofts GitHub-Copilot-Technik laufen. Ein Hook ist ein Haken im Ablauf, an dem eigene Regeln greifen, etwa beim Start einer Sitzung, bei jedem Werkzeugaufruf oder bei einem Fehler. Damit lässt sich ein Werkzeugaufruf prüfen, ändern oder blockieren, bevor er etwas auslöst. Im Kleinen ist das die Bremse, die Brad Smith im Großen fordert.

Seit dem Start von Claude Fable 5 erleben Erwachsene in den USA nicht häufiger Cybervorfälle als zuvor. Das zeigt eine Auswertung von Caroline Falkman Olsson und Yafah Edelman vom Forschungsinstitut Epoch AI vom 7. Oktober. Grundlage sind zwei repräsentative Ipsos-Umfragen mit jeweils gut 1.000 Befragten im Juni und im September. Im Juni meldeten 46 Prozent mindestens einen Vorfall in den vergangenen zwölf Monaten, im September 45 Prozent. Am häufigsten nannten die Befragten Spam, Anrufe oder Videos, die auffallend überzeugend oder persönlich zugeschnitten wirkten, in beiden Wellen rund 32 Prozent. Die Autor:innen schränken selbst ein, dass die Umfrage nicht erfasst, welche Vorfälle auf KI zurückgehen, und kleinere Veränderungen übersehen kann. Andere Signale, etwa mehr gemeldete schwere Sicherheitslücken seit Juni, deuten weiter auf wachsende Angriffsfähigkeiten hin. Für Panik geben die Zahlen also keinen Anlass. Die Sorgfalt bei Updates und Zugangsrechten ersetzen sie trotzdem nicht.

Der Not-Aus für deine KI-Agenten Was Brad Smith für die ganze Branche fordert, lässt sich im eigenen Betrieb mit vier Vorkehrungen umsetzen, lange bevor ein Gesetz es verlangt. Erstens braucht jeder Agent einen benannten Menschen, der ihn abschalten darf, samt Vertretung im Urlaub. Steht dieser Name nirgends, sucht im Ernstfall die halbe Firma nach dem richtigen Passwort. Zweitens sollte das Abschalten in einem einzigen Schritt gelingen. In der Praxis heißt das, den Zugangsschlüssel des Agenten zu sperren oder seinen Workflow zu deaktivieren. Einmal im Quartal probeweise durchspielen, sonst weiß niemand, ob es klappt. Drittens gehört ein kurzer Meldeplan dazu. Darin steht, wer informiert wird, wenn ein Agent Daten an falsche Empfänger schickt oder in einem Kundensystem etwas auslöst, das niemand wollte. Sind personenbezogene Daten betroffen, können Meldepflichten nach der DSGVO greifen, deshalb gehört der oder die Datenschutzbeauftragte auf die Liste. Viertens wird nach jedem Modellwechsel neu getestet. Copilot Studio warnt inzwischen von selbst davor, auf anderen Plattformen musst du selbst daran denken. Zehn typische Aufgaben, die der Agent vor und nach dem Wechsel löst, reichen für einen ersten Vergleich.

1. Amazon verzichtet bei Verhandlungen mit Kommunen über neue Rechenzentren künftig auf Verschwiegenheitsvereinbarungen. Microsoft hatte einen ähnlichen Schritt schon früher im Jahr angekündigt. Hintergrund ist wachsender Widerstand gegen Rechenzentren, der Bundesstaat New York hat Genehmigungen für große Projekte vorerst ausgesetzt. Wer fest mit wachsender Rechenleistung aus der Cloud plant, sollte solche Verzögerungen beim Ausbau einkalkulieren. (TechCrunch) 2) 72 Prozent der Menschen in Deutschland wollen, dass KI-Einsatz in Büchern gekennzeichnet wird. Das ergab eine Bitkom-Umfrage unter 1.006 Personen ab 16 Jahren, veröffentlicht am 6. Oktober. 79 Prozent finden KI-Übersetzungen in Ordnung, ein komplett von KI geschriebenes Buch würden nur 29 Prozent lesen. Wer Kataloge, Ratgeber oder Kundenmagazine mit KI erstellt, fährt mit Offenheit vermutlich besser. (Bitkom)