Laut einem Bericht der Financial Times führen die britischen Finanzaufsichtsbehörden dringende Gespräche mit der Cybersicherheitsbehörde der Regierung und großen Banken, um die Risiken eines neuen KI-Modells namens Anthropic zu bewerten.
Vertreter der Bank of England, der Financial Conduct Authority und des Finanzministeriums führen Gespräche mit dem National Cyber Security Centre, um gemeinsam mögliche Schwachstellen in kritischen IT-Systemen zu untersuchen, die das neuronale Netzwerk identifiziert hat.
In der Veröffentlichung wird darauf hingewiesen, dass innerhalb der nächsten zwei Wochen die größten Finanzinstitute, Versicherungsgesellschaften und Börsen Informationen über die mit Claude Mythos verbundenen Cyberrisiken erhalten werden.
Ängste vor KI
Das neue neuronale Netzwerk erwies sich als so leistungsstark, dass die Entwickler von einer öffentlichen Veröffentlichung absahen. Stattdessen wurde das Projekt Glasswing ins Leben gerufen, eine Initiative zum Testen des Tools in einer kontrollierten Umgebung mit Beteiligung von AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, der Linux Foundation, Microsoft, Nvidia und Palo Alto Networks.
Grund zur Besorgnis war, dass Mythos innerhalb weniger Wochen Tausende von Zero-Day-Schwachstellen in wichtigen Betriebssystemen und Webbrowsern entdeckt hatte.
Das Ausmaß der potenziellen Bedrohung veranlasste US-Finanzminister Scott Bessant und den Vorsitzenden der Federal Reserve, Jerome Powell, zu einem Krisentreffen mit Führungskräften der Wall Street. Offizielle Vertreter warnten Topmanager, darunter die Citigroup-Vorsitzende Jane Fraser und den Goldman-Sachs-Chef David Solomon, dass der Start von Mythos eine neue Ära in der Cybersicherheit einläute.
Die Bank von Kanada und die größten Finanzinstitute des Landes trafen sich ebenfalls, um „die systemischen Risiken im Zusammenhang mit dem Aufkommen eines solch fortschrittlichen KI-Modells zu bewerten“. Die Initiative zielt darauf ab, „die operative Widerstandsfähigkeit des kritischen Finanzsektors des Landes zu stärken“.
Wird der Hype aufgebauscht?
TechCrunch merkte an, dass die Einschränkung des Zugangs zu Mythos Teil einer Marketingkampagne sein könnte, um die Aufmerksamkeit auf das neue KI-Modell zu lenken.
Im März betonte Dan Lahav, Leiter des auf KI spezialisierten Startups Irregular, dass die automatisierte Schwachstellensuche zwar eine wichtige Rolle spiele, der tatsächliche Nutzen einer gefundenen „Lücke“ für Hacker jedoch von vielen Faktoren abhänge.
Anthropic behauptet, Mythos sei in der Lage, ein breiteres Spektrum an Schwachstellen auszunutzen als Opus, aber es ist unklar, ob dieses LLM wirklich die ideale Lösung für Cybersicherheit ist.
Das Startup Aisle gab an, die meisten Erfolge von Mythos mithilfe anderer neuronaler Netze nachbilden zu können. Laut dem Unternehmen gibt es kein einheitliches Modell für Cybersicherheit – die Wahl des Werkzeugs hängt stets von der jeweiligen Aufgabe ab.
Ein Grund dafür, dass führende KI-Labore Veröffentlichungen absichtlich einschränken, ist der Wunsch, Exklusivverträge mit großen Unternehmen abzuschließen und es Konkurrenten durch Destillation zu erschweren, die Tools zu kopieren.
„Dies ist ein Marketingtrick, der die Tatsache verschleiern soll, dass Topmodelle jetzt nur noch über Firmenverträge erhältlich sind und nicht mehr kleinen Laboren zum Testen zur Verfügung gestellt werden“, bemerkte David Crawshaw, CEO von exe.dev.
Er fügte hinzu, dass nach der öffentlichen Einführung von Mythos ein neues, hochmodernes LLM-Programm exklusiv für Firmenkunden verfügbar sein wird. Dieser Ansatz trägt dazu bei, den Kapitalfluss aufrechtzuerhalten und Unternehmen einzuschränken, die Algorithmen entwickeln.
Anthropopathen an vorderster Front
Das Startup Anthropic hat in den letzten Monaten seine Zielgruppe deutlich erweitert. Die Lösungen des Unternehmens sind stark nachgefragt, und der Umsatz wächst exponentiell.
Journalisten von TechCrunch berichteten, dass auf der HumanX AI-Konferenz in San Francisco Tausende von KI-Experten über die Möglichkeiten der Technologie diskutierten und Claude am häufigsten als eines der besten Produkte auf dem Markt genannt wurde.
Anthropic wurde in vielen Podiumsdiskussionen erwähnt. ChatGPT fand kaum Beachtung. Ein Experte merkte an, dass OpenAI „aus dem Spiel genommen“ worden sei.
Viele Konferenzteilnehmer betonten, dass Sam Altmans Unternehmen eine klare Entwicklungsrichtung verloren habe. Ein kürzlich erschienener Artikel über den Chef des Startups heizte die Debatte weiter an und bezeichnete ihn als Diktator und Betrüger, der seine ursprüngliche, hehre Mission aufgegeben habe.
Es ist noch zu früh, OpenAI zu verstecken.
Eine aktuelle Analyse der Finanzdaten von OpenAI und Anthropic ergab, dass beide Unternehmen „die am schnellsten wachsenden Unternehmen der Geschichte“ sind.
In diesem Kontext zeigt der „Niedergang“ von Altmans Unternehmen lediglich, dass es nicht mehr unangefochtener Marktführer ist. Das Unternehmen hat Konkurrenten – das ist in den meisten Branchen normal, wie TechCrunch anmerkte.
OpenAI hat ganz offensichtlich nicht die Absicht, seine Vormachtstellung einzubüßen. Das Unternehmen hat ein neues Abo für 100 US-Dollar angekündigt, das einen breiteren Zugang zu seinem Programmierwerkzeug Codex ermöglicht.
Zur Erinnerung: Im April veröffentlichte Anthropic eine Umgebung für die Ausführung komplexer und langlaufender Agentenaufgaben – Claude Managed Agents.