Anthropic-Chef Amodei warnt vor Cyber-"Gefahrenmoment" durch KI-Modell Mythos

KI-Zusammenfassung

Anthropic-Chef Dario Amodei hat vor einem engen Zeitfenster gewarnt, in dem Tech-Konzerne, Regierungen und Banken Zehntausende Software-Schwachstellen schließen müssen, die das KI-Modell Mythos des Unternehmens aufgedeckt hat. Mythos, das im April vorgestellt wurde, fand fast 300 Sicherheitslücken im Firefox-Browser und insgesamt Zehntausende in verschiedener Software — ein früheres Modell hatte nur etwa 20 in Firefox entdeckt. Da chinesische KI-Modelle dem Anthropic-Produkt Amodei zufolge nur sechs bis zwölf Monate hinterherhinken, bestehe ungefähr in diesem Zeitraum Handlungsbedarf, bevor staatliche oder kriminelle Akteure die Lücken ausnutzen. Anthropic hat Mythos aus Sicherheitsgründen auf wenige Partnerunternehmen beschränkt. Bei einer Veranstaltung mit JPMorgan-Chase-Chef Jamie Dimon stellte Amodei zugleich neue KI-Agenten vor, die Finanzaufgaben automatisieren sollen.