Anthropic meldet unterbundene Missbrauchsversuche: Biowaffen, Raketen, Cyberoperationen

KI-Zusammenfassung

Anthropic legt im Bericht „Detecting and countering misuse of AI“ Fälle aus den vergangenen acht Monaten offen, in denen Modelle der Familien Haiku, Sonnet und Opus für verbotene Zwecke genutzt werden sollten; Mythos und Fable waren demnach nicht betroffen. Genannt werden Missbrauchsversuche in den Feldern Cyberoperationen, Einflussnahme, Überwachung, Betrug, biologischer Missbrauch, konventionelle Waffenentwicklung und Destillation. Bei biologischem Missbrauch blockierte das Unternehmen etwa den Versuch, über Claude einen Förderantrag für „Gain-of-function“-Forschung an einem Virus für eine militärische Einrichtung zu formulieren, sowie tausende Nachrichten über eine anonyme E-Mail-Adresse und VPN zu einem hochansteckenden Grippevirus. Anthropic spricht von nicht eindeutigen Hinweisen, habe die Nutzung aber aus Vorsicht unterbunden. Im Bereich konventioneller Waffen nennt der Bericht Akteure aus dem Norden Jemens, die Anfragen zur Weiterentwicklung von Raketen aufgespalten hatten.