Geheimdienstausschuss warnt vor KI-Black-Swan-Risiken durch Terroristen

KI-Zusammenfassung

Der Ständige Sonderausschuss für Nachrichtendienste des US-Repräsentantenhauses hat US-Spionagebehörden in einem neuen Bericht aufgerufen, sich besser auf „Black-Swan“-Risiken durch künstliche Intelligenz vorzubereiten. Die Autoren – Ausschussvorsitzender Rick Crawford (Republikaner, Arkansas), der ranghöchste Demokrat Jim Himes (Connecticut) sowie die Abgeordneten Elise Stefanik (Republikanerin, New York) und Josh Gottheimer (Demokrat, New Jersey) – warnen, dass Terroristen oder feindliche Akteure KI nutzen könnten, um gefährlichere Waffen zu entwickeln und tödlichere Anschläge zu planen. Der Bericht bewertet die US-amerikanischen Bemühungen der vergangenen 25 Jahre zur Vermeidung nachrichtendienstlicher Versäumnisse wie vor dem 11. September 2001 und erscheint knapp zwei Wochen vor dem 25. Jahrestag dieser Anschläge. Frontier-Large-Language-Modelle könnten demnach kriminellen Akteuren einschließlich Terroristen den Weg zu destruktiveren Angriffen erheblich erleichtern. Obwohl KI-Labore versuchen, Modelle davon abzuhalten, Informationen etwa zur Herstellung von Biowaffen zu liefern, entwickelt sich die zugrunde liegende Leistungsfähigkeit der Systeme so schnell, dass solche Missbräuche schwer vollständig zu kontrollieren sind.