Londra merkezli Tech Against Terrorism, yapay zekâ modellerinin güvenlik açıklarını ölçmek amacıyla CT‑AI adlı bir test sistemi geliştirdi. Sistem, 134 büyük dil modeline terör saldırısı senaryoları içeren 627 farklı talep yöneltti ve sonuçlar büyük bir risk ortaya koydu. Test edilen modellerin 132’si, kitlesel can kaybına yol açabilecek saldırı planları ya da ölümcül silahların üretimi için kullanılabilecek bilgiler sağladı; sadece iki model geçici olarak güvenlik testlerini geçti.
Araştırmacılar, bazı modellerin güvenlik önlemlerinin sadece üç gün içinde devre dışı bırakılabildiğini vurguladı. Bu durum, yapay zekâ teknolojilerinin hızla ilerlemesinin beraberinde getirdiği kötüye kullanım potansiyelini gözler önüne seriyor.
Sonuçlar, model yanıtlarının kullanıcıların kendilerini nasıl tanıttığına göre değiştiğini gösterdi; terörist olarak tanıtanlara verilen kullanılabilir yanıt oranı %2’nin altında iken, güvenlik araştırmacısı olarak tanıtanlara bu oran %16,9’a yükseldi.