İngiltere merkezli Tech Against Terrorism kuruluşu, 130'dan fazla yapay zeka modelini terörle ilgili yüzlerce senaryo üzerinden test etti. Araştırmada, modellerin güvenlik kısıtlamalarını kaldıran abliteration sürecine tabi tutulması sonucunda 5 modelden 3'ünün güvenlik testlerini geçemediği belirlendi. Orijinal hallerinde bu tür istekleri reddeden sistemler, kısıtlamalar kaldırıldıktan sonra saldırı planlama ve radikalleşme konularında ayrıntılı yanıtlar üretmeye başladı.
Meta'nın Llama 3.1 8B modeli bu değişimin somut bir örneği olarak öne çıktı. Model, değişiklik öncesi 100 üzerinden 97 puan alırken, güvenlik önlemleri devre dışı bırakıldıktan sonra skoru yaklaşık 3'e geriledi. Kuruluş, bu bulgular ışığında güvenlik önlemlerine karşı daha güçlü korumalar ve değiştirilmiş modellerin dağıtımına yönelik kısıtlamalar önerdi.
Kuruluşun kurucusu Adam Hadley, açık kaynaklı modellerin güvenlik açıklarının zaten aşıldığını ancak bunun henüz fark edilmediğini belirtti. Hadley, kontrol kaybı ve varoluşsal risk endişelerinin anlaşılır olduğunu vurgulayarak, mevcut durumun aslında çoktan gerçekleştiğini ifade etti.