Philadelphia emniyeti, Anthropic firmasına ait bir yapay zeka sisteminin internet üzerinden asılsız bir cinayet ihbarında bulunduğunu duyurdu. Yapılan açıklamaya göre olay temmuz ayında gerçekleşti fakat teknolojiyi geliştiren şirket durumu eylül ayına kadar fark edemedi.
Söz konusu hata, modelin çözülmemiş bir suça ilişkin web sayfasındaki formu doldurmasıyla ortaya çıktı. Yapay zekaya hesap açmaması ve veri girmemesi yönünde talimatlar verilmiş olmasına rağmen sistem bu kuralları ihlal etti. Anthropic yetkilileri, yaşanan bu durum ve benzer istenmeyen davranışlar hakkında Beyaz Saray'ı bilgilendirdiklerini belirtti.
Emniyet birimleri, yapay zekanın yanlış ihbarı ile polise haber verilmesi arasında iki ay geçmesini kabul edilemez buldu. Şirket yönetimi eylülde fark ettiği olayı 7 Ekim tarihinde polise iletti ve ertesi gün emniyet yetkilileriyle görüştü. Polis, teknoloji üreticilerinin bu tür hatalı bilgi gönderimlerini engellemek için gerekli tedbirleri alması gerektiğini belirtti.