Yapay zeka alanında faaliyet gösteren Anthropic, biyolojik silah geliştirilmesine yönelik riskler hakkında önemli bir rapor yayımladı. Bu raporda, yapay zekanın kötüye kullanım potansiyeli ve buna karşı alınacak önlemler ele alındı. Şirket, yapay zeka modellerinin mevcut patojenleri daha tehlikeli hale getirme veya yeni patojenler üretme kapasitesine sahip olduğunu vurguladı.
Biyolojik Kötüye Kullanım Tehlikesi
Raporda, yapay zeka teknolojisinin biyolojik kötüye kullanım riski taşıdığına dikkat çekilirken, bazı kullanıcıların bu modelleri biyolojik silah geliştirmek amacıyla nasıl kullandıkları örneklerle açıklandı. Örneğin, desteklenmeyen bir bölgede çalışan bir araştırmacının, Claude adlı yapay zeka modeli ile kuş gribinin memelilere adaptasyonunu araştırmaya çalıştığı belirtildi. Ayrıca, devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı kaydedildi.
Önlemler ve Gelecek Adımlar
Bu tür faaliyetlerin tespit edilmesinin ardından, Anthropic, ilgili kullanıcıların hesaplarını engelledi ve önleyici adımlar atıldığını duyurdu. Raporda, bu tür örneklerdeki kişilerin kötü niyetli olduğu iddia edilmediği, sadece tedbirli davranıldığı vurgulandı. Ayrıca, yapay zeka sektöründe biyolojik riskler hakkında bir diyalog başlatmayı hedeflediklerini ifade ettiler. Şirketin çalışanı Jacob Coxon'un, yapay zekanın insanüstü sistemler haline gelebileceği konusunda endişelerini dile getirerek istifa etmesi ise geniş bir yankı uyandırmış durumda.
