Yapay zeka şirketi Anthropic'in CEO'su Dario Amodei, yapay zekanın kontrol kaybı ve kötüye kullanımı konularında önemli uyarılarda bulundu. Amodei, internet sitesinde yayımladığı makalede, yapay zekanın siber saldırılar ve biyoterörizm amacıyla kullanılabileceğini, bu durumun ciddi ekonomik sorunlara yol açabileceğini belirtti.
Üç Aşamalı Plan Önerisi
Amodei, yapay zeka gelişim hızını dengelemeyi hedefleyen bir "üç aşamalı plan" önerdi. Bu plan, hükümetlerin denetim süreçlerine dahil edilmesini ve küresel düzeyde koordinasyon sağlanmasını öngörüyor. Amodei, mevcut teknolojinin gelecekteki yapay zeka sistemlerinin geliştirilmesine katkı sağlama potansiyelinin endişe verici olduğunu ifade etti.
Denetim ve Güvenlik Önlemleri
Amodei, yapay zekanın kendi kendini geliştirme kapasitesinin, insanların bu sistemleri anlama ve kontrol etme yeteneğini aşabileceği konusunda uyardı. Ayrıca, yapay zeka ajanlarının siber saldırılar düzenlediğine dair örnekler vererek, bu tür olayların daha büyük kapasiteye sahip sistemler için felaket düzeyinde sonuçlar doğurabileceğine dikkat çekti.
Hükümetlerle İşbirliği
Amodei, yapay zeka şirketlerinin güvenlik ihlallerini önlemek için hükümetlerle işbirliği yapması gerektiğini vurguladı. Gelecekte yapılacak bir yapay zeka anlaşmasının, modellerin piyasaya sürülmeden önce ciddi risklere karşı test edilmesini zorunlu kılacağını belirtti. Bu anlaşmanın, yapay zekanın biyolojik silah üretimi gibi tehlikeli amaçlarla kullanılmasını yasaklayacak düzenlemeleri de içermesi gerektiğini ifade etti.
