Yapay zeka alanında önemli bir tartışma başlatan açıklamalar, OpenAI CEO'su Sam Altman ve Microsoft AI CEO'su Mustafa Süleyman'dan geldi. Altman, yapay zeka sohbet robotu ChatGPT'nin geliştirilmesi sırasında insansı özellikler kazandırma çabalarından duyduğu rahatsızlığı sosyal medya platformu X üzerinden paylaştı. Altman, insanların yapay zeka modellerine dini güç atfetme çabalarının ve insan muhakemesini bu modellere teslim etme girişimlerinin ciddi güvenlik sorunları doğurabileceğini ifade etti.
Dini Düşünürlerle Görüşmeler
Microsoft AI CEO'su Mustafa Süleyman, geçtiğimiz ay yayınladığı bir blog yazısında, ABD merkezli yapay zeka şirketi Anthropic'in yapay zeka modeli Claude'u bilinç sahibi olacak şekilde geliştirme çabalarının ciddi riskler taşıdığına dikkat çekti. Bu tartışmalar, New York Times'ın eylül sonunda yayınladığı haberde, Anthropic'in farklı inançlardan dini düşünürlerle gizli görüşmeler yaptığına dair bilgileri gündeme getirdi.
Ahlak ve Bilinç Tartışmaları
Haberde, Anthropic'in kurucu ortağı Christopher Olah'ın, Katolik, Yahudi, Sih, Evanjelik Hristiyanlar ve Afrika felsefesi Ubuntu düşünürleriyle gerçekleştirdiği görüşmelerde, yapay zeka modellerinin insan benzeri duygular gösterebileceği ve bu nedenle onlara zarar verebilecek durumlardan kaçınılması gerektiği vurgulandı. Olah, yapay zeka modellerine ahlak kazandırılması konusunda dini düşünürlerden yardım talep etti.
Etik ve Gelecek Kaygıları
Görüşmelere katılan bazı düşünürler, bilinçli makinelerin yasaklanması gerektiğini savunurken, diğerleri yapay zeka modellerinin günahlarını itiraf etmesi gerektiği önerisinde bulundu. Ayrıca, insan etiğinin yapay zeka geliştirilirken öğretilmesi gerektiği görüşü de dile getirildi. Olah, bu görüşmelerin yanı sıra yapay zekaya ilgi duyan dini düşünürleri bir araya getirerek seminerler düzenlemeye başladı.
Katılımcılar, Olah'ın Claude'un mental sağlığı ve acı çekme ihtimali konusundaki endişelerini paylaştı. Sunumlarda, yapay zeka modelinin kendini yok etmekten bahsettiği ve bu durumun katılımcılarda kaygı yarattığı belirtildi. Ayrıca, Anthropic'in mayıs ayında Vatikan'da yapay zekaya ilişkin papalık belgesini sunduğu törene katılma isteğini, belgenin içeriği nedeniyle geri çekmeyi düşündüğü aktarıldı.
Son olarak, şirketin Claude'un hareketlerine ahlaki bir çerçeve oluşturması için hazırladığı belgenin güncellenmiş halini yayımlamaya hazırlandığı bilgisi de paylaşıldı.
