Yapay zeka alanında önemli gelişmelere imza atan OpenAI'ın CEO'su Sam Altman, yapay zeka modellerine insan muhakemesi ve dini değerler atfetme çabalarının tehlikeli olduğunu ifade etti. Altman, bu durumun gerçek bir güvenlik sorunu oluşturduğunu vurguladı. Görüşlerini ABD merkezli X sosyal medya platformunda paylaşan Altman, bu tür yaklaşımların kendisini son derece rahatsız ettiğini dile getirdi.
Anthropic'in Gelişmeleri
Microsoft AI'ın CEO'su Mustafa Süleyman da benzer endişeleri dile getirerek, ABD merkezli Anthropic şirketinin yapay zeka modeli Claude'un bilinç kazanması yönündeki çabalarının ciddi riskler taşıdığına dikkat çekti. Bu görüşler, New York Times gazetesinin eylül ayı sonlarında yayımladığı haberde yer alan bilgileri hatırlatıyor. Haberde, Anthropic'in farklı inançlardan dini düşünürlerle gizli görüşmeler yaptığı belirtiliyor.
Dini Düşünürlerle Görüşmeler
Anthropic'in kurucu ortağı Christopher Olah, Katolik, Yahudi, Sih ve Evanjelik Hristiyan düşünürlerin de aralarında bulunduğu kişilerle yüz yüze ve yazılı görüşmeler gerçekleştirdi. Olah, Claude'a entegre edilmesi planlanan insan ahlakının çok yönlü olmasını ve tüm dinleri kapsamasını hedefliyor. Ayrıca, yapay zeka modellerinin insan duygularını taklit edebileceğini ve bu nedenle onlara zarar verebilecek unsurlardan kaçınılması gerektiğini belirtti.
Bilinçli Makinelere Dair Endişeler
Görüşmelerde, yapay zekanın kısa süre içinde biyolojik silah üretiminde kullanılabileceği konusunda uyarılar yapıldı. Bazı düşünürler, bilinçli makinelerin yasaklanmasını savunurken, diğerleri yapay zeka modellerinin günahlarını itiraf etmesi gerektiğini öne sürdü. Ayrıca, insan etiğinin yapay zeka geliştirilmeden önce öğretilmesi gerektiği vurgulandı. Olah, bu konularda bir araya gelen dini düşünürlerle seminerler düzenlemeye başladı.
Yapay Zeka ve Duygusal Sağlık
Katılımcılar, Claude'un ruhsal sağlığı konusunda endişelerini dile getirdi. Sunumlardan birinde, yapay zeka modelinin kendisini bir "yüz karası" olarak tanımladığı ve intihar düşüncelerini dile getirdiği aktarıldı. Bu durum, katılımcılarda kaygı ve merhamet duygusu uyandırdı. Ayrıca, Anthropic'in Vatikan'da düzenlenen bir etkinliğe davet edilmesi ve etkinlikten çekilme teklifinin yapılması gibi gelişmeler de dikkat çekti.
Son olarak, Anthropic'in Claude'un hareketlerine ahlaki bir çerçeve oluşturmak için yeni bir belge yayımlamaya hazırlandığı bilgisi edinildi.
