Almanya merkezli sivil toplum kuruluşu Agora Digitale Transformation tarafından yayımlanan bir araştırma, Avrupa Parlamentosu'ndaki kadın milletvekillerinin yapay zeka destekli sahte içeriklerin hedefi olduğunu gösterdi. Araştırmaya göre, bu milletvekillerinin 46'sı kadındır ve bu sayı, AP'deki yaklaşık her altı kadın milletvekilinden birine denk gelmektedir.
Araştırmada, yapay zeka kullanılarak, kişilerin rızası olmadan sahte cinsel görüntülerin oluşturulduğu belirtilmektedir. Siyasetçilerin fotoğraf ve görüntülerinin internet üzerinde yaygın olarak bulunmasının, bu kişilerin yapay zeka destekli "nudifier" uygulamalarının hedefi olmasını kolaylaştırdığı ifade edilmektedir.
Araştırmanın yazarlarından Benjamin Shultz, yasağın etkili bir şekilde uygulanabilmesi için yalnızca bu uygulamaların değil, aynı zamanda bu tür içeriklerin yayılmasına olanak tanıyan ödeme hizmeti sağlayıcıları ve internet alan adı kayıt şirketleri gibi diğer aktörlerin de sorumlu tutulması gerektiğini vurgulamıştır. Ayrıca, arama motorlarının bu tür yapay zeka uygulamalarına ait internet sitelerini arama sonuçlarından çıkarması konusunda adımlar atılması gerektiği belirtilmiştir.
AB, yapay zeka destekli "nudifier" uygulamalarını 2 Aralık'tan itibaren yasaklamayı planlamaktadır. Araştırmada, farklı siyasi gruplardan 119 milletvekilinin 30 Eylül'de AB kurumlarına gönderdiği mektuba da atıfta bulunulmuştur. Mektupta, yasağın etkili bir şekilde uygulanması ve X sosyal medya platformuna entegre yapay zeka aracı Grok'a yönelik soruşturmanın hızlandırılması talep edilmiştir. Mektubu imzalayan Avusturyalı Yeşiller milletvekili Lena Schilling, yasağın uygulanmasında herhangi bir boşluk veya gecikme olmaması gerektiğini vurgulamıştır.
AB Komisyonu, ocak ayında ABD merkezli X şirketinin sosyal medya platformuna entegre yapay zeka aracı Grok hakkında sahte cinsel içerikler üretmesi nedeniyle resmi bir soruşturma başlatmıştır. Bu soruşturma, Grok'un AB'de kullanımından kaynaklanan risklerin yeterli bir şekilde değerlendirilip değerlendirilmediğini incelemektedir. AB Dijital Hizmetler Yasası, X'in de aralarında bulunduğu büyük çevrim içi platformlara yasa dışı içeriklerin yayılmasını önleme ve kullanıcılar için oluşabilecek riskleri azaltma yükümlülüğü getirmektedir.
