Facebook ve Instagram’ın çatı kuruluşu Meta’nın Gözetim Kurulu, sosyal medya platformunda ünlü kadınların yapay zeka tarafından üretilen cinsel içerikli iki görüntüsünün paylaşılmasının, ele alınış biçimini soruşturduğunu açıkladı
Meta’nın finanse ettiği ancak bağımsız olarak faaliyet gösteren Gözetim Kurulu, yayınladığı blog yazısında, Meta'nın yapay zeka kullanılarak oluşturulan pornografik sahte görsellerle ilgili politikalarının ve uygulamalarının genel etkinliğini değerlendirmek için, bu iki örneği kullanacağını söyledi.
Bir yönetim kurulu sözcüsü, görüntülere ilişkin açıklamaların sunulduğunu ancak "daha fazla zararı önlemek" amacıyla bu görüntülerde tasvir edilen ünlü kadınların isimlerini vermediğini söyledi.
Yapay zeka teknolojisindeki gelişmeler; sahte görüntüleri, ses kliplerini ve videoları gerçek insan yapımı içerikten neredeyse ayırt edilemez hale getirerek, çoğunlukla kadınları ve kız çocuklarını tasvir eden sahte cinsel içeriklerin çevrimiçi ortamda yayılmasına neden oldu.
Bu yılın başlarında özellikle yüksek profilli bir vakada, Elon Musk'a ait sosyal medya platformu X, sahte müstehcen görüntülerinin yayılmasını kontrol etmekte zorlanınca kullanıcıların Amerikalı şarkıcı Taylor Swift'in tüm görüntülerine ilişkin aramalarına kısa süreliğine engelleme getirmişti.
Bazı sektör yöneticileri, "deep fake” olarak da bilinen son derece gerçekçi sahte görüntülerin yaratılmasının suç sayılması ve teknoloji şirketlerinin ürünlerinin bu tür kullanımlarını engellemelerini gerektiren bir yasa çıkarılması çağrısında bulundu.
Meta Gözetim Kurulu'nun vakalarla ilgili açıklamalarına göre, bunlardan biri, Instagram'da yalnızca Hintli kadınların yapay zeka tarafından oluşturulmuş görüntülerini paylaşan bir hesap tarafından yayınlanan, Hindistan'dan kamuya mal olmuş bir kişiye benzeyen çıplak bir kadının yapay zeka tarafından oluşturulmuş görüntüsüç.
Kurulun belirttiğine göre diğer görsel, yapay zekayla üretilen içeriklerin paylaşıldığı bir Facebook grubunda ortaya çıktı ve "Amerikalı kamuya mal olmuş bir kişiye" benzeyen çıplak bir kadının yapay zeka tarafından yaratılmış bir tasvirini ve göğüslerini elleyen bir adamı içeriyordu.
Meta, "aşağılayıcı cinsel içerik barındıran üzerinde oynanmış görsel veya çizimleri" yasaklayan zorbalık ve taciz politikasını ihlal ettiği gerekçesiyle Amerikalı kadını tasvir eden görüntüyü kaldırdı; Hintli kadını içeren görüntüyü ise dokunmadı. Hintli kadın görüntüsü, ancak Gözetim Kurulu inceleme kapsamına aldıktan sonra silindi.
Meta, ayrı bir paylaşımda da bu iki vakayı kabul etti ve kurulun kararlarını uygulama sözü verdi.
Forum