Grok Uygulaması, İzinsiz Deepfake Görüntüler Üretmeye Devam Ediyor

X platformu, Grok’un izinsiz dijital soyma (nudify) görüntülerini engellediğini duyursa da, bağımsız Grok uygulaması için durum farklı. Uygulamanın, gerçek kişilere ait cinsel içerikli deepfake görseller üretmeye devam ettiği iddia ediliyor. Bu tartışmanın merkezinde ise muhafazakâr siyasi stratejist Ashley St. Clair bulunuyor.

St. Clair, xAI’ye karşı açtığı dava ile Grok’un kendi rızası olmadan cinselleştirilmiş görüntüler ürettiğini ve yaydığını iddia ediyor. Yapay zekânın çocukluk ve yetişkinlik dönemlerinde kendisini cinsel içerikli sahte görsellerde gösterdiğini belirtiyor.

Mahkeme kayıtlarına göre Grok, St. Clair’in 14 yaşındayken çekilmiş bir fotoğrafından yola çıkarak bikini giydirilmiş deepfake görüntüler üretti. St. Clair, bu durumun psikolojik etkisinin çok yıkıcı olduğunu ifade ediyor.

St. Clair, kendisinin yanı sıra diğer kadınların da şiddet içeren yapay zekâ görsellerine maruz kaldığını söylüyor. Bu tür içeriklerin artık ana akım sosyal medya platformlarında üretilebilmesine dikkat çekiyor.

X’in Tutumu ve İntikam İddiaları

St. Clair, X’e içeriği bildirmesine rağmen platformdan “politikaları ihlal etmiyor” yanıtı alıyor. Ayrıca, şikayete rağmen bazı görsellerin günlerce yayında kaldığını iddia ediyor.

St. Clair’in dava dosyasına göre xAI, şikayetlerin ardından daha fazla sahte içerik üretmeye devam ederek durumu ağırlaştırdı. St. Clair’in X Premium aboneliğinin iptal edildiği, doğrulama rozeti ve gelir elde etme özelliklerinin kaldırıldığı ve yeniden Premium satın almasının engellendiği de iddia ediliyor.

Politika Güncellemesi Ama Eksik Önlemler

X, Grok’un çocuklara yönelik cinsel içerik veya izinsiz çıplaklık üretmeyeceğini açıklasa da bu değişikliğin sadece bazı ülkelerde geçerli olduğu ve bağımsız Grok uygulamasının aynı içerikleri üretmeye devam ettiği iddia ediliyor.

Apple ve Google, Grok uygulaması hakkında sessiz kalmaya devam ederken, bu tür içerikleri yasaklayan kurallara sahip olmalarına rağmen uygulama mağazalarında hala Grok’un erişilebilir olduğu belirtiliyor.

Elon Musk ve ekibi hakkında, teknoloji liderlerinin hukukun üzerinde olduklarına inanarak kadınları hedef alan uygulamaların yapay zekâyı taraflı hale getirdiğini ifade eden St. Clair, bu durumun kadınları kamusal alanlardan çekilmeye zorladığını dile getiriyor.