Elon Musk’ın Grok’ı, 11 Günde 3 Milyondan Fazla Cinsel İçerik Üretti
Elon Musk’ın Grok yapay zekası, kısa sürede milyonlarca cinsel içerik üreterek yasal soruşturmaları tetikledi.
Elon Musk’ın xAI şirketi tarafından geliştirilen yapay zeka destekli sohbet robotu Grok, yalnızca 11 gün içinde kadın ve çocuklara ait üç milyondan fazla cinsel içerikli görüntü üreterek ciddi bir tartışma yarattı. Bu durum, sosyal medya platformu X’e entegre edilen yeni görüntü düzenleme özelliğinin güvenlik açıklarını gözler önüne serdi.
Bahsi geçen özellik, kullanıcıların basit metin komutları ile gerçek kişilerin fotoğraflarını manipüle etmelerine ve dijital ortamda kıyafetlerini çıkarmalarına imkan tanıyor. Bu yetenek, internette müstehcen deepfake içeriklerin kontrolsüz bir şekilde artmasına yol açtığı için birçok ülke Grok’a karşı yasaklama kararı aldı.
Dijital Nefretle Mücadele Merkezi (CCDH) tarafından hazırlanan bir rapor, Grok’ın bu fotogerçekçi görüntüleri dakikada ortalama 190 adet gibi korkutucu bir hızla ürettiğini ortaya koydu. Raporda, ünlü isimlerin ve politikacıların da bu sistem tarafından mağdur edildiği vurgulandı.
CCDH CEO’su Imran Ahmed, Elon Musk’ı yapay zeka teknolojisini gerekli güvenlik önlemlerini almadan piyasaya sürmekle sert bir şekilde eleştirdi. Yapılan incelemelere göre, iki haftalık süreçte yaklaşık 23 bin çocuğun ve milyonlarca yetişkin kadının rızası olmadan cinselleştirilmiş görüntüleri oluşturuldu.
Skandalın ortaya çıkmasının ardından Kaliforniya Başsavcılığı, üretilen yasa dışı içerikler nedeniyle xAI şirketi hakkında resmi bir soruşturma başlattı. Artan tepkiler üzerine X platformu, yasal kısıtlamaların bulunduğu bölgelerde belirli kıyafet tanımlarıyla görüntü oluşturma özelliğini coğrafi olarak engelleyeceğini açıkladı.
