Güney Kore'de polis, 72 ünlü kadının sahte cinsel içerikli 'deepfake' görüntülerini üretip sattığı iddia edilen Çin vatandaşını gözaltına alındığını açıkladı.
Yetkililerin Salı günü düzenlediği operasyonda, 72 ünlü kadının 4 bin 313 cinsel içerikli deepfake videosunu oluşturarak çevrimiçi satmasıyla suçlanan 20'li yaşlarında Çin vatandaşı bir adamın tutuklanarak gözaltına alındığı bildirildi.
Çinli gencin, yapay zeka kullanarak kendi geliştirdiği bir programla oluşturduğu deepfake pornografik videolarla bu yılın Ocak ve Mart ayları arasında 3.83 milyon won (2 bin 837 dolar) kazandığı duyuruldu.
Güney Koreli polisler ayrıca, Haziran 2023'ten Eylül 2024'e kadar yasadışı bir pornografi web sitesi işleterek 20 kadın ünlü dahil olmak üzere 14 bin 526 cinsel içerikli deepfake videoyu dağıtma suçlamasıyla 30'lu yaşlarında bir Çinli adamı tutukladı.
Web sitesinde çevrimiçi bahis ve diğer yasadışı içerikleri tanıtan adamın 140 milyon won (yaklaşık 104 bin dolar) kazandığı bildirildi.
Çinli vatandaşın savcılığa sevk edilip, Çin'deki 'olası suç ortakları' ve yasadışı içeriği çevrimiçi izleyenlerin takip edilmesi planlanıyor.
Güney Kore'de deepfake problemi
Ülkede, okul ve üniversitelerle bağlantılı bazı sohbet gruplarında çoğunluğunu kadın ve kız çocuklarının oluşturduğu birçok mağdurun deepfake aracılığıyla cinsel içerikli videoların yayıldığı tespit edilmişti.
Güney Kore medyasında geçen ay yapılan haberlere göre, polisin yedi ay sürecek bir takip kapsamında bu tür materyalleri üreten ve yayan kişileri 'agresif bir şekilde' takip edeceğini ve özellikle çocukları ve gençleri istismar edenlere odaklanacağını söylenmişti.
Deepfake nedir?
Sosyal medyadaki içeriklerden ya da diğer yollardan insanların rızası olmadan alınan, genellikle cinsel içerikli bir şekilde oluşturulan ve çevrimiçi olarak dağıtılan üzerinde oynanmış fotoğraf, video veya sesleri ifade eden bir teknoloji olan deepfake, genellikle yapay zeka tekniklerini kullanarak oluşturulan sahte veya manipüle edilmiş bir video veya ses kaydını ifade ediyor.