Yapay zekâ teknolojisinin gelişmesi ile birlikte evvelden çok küçük bir azınlık tarafından kullanılabilen ve daha kolay tespit edilebilen deepfake içerikler artık hem daha sık hem de daha gerçekçi formda karşımıza çıkıyor. Meta’nın Gözetim Kurulu, son yaptığı incelemelerde iki ünlünün daha deepfake yollarıyla oluşturulmuş müstehcen içeriklerini tespit etti. Bu görsellerde elbette yapay zekâ kullanılmış.
Meta Gözetim Kurulu, biri Instagram’da biri de Facebook’ta olmak üzere iki hadiseyi ele aldı. Görsellerden birinin Hindistan’da tanınmış bir bayana benzeyecek halde oluşturulduğu belirtilirken, paylaşımın yapıldığı hesabın da sırf Hintli bayanların yapay zekâ tarafından oluşturulmuş görsellerini paylaştığı tabir edildi. İki kere şikâyet edilen görsele zamanında müdahale edilmediği için bu görsellerin yayında kaldığı ve en son şuraya gelen müracaat üzerine, içeriğin “Zorbalık ve Taciz Topluluk Standardı’nı ihlal ettiği gerekçesiyle” kaldırılması kararı alındığı belirtildi.
Kurul, Meta’ya tavsiyelerde bulunacak.
İkinci görsel ise bir adamın çıplak bir bayanın göğsünü okşadığı deepfake oldu.Görseldeki bayanın Amerika’da ünlü birine benzerlik taşıdığı söz edilirken, daha evvel de paylaşılan bu görsel de Zorbalık ve Taciz unsurunu ihlalden ötürü kaldırıldı. İçeriği paylaşan kullanıcının itirazı ise reddedildi.
Kurul artık bu olayları, Meta’nın unsurlarının ve yaptırım uygulamalarının müstehcen görselleri ele almada ne derece başarılı olduğunu pahalandırmak için kullanacak. Daha sonra da aldığı kararları Meta’ya sunacak. Bu kararlar yaptırım halinde olmayacak, şirkete tavsiye olarak verilecek.