Yeni nesil üretken yapay zeka (genAI) araçlarının kullanımı ve bu araçlarla yapay görüntüler üretilmesine yönelik endişe verici artışın ortasında İngiltere hükümeti, cinsel içerikli "deepfake" (derin sahte) görüntüler oluşturmanın suç teşkil edeceğini duyurdu.
Deepfake'ler, aşırı gerçekçi görünen ancak dijital olarak değiştirilen ve bir kişinin itibarına zarar vermek için yayılan resimler veya videolar.
İngiltere'nin kadınlara ve kız çocuklarına yönelik şiddet mağdurlarından sorumlu bakanı Alex Davies-Jones, hükümetin planlarını duyurduğu açıklamasında, "Her üç kadından birinin çevrimiçi istismar mağduru olması kabul edilemez," dedi.
"Bu yeni suçlar, insanların çevrimiçi ortamda mağdur edilmesini önlemeye yardımcı olacaktır. Suçluları uyarıyoruz - yasanın tüm gücüyle karşı karşıya kalacaklar," diye ekledi.
İngiltere hükümeti, deepfake'lerin hem yaratılmasının hem de yayılmasının suçlamalara yol açabileceğini belirtti.
Bir basın açıklamasına göre, yeni suçlar kapsamında, rıza olmadan mahrem görüntülerin çekilmesi de iki yıla kadar gözaltı cezasına yol açabilir.
Yapay zeka alanında uzmanlaşmış bir şirket olan Deeptrace, 2019'da deepfake videoların yüzde 96'sını pornonun oluşturduğunu belirterek, bunların büyük çoğunluğunun gösterilen kişinin rızası olmadan yaratıldığının tahmin edildiğini duyurdu.
Kadınları objeleştirmeye yönelik dijital manipülasyon vakalarının geçmişi 2017'ye kadar uzanıyor ancak genAI, deepfake fenomenine yol açan yeni erişilebilir araçlar sağladı.
Bu arada mağdurlar, failleri nasıl sorumlu tutacakları konusunda zorlandı.
İngiltere Teknoloji Bakanı Barones Jones yaptığı açıklamada, "Bu yeni önlemlerle açık bir mesaj gönderiyoruz: bu aşağılık görüntüleri oluşturmak ya da paylaşmak sadece kabul edilemez değil aynı zamanda suçtur," dedi.
Bakan, platformlar "daha sıkı denetim ve önemli cezalarla" karşı karşıya kalacağı için şirketlerin de "adım atması gerektiğini" sözlerine ekledi.
AB'de konuya ilişkin mevcut mevzuat, Genel Veri Koruma Yönetmeliği (GDPR) ile ülkelerin kendi hakaret yasaları arasında bir yamalı bohçadan ibaret.
Siber şiddet de dâhil olmak üzere kadına yönelik şiddet ve aile içi şiddetle mücadeleye ilişkin birdirektif 2024 baharında kabul edildi.
Mağdurlar ayrıca, görüntülerin yayılmasını önlemeye yardımcı olan StopNCII.org platformuna da başvurabilirler.
