İzinsiz porno üretimi ve finansal dolandırıcılık benzeri kötü amaçlarla kullanılan deepfake’ten korunmak ne kadar mümkün ?

Merve Kara-Kaşka
BBC Türkçe

Artık herkes, ses ve imgelerinin istek dışında kötü maksatlarla kullanılmasının amacı haline gelebiliyor. Pekala kullanıcılar potansiyel hücumlardan nasıl korunabilir?

Ses ve görüntüleri kullanarak yeni içerikler üretken yapay zeka (Generative AI) dolandırıcılık için de yeni bir çağı başlatmış benzeri görünüyor.

Şüpheli görünen e-postaların yerini yakınlarınızın ses ve manzarasıyla sizi arayıp para isteyen yazılımlar alırken, istek dışında üretilen görüntülerden kar sağlama hadiselerinin sayısı gün geçtikçe artıyor.

İnsan ses ve manzarasını taklit eden deepfake dolandırıcılıklarına karşı araçlar geliştirilse de teknolojideki süratli ilerlemeler, “ebedi bir kedi-fare oyunu çağını” başlatmış olabilir.

Deepfake nedir, nasıl kullanılıyor?

Deepfake kullanım alanları gün geçtikçe çeşitlenen ve gelişen bir teknoloji. Yapay zeka ile gerçeğe yakın görüntü yahut seslerin üretilmesini sağlıyor.

Deepfake’in günümüzde ufuk açıcı iyi kullanımları geliştirilmeye devam ediyor.

Örneğin Amerika Birleşik Devletleri’ndeki (ABD) University of California San Francisco ve Berkeley’den araştırmacılar bu yaz 18 yıldır felçli olan bir hastanın, beyin implantı ve yapay zeka yardımıyla ilk defa “konuşmasını” sağlamıştı.

Ekip, hastanın 2005 yılındaki düğününde kaydedilen bir görüntüsünü kullanarak sesini yeniden sentezlemişti.

Umut veren çalışmaların karşısında deepfake, kötü hedefli kullanımlar için de yeni bir dönemi başlatıyor benzeri görünüyor.

Mayıs ayında Çin’in kuzeyinde gerçekleşen bir dolandırıcılık hadisesinde Baotou kenti polisi, deepfake kullanan bir saldırganın, kurbanın arkadaşının kimliğine bürünerek düzmece video görüşmesiyle 622 bin dolar fiyatında para transferi yapmasını sağladığını açıklamıştı.

Kurban, arkadaşının ihale sürecinde depozito yatırması gerektiğine inandığı için parayı transfer ettiğini söylemişti.

Deepfake’in finansal kabahatlerde kullanımı, atakların hedef kitlesinin yalnızca dijital okur muharrir nüfus olmadığını göstermesi açısından çok önemli bulunuyor.

Kimler hedef olabilir?

Bugün bir deepfake yazılımı indirip stler içinde uydurma bir video yahut ses üretmek mümkün.

İnternette görselleri yahut sesleri erişilebilir olan ünlüler, sosyal medya fenomenleri yahut ürettiği içerikle para kazananlar deepfake ataklarının ilk akla gelen gayesi olabiliyor.

Ancak kötü niyetli kullanımlar bundan çok daha geniş bir kitleyi ilgilendiriyor ve herkesi eşit etkilemiyor.

Örneğin istek dışı özel imajların üretimi açısından bayanlar daha büyük risk altında görünüyor.

BBC Türkçe’nin sorularını yanıtlayan Oxford Üniversitesi İnternet Enstitüsü’nde yapay zeka etiği ve kanunları alanında uzman Prof. Sandra Wachter, deepfake’in kötü niyetli kullanımının toplumsal cinsiyet boyutuna dikkat çekiyor:

“Teknoloji her zamankadınlarla ilgili istek dışı mahrem görüntüleri dağıtmak ve prestijlerini zedeleyecek karalama kampanyaları için berbata kullanılıyor.”

Saldırılar küçük çocukları ve okul çağındaki kız çocuklarını da etkiliyor.

Bu hafta başında ABD’nin doğu ve batı yakısındaki iki farklı okulda kız çocuklarının deepfake ile çıplak manzaralarının üretilip sirkülasyona sokulmasından mağdur olan aileler, yapay zekanın ziyanları karşısında daha sıkı yasal tedbirler istediklerini söylüyor.

Sahte manzaralarla birlikte geçersiz ses üretimindeki gelişmeler de yeni güvenlik açıklarıyla ilgili soru işaretleri doğuruyor.

BBC Türkçe’nin sorularını yanıtlayan Almanya’daki Münih Ludwig Maximilian Üniversitesi’nde Bilgisayar Görüşü ve Tahsili Grubunun başındaki Prof. Björn Ommer, uydurma sesin, “alıcıya yepyeniliği doğrulamak için nispeten sınırlı seçenek bıraktığı için bilhassa sıkıntılı bir saldırı” çeşidi oluşturabileceğini söylüyor.

Deepfake ile üretilen düzmece sesler bugün sesli kimlik doğrulama sistemleri kullanan şirketleri de tehdit ediyor.

İngiltere’deki Waterloo Üniversitesi’nden araştırmacılar deepfake ile ürettikleri sesi kullanarak sesli kimlik doğrulama sistemlerini aldatma teşebbüslerinde yalnızca altı denemede yüzde 99 oranında muvaffakiyet elde ettiklerini açıklamışlardı.

Araştırmacılar kimlik doğrulamak için yalnızca müşterilerinin sesini kullanan şirketlerin daha güçlü tedbirler almaları gerektiği konusunda ihtarda bulunmuştu.

Buna ek olarak nüfusun ileri yaşlı kesiti, deepfake ile yakınlarının sesini üreterek onlardan para isteyen hücumlara karşı daha büyük risk altında olabiliyor.

Prof. Ommer, “Burada gayeler yüksek tanınırlığa sahip şahıslar değil, en az medya/dijital okur yazarlığına sahip olanlar” diyor.

Prof. Ommer bunu, ses sentezindeki son gelişmelerin, modellerin stlerce ses kaydının kullanılması yerine yalnızca birkaç örnekle eğitilmesine odaklandığını ifade ederek açıklıyor.

Deepfake sosyal medyada süratle yayılan dezenformasyon kampanyalarının da bir kesimi olabiliyor ve bu sayede çabucak hemen tüm internet kullanıcılarını etkiliyor.

Oxford Üniversitesi’nden Prof. Sandra Wachter, “Ve sorun şu ki, herkes bundan etkileniyor” diyor ve ekliyor:

“Politikacılar ve devlet başkanları, dezenformasyona yol açabilecek ve seçim süreçlerini etkileme mümkünlüğü olan potansiyel gayeler.

“Teknoloji, savaşlarla ilgili geçersiz haberlerin ve komplo teorilerinin yayılması için kullanılıyor, bu da barışı ve demokrasiyi etkiliyor.

“Kesinlikle bir doğruluk krizinin içindeyiz. Gerçek, kurgu ve sahteyi birbirinden ayırmak zorunda olmamız yeni bir şey olmasa da gözlerimizi ve kulaklarımızı bu kadar ikna edici bir şekilde kandıran bir teknolojiye daha önce hiç sahip olmadık.”

Deepfake dolandırıcılığından korunmak ne kadar mümkün ?

İnternet kullanıcılarını düzmece ses ve görüntü üretilmesine karşı koruduğunu yahut düzmece görüntüleri tespit ettiğini iddia eden çevrimiçi araçlar var.

Ancak bu araçların çoğunluğunun kullanıcı dostu olduğunu ya da yaygınlaştığını söylemek zor.

Buna ek olarak uzmanlara göre bugün en çok önemli zorluklardan biri yapay zekanın gelişim suratı.

Sahte ses üreten deepfake yazılımlara karşı gözetici bir yazılım geliştiren St Louis’teki Washington Üniversitesi’nden Bilgisayar Bilimi ve Mühendisliği alanında çalışan Yrd. Doç. Dr. Ning Zhang, BBC Türkçe’ye, “mükemmel güvenlikte bir sistem yok” diyor.

“Sesi tamamen farklı bir teoriyle sentezleyecek yeni teknolojiler karşısında muhafaza uygulamasının kesinlikle bunlara göre uyarlanması gerekir” diye ekliyor.

Aynı senaryo uydurma görsel üreten yapay zeka yazılımları için de geçerli ve geçersiz içerikler gitgide daha ikna edici hale geliyor.

Oxford Üniversitesi’nden Prof. Wachter, “Bazılarının uydurma içerik oluşturacağı, kimilerinin ise söylediği söz edilen içeriği tespit edip işaretleyecek teknolojiler yaratacağı ebedi bir kedi fare oyunu çağına girdiğimizi düşünüyorum” diyor.

Prof. Wachter “sahte içerikleri tespit edebilen yüzde 100 emniyetli bir sisteme sahip olmamızın hiçbir zaman mümkün olmayacağını” düşündüğünü söylüyor ve ekliyor:

“Ancak bu bizi yıldırmamalı. Ne zaman birisi bir duvar örse, diğeri da onun üzerinden atlamak isteyecektir.

“Yapabileceğimiz tek şey (sahte içerikleri) tespit yazılımına yatırım yapmak, tetikte olmak ve eleştirel kalmak.”

Eleştirel ve sorgulayıcı olmak, internette gördüğümüz geçersiz içeriklerin yayılmasının yanında, yakınının sesinden şüpheli bir telefon alan bir kişinin bu çağrıyı doğrulamasını ve tahminen hayatı boyunca biriktirdiği paranın yanlış ellere geçmesini de önleyebilir.

Bireysel çabalarınsa uydurma içeriklerin mümkün zararlarına karşı insanları koruyan yasal düzenlemelerle desteklenmesi gerekiyor.

Prof. Wachter, “İleriye yönelik olarak, yapay zeka içeriklerine ‘filigranlan eklenmesini’ ve bu işaretlerin kaldırılmasına para cezası verilmesini yasal olarak zarurî kılmak da çok önemli olacaktır” diyor.

Avrupa Birliği’nden ABD’ye ve OpenAI, Google benzeri teknoloji şirketlerine farklı bölümler yapay zeka içeriklerinin filigranlarla işaretleneceğini bu yıl thhüt etmişti.

İngiltere’de Lordlar Kamarası’nda incelenen Çevrimiçi Güvenlik Yasası, istek dışı deepfake porno imgelerinin paylaşımını yasa dışı hale getiriyor.

Yine de yasal düzenlemelerin yapay zekanın gelişim suratını yakalayıp yakalayamacağı belirsizliğini koruyor.