Deepfake Nedir? Sahte İçerikler Nasıl Üretiliyor?

Sosyal medya ortamında, özellikle de son dönemde gerçek mi yoksa sahte mi olduğunu ayırt edemediğiniz içeriklerle mutlaka karşılaşmışsınızdır. Hatta bazen yorumları okuduğunuzda gördüğünüz şeyin sahte olduğunu anlarsınız. Yapay zeka teknolojilerinin gelişmesiyle birlikte bu iş iyice çığırından çıktı. Olumlu veya olumsuz, deepfake’ler çevrimiçi ortamımızın bir parçası haline geldi.

Yapay zeka ile hazırlanmış, gerçeğe çok yakın sentetik içeriklere deepfake diyoruz. Deepfake, gerçek insanları veya olayları inandırıcı bir şekilde taklit etmek için yapay zeka kullanılarak oluşturulan veya değiştirilen video, görüntü veya ses gibi sentetik medyaya verilen genel isim. Bu işin önünü almak mümkün değil. Kimileri iyi, kimileri kötü bir amaç için kullanabilir.

Dahası, yapay zeka ilerledikçe gerçeği kurgudan ayırt etmek iyice zorlaşacak. Deepfake’ler, çok yaratıcı ve gerçeğe yakın olması nedeniyle hem gerçekliğe hem de gizliliğe yönelik bir tehdit haline gelecek gibi görünüyor. Gelin biraz bu işin perde arkasını konuşalım.

Deepfake Nedir?

Deepfake dediğimiz şey insanların, nesnelerin veya olayların son derece gerçekçi ancak sentetik temsilleri. Yapay zekanın artık olmadığı alan kalmadı. Görsel, ses, video veya podcast fark etmeksizin, taklit içerikleri her türlü formatta görebilirsiniz. Bu taklit medya içerikleri, türüne bağlı olarak son derece aldatıcı olabilir. Aynı zamanda şaşırtıcı ve eğlenceli de olabilir.

“Deep” kelimesi “derin” manasına geliyor lakin buradaki deep, deep learning yani derin öğrenmeyi ifade ediyor. Yani işin arkasında yapay zeka (AI) ve derin öğrenme teknikleri var. İnternette viral olan içeriklerin (meme’ler) “deepfake tekniği” ile üretildiği söylenir. Fake ise zaten sahte demek bildiğiniz üzere.

Üretilen deepfake’lerde kişilerin yüzleri, hareketleri ve sesleri birebir benzetilebiliyor. Bazen küçük hatalar ve yapaylıklar olsa da, günümüzdeki taklit içeriklerin kalitesi mükemmele yakın. Çok hızlı gelişen yapay zekayla birlikte yakın gelecekte mükemmel seviyede olmasını bekliyoruz.

Bu teknolojiler çok şaşırtıcı hale gelse de, kötü niyetli kişiler de istedikleri şekilde kullanabiliyor. Ünlülerin veya siyasi figürlerin taklit edilerek yanlış bilgiler yayılması büyük bir sorun. Hatta herhangi bir kişiye ait sahte içerikler üretilerek girişilen dolandırıcılık vakaları bile görmek mümkün. Deepfake’lerin potansiyel kötüye kullanımı nedeniyle, teknoloji üzerindeki düzenlemeler ve kontrol mekanizmaları üzerine tartışmalar sürmekte.

Genellikle insan yüzlerini, seslerini veya eylemlerini taklit etmek için kullanılsalar da, deepfake teknikleri gerçekçi içerik oluşturmak için videolarda ve görüntülerde nesneler, sahneler, hayvanlar ve hatta tüm ortamları oluşturabilir, değiştirebilir. İşin kötüsü, sağladığı yüksek gerçeklik düzeyi ile birçok anlamda gerçeklik ile uydurma arasındaki çizgiyi bulanıklaştırabilir.

Deepfake’lerin kökenleri büyük akademik buluşlara kadar uzanmakta. 2014 yılında Ian Goodfellow ve meslektaşları, Generative Adversarial Network’leri (GAN) tanıtan çok önemli bir makale yayınlamıştı. Biraz sonra inceleyeceğimiz GAN, sentetik içerik üretmenin temelini oluşturmakta.

İlk Deepfake Örnekleri

Justus Thies ve ekibinin gerçek zamanlı yüz yakalama ve yeniden canlandırma tekniklerine odaklanan 2016 tarihli Face2Face makalesi bir başka dönüm noktası oldu. Kullanımının bir örneği, ünlü aktör Arnold Schwarzenegger’e bir yüz ifadesinin aktarıldığı aşağıdaki resimde gösteriliyor:

Bu furya 2017 yılının sonunda, özellikle yetişkinlere yönelik içeriklerde ünlülerin yüzlerinin değiştirildiği manipüle edilmiş videoların Reddit’te dolaşımıyla başladı. Nihayetinde ise sosyal medya platformları deepfake tekniklerinin zararlı kullanımını yasaklamak zorunda kaldı.

Bir başka fenomen örnek de, 2018 yılında BuzzFeed’in Jordan Peele ile işbirliği içinde hazırladığı Barack Obama videosu. Dijital ortamda değiştirilen Barack Obama’nın yer aldığı viral olan video, yapay zeka teknolojileriyle neler yapılabileceğini gözler önüne serdi.

2020’de South Park’ın yaratıcıları Trey Parker ve Matt Stone bir başka kayda değer deepfake sanat eseri yarattı: “Sassy Justice” dizisinin pilot bölümünde Donald Trump ve Mark Zuckerberg’in deepfake’leri tarafından “canlandırılan” kurgusal karakterler yer aldı.

Deepfake Tekniği Nasıl İşler?

Genellikle sosyal medyada kaydırırken önümüze çıkan medyayı izler geçeriz, yani son ürüne odaklanırız. Şimdi biraz işin arka planına bakalım.

Ayrıştırıcı ve Üretici Modeller

Ayrıştırıcı (discriminative) modeller, nesneler arasındaki farkı (bir görüntünün veya sahte olması gibi) anlamak için kullanılır. Bu modeller verilere bakar ve doğru etiketi (“gerçek” veya “deepfake” gibi) tahmin etmeye çalışır. Yaygın model örnekleri arasında lojistik regresyon, karar ağaçları, sinir ağları ve destek vektör makineleri bulunuyor. Ayırt edici teknikler deepfake’leri tespit etmek gibi görevler için harika, çünkü modeller bir şeyin değiştirildiğine veya manipüle edildiğine dair işaretleri tespit etmek için özel olarak eğitiliyorlar.

Üretken (generative) modeller ise gerçek verilerin nasıl çalıştığını anlayabiliyor. Böylece yeni, benzer veriler oluşturmak mümkün hale geliyor. Gerçek yüzlerin resimleri veya gerçek seslerin klipleri gibi çok sayıda gerçek örnek sunuluyor, bir nevi veriler besleniyor. Gelişmiş AI modelleri sunulan örnekler vasıtasıyla her detayı öğrenebiliyor, daha sonra bu bilgiyi sahte ama gerçekçi görünen medya üretmek için kullanıyor. Özetle deepfake dediğimiz içeriklerin temel üretimi bu şekilde.

Temel fark kullanım amacı. Ayırt edici modeller tespit eder ve üretici modeller yaratır. Deepfake teknolojisinde her ikisi de önemliddir; biri inandırıcı sahteler oluşturmak için, diğeri ise onları yakalamak için.

Generative Adversarial Networks (GAN, Üretken Karşıt Ağlar)

GAN denilen şey, üretken ve ayrıştırıcı modeli birlikte eğiten bir tür üretken yapay zeka. Her iki model arasındaki ilişki en iyi dostane rekabet olarak tanımlanabilir: Üretici (generator) sentetik içerik oluştururken, ayırt edici (discriminator) gerçek medyayı sahtelerinden ayırt etmek için çalışır. Bu rekabet, üretici çıktıları gerçek medyadan neredeyse ayırt edilemez hale gelene kadar çalışmasını geliştirmeye iter.

Başka bir deyişle, ayrıştırıcı teknik olmadan yeni içerikler üretmek pek mümkün değildir. Mümkün olsa bile ortaya tatmin edici sonuçlar çıkmaz. Tespit etmekle görevli ayrıştırıcı model, ortaya çıkan sonucun mükemmel olmasını sağlamakta.

Üretici modelin rolü sahte sanat eserlerinin çizimini yapan sahte bir sanatçıya benzerken, ayırt edici model ise sahte eserleri tespit etmek için her parçayı inceleyen bir sanat eleştirmenini temsil ediyor. Sürekli daha fazla veri sağlandıkça, hem sahte sanatçı hem de eleştirmen işinde daha iyi hale geliyor, zenginleşiyor ve daha iyi sonuçlar üretiliyor.

Arka plandaki süreçte, öznenin ses tonu ve yüz özellikleri gibi benzersiz özelliklerini yakalamak üzere modeller kapsamlı veri kümeleri üzerinde eğitiliyor. Sistem bu verileri analiz ederek hedefin doğru bir temsilini yavaş yavaş oluşturuyor. Temsili veriler, bir şekilde taklit için kullanılıyor.

Deepfake Teknikleri

Yüz değiştirmeye yönelik yaygın teknikler genellikle oto kodlayıcıları (autoencoder) ve evrişimli sinir ağlarını (convolutional neural network) temel alır. Bu araçlar, bir kişinin yüzünün neye benzediğini (şekli, ifadeleri ve temel özellikleri) öğrenmek için çok sayıda görüntü veya video karesi üzerinde eğitilir. Yapay zeka bu bilgileri anlayabileceği bir formata dönüştürmekte, bir nevi kişinin yüzünün dijital bir özeti, analizi gibi.

Yapay zeka, daha sonra bu özeti kullanarak yüz ifadelerini bir kişiden kopyalayıp diğerine uyguluyor ve böylece yüz değiştirme işleminin gerçekçi görünmesini sağlıyor. Ayrıca videolarda kişilerin konuştuğunu, üretilen sonucun taklit edilen kişiye neredeyse %99 oranında benzediğini görüyoruz. İşin en dikkat çekici kısmı da bu. Dudak senkronizasyonu için sinir ağları sadece ağız hareketlerini değil, aynı zamanda video çıktısını konuşulan kelimelerle doğru bir şekilde hizalamak için ses girdilerini de analiz ediyor.

Modeller, her video karesinin tam olarak konuşulan fonemi gösteren bir ses etiketiyle eşleştirildiği etiketli veri kümeleri kullanılarak eğitiliyor. Bu bağlamda AI modellerinin ses ve görsel artikülasyon arasındaki kesin ilişkiyi öğrenmesi sağlanıyor. Sinir ağı, bu veri ve etiket çiftlerini eş zamanlı olarak analiz ederek ağız hareketlerinin konuşulanları yansıttığı video çıktıları üretmeyi öğreniyor.

Deepfake Kullanım Alanları

Deepfake meselesinden bahsederken insanların aklına genelde eğlenceli ve mizahi içerikler geliyor lakin eğitim ve erişilebilirliği artırmak da dahil olmak üzere farklı amaçlara hizmet edebilir.

• Sanat: Deepfake’ler bir sanatçının mevcut eserlerini kullanarak yeni müzik üretmek için kullanılabilir.
• Çağrı Hizmetleri: Çağrı yönlendirme ve diğer resepsiyonist hizmetlerini içeren arayan taleplerine kişiselleştirilmiş yanıtlar sağlamak için yardımcı olabilir.
• Müşteri Desteği: Hesap bakiyesini kontrol etmek veya şikayette bulunmak gibi basit görevler için sahte sesler üretilebilir.
• Eğlence: Hollywood filmleri ve oyunlarda belirli sahneler için sesler klonlanabilir. Bir sahnenin çekimi zor olduğunda, aktörün sesini kaydetmek için artık sette olmadığı post prodüksiyonda veya aktör ve prodüksiyon ekibine zaman kazandırmak için deepfake’ten yararlanılabilir. Deepfake’ler ayrıca izleyicinin videonun gerçek olmadığını anladığı ancak deepfake’in yarattığı mizahi durumdan keyif aldığı parodi içerikleri için de kullanılabiliyor. Dwayne “The Rock” Johnson’ın Kaşif Dora rolündeki 2023 deepfake’i buna bir örnek.
• Eğitim: Eğitim platformları da öğrencilere kişiselleştirilmiş destek sunan yapay zeka eğitmenleri geliştirmek üzere deepfake teknolojisini kullanıyor. Örneğin Anthropic’in eğitici bir yapay zeka asistanı olan Claude, öğrencilerin sorularını yanıtlıyor, kavramları açıklığa kavuşturuyor ve anlayıştaki boşlukları belirliyor.
• Erişilebilirlik: Özellikle konuşma bozukluğu olan bireyler için erişilebilirliği artırmak mümkün hale geliyor. Bir kişinin ses özelliklerini kayıtlardan yakalayan sentetik sesler geliştirmek daha doğal bir iletişim sağlayabilir. Dikkate değer bir örnek, Motor Nöron Hastalığı (genellikle konuşma kaybıyla sonuçlanıyor) olan bireylerin, ses kayıtlarını erkenden yakalayarak doğal seslerini korumalarına ve yeniden yaratmalarına yardımcı olan “Project Revoice”.

Etik ve Sosyal Sorunlar, Yasa Dışı Kullanım

Bu mühim bir konu. Taklit içerikler dolandırıcılık faaliyetleri, yanıltıcı içerikler, gizlilik ihlalleri, rızaya dayanmayan pornografi ve manipülasyon gibi sayısız konuda olumsuzluk saçabiliyor. Deepfake’ler, gerçek ve manipüle edilmiş içeriği ayırt etmeyi giderek zorlaştırarak kamu güvenini aşındırma potansiyeline sahip. Yanlış bilgi yayıldığında kamuoyunu şekillendirebilir, itibarlara zarar verebilir veya kritik durumlarda kafa karışıklığı yaratabilir.

Daha da beteri, deepfake içerikler kötü niyetli aktörler tarafından toplumları istikrarsızlaştırmak için silah olarak kullanılabilir, siyasi bölünmeleri körükleyebilir ve hatta kamuya mal olmuş kişilere atfedilen uydurma ifadeleri veya eylemleri yayarak seçimleri etkileyebilecek potansiyel taşıyor.

Deepfake teknolojisi aracılığıyla inandırıcı şekilde birinin kimliğine bürünebilme becerisi, finansal dolandırıcılık veya kimlik hırsızlığı gibi dolandırıcılık faaliyetlerinin kapılarını aralıyor. Siber suçlular klonlanmış sesleri kullanarak bireyleri para transferi yapmaları ya da hassas verilere erişim izni vermeleri için kandırabiliyor. Bu durum, geleneksel doğrulama yöntemlerinin artık yeterli olmayabileceği bankacılık ve siber güvenlik gibi sektörler için endişe yaratıyor.

Yapay medyanın en rahatsız edici uygulamalarından biri, genellikle bireyleri istismar etmek veya korkutmak için kullanılan, rıza dışı içeriklerin oluşturulması. Mağdurlar kendilerini itibarlarına zarar veren ya da mahremiyetlerini ihlal eden sahte medyanın içinde bulabilirler. Kişisel benzerliklerin rıza olmaksızın kötüye kullanılması, etkilenen kişiler için uzun vadeli psikolojik ve profesyonel sonuçlar doğurabileceğinden etik açıdan ciddi problemler yaşanabilir.

Teknoloji Şirketleri Ne Yapıyor?

Yanlış bilgilendirme ve dezenformasyon Dünya Ekonomik Forumu (WEF) tarafından önümüzdeki dönemin en önemli küresel riski olarak belirlendi. Deepfake’lerle ilgili sorun, yapay zeka destekli teknolojinin artık ucuz, erişilebilir ve büyük ölçekte zarar verebilecek kadar güçlü hale gelmesi olarak tanımlanıyor. Bu da siber suçluların, kötü niyetli siyasi aktörlerin ve hacktivistlerin ikna edici dezenformasyon kampanyaları ve daha geçici, tek seferlik dolandırıcılıklar başlatma becerilerini artırıyor.

Hem YouTube hem de Facebook’un, yakın zamanda yapılan bir seçimi etkilemeyi amaçlayan bazı deepfake’lere yanıt vermekte yavaş davrandığı söyleniyor. Bu durum, sosyal medya şirketlerinin seçim manipülasyonu girişimlerini engellemelerini gerektiren yeni bir AB yasasına (Dijital Hizmetler Yasası) rağmen gerçekleşti.

OpenAI ise DALL-E 3 tarafından üretilen görüntüler için Coalition for Content Provenance and Authenticity’nin (C2PA) dijital kimlik bilgilerini uygulayacağını açıkladı. Meta ve Google tarafından da denenen kriptografik filigran teknolojisi, sahte görüntü üretmeyi zorlaştırmak için tasarlandı. Ancak bunlar hala bebek adımları ve seçim ateşi tüm dünyayı sararken tehdide karşı teknolojik müdahalenin çok az ve çok geç olacağına dair haklı endişeler var. Özellikle de WhatsApp grupları ya da robocall’lar gibi nispeten kapalı ağlarda yayıldığında, sahte ses ya da videoları hızlı bir şekilde takip etmek ve çürütmek zor olacaktır.

Deepfake ile Nasıl Başa Çıkılır?

Sahte içerikler yayımlandıktan sonra, kurbanlar “değiştirilmiş içeriğin sürekli olarak paylaşılmasını veya internetten kaldırılmasını engelleyen zorluklarla” karşılaşabilir. Bu durum ebeveynler ya da çocukları için üzücü bir deneyim.

Sürekli çevrimiçi olmak ve bir şeyler paylaşmak zorunluluğu hissedilen dijital dünyada, birçoğumuz yayımla düğmesine basıyor ve internette birçok kişisel video ve fotoğraf paylaşıyoruz. Bunlar zararsız görünse de, ne yazık ki bu fotoğrafların ve videoların birçoğu herkes tarafından kolayca görüntülenebilir. Kötü amaçlı kişiler her zaman bu görselleri ve mevcut teknolojiyi kötü amaçlar için kullanmanın bir yolunu buluyor. Günümüzde neredeyse herkes bu tür sahte ama ikna edici içerikler yaratabildiğinden, birçok deepfake bu noktada devreye giriyor.

Size ve ailenize gelebilecek potansiyel zararı azaltmak için bu akım ile ilgili önlemleri şimdiden almalısınız. Öncelikle deepfake kurbanı olma riskini azaltmak ve en kötü senaryonun gerçekleşmesi durumunda zararı en aza indirmek için aşağıdaki adımları göz önünde bulundurun:

Kişisel olarak:

• Fotoğraf, video ve diğer kişisel içerikleri paylaşırken her zaman iki kez düşünün. Teorik olarak, en masum içerik bile kötü amaçlı kişiler tarafından izniniz olmadan deepfake bir içeriğe dönüştürülebilir.
• Sosyal medya hesaplarınızdaki gizlilik ayarlarını öğrenin. Profilleri ve arkadaş listelerini gizli yapmak mantıklıdır, böylece fotoğraflar ve videolar yalnızca tanıdığınız kişilerle paylaşılır.
• Tanımadığınız kişilerden gelen arkadaşlık isteklerini kabul ederken her zaman dikkatli olun.
• Tanımadığınız kişilere asla içerik göndermeyin. Özellikle belirli içerikleri görmek için baskı yapan kişilere karşı dikkatli olun.
• Çevrimiçi ortamda sıra dışı davranmaya başlayan “arkadaşlara” karşı dikkatli olun. Hesapları ele geçirilmiş olabilir. İçerik ve farklı bilgiler elde etmek için kullanılabilir.
• Sosyal medya hesaplarınızın güvenliğini sağlamak için her zaman karmaşık, benzersiz parolalar ve çok faktörlü kimlik doğrulama (MFA) kullanın.
• Herkese açık olan kişisel bilgilerinizi veya video/görüntülerinizi bulmak için kendinizi çevrimiçi ortamda düzenli olarak arayın.
• Bilginiz dışında internette yayımlanmış fotoğraf veya videoları bulmak için tersine görsel arama yapmayı düşünün.
• Tanımadığınız kişilere asla para veya canlı içerik göndermeyin. Gönderdiğiniz sürece daha fazlasını isteyeceklerdir.
• Herhangi bir cinsel zorlama faaliyetini polise ve ilgili sosyal medya platformuna bildirin.
• Deepfake içeriği, yayımlandığı platforma bildirin.

Ebeveyn olarak:

• Çevrimiçi ortamda ne kadar kişisel bilgi ve içeriğin herkese açık olarak paylaşıldığını belirlemek için çocuklarınızla ilgili düzenli çevrimiçi aramalar yapın.
• Çocuklarınızın çevrimiçi faaliyetlerini makul ölçüler içinde izleyin ve onlarla kişisel içerik paylaşmanın risklerini konuşun.
• Çocuklarınızın yüzlerinin göründüğü içerikleri paylaşırken iki kez düşünün.

Derin Öğrenme (Deep Learning) Nedir?

Derin öğrenme, bilgisayarlara tıpkı insanların yaptığı gibi örneklerden öğrenerek görevleri yerine getirmeyi öğreten bir makine öğrenimi türü. Bilgisayarlar nasıl bir şeyleri öğrenebiliyor? Oldukça kapsamlı veri kümeleriyle besleme yapılarak. Küçük yaştaki bir çocuk görerek, duyarak ve koklayarak, özetle duyu organlarıyla dünyada gerçekleşen bazı şeyleri kapar. Bilgisayardaki algoritmalar da benzer, tam olarak insan bir insan gibi düşünemese de görsel ve ses verileri gibi birçok veriyi tanımlayacak şekle getirilebiliyor.

Deep learning olarak anılan süreçte bilgisayarlar, insanın bilişsel süreçlerini simüle edecek şekilde kapsamlı veri kümelerinden öğrenmeleri için eğitiliyor. Derin öğrenme modelleri, sınıflandırma görevlerini yerine getirmek ve fotoğraf, metin, ses ve diğer veri türlerindeki kalıpları tanımak üzere öğretilebilir. Ayrıca görüntüleri tanımlamak veya ses dosyalarını yazıya dökmek gibi normalde insan zekası gerektiren görevleri otomatikleştirmek için de kullanılabilir.

İnsan beyinlerinde bilgileri öğrenmek için birlikte çalışan milyonlarca birbirine bağlı nöron bulunur. Derin öğrenme ise birlikte çalışan birden fazla yazılım düğümü katmanından oluşturulmuş sinir ağlarını içeriyor. Modeller, büyük etiketli veri kümeleri ve sinir ağı mimarileri kullanılarak eğitilmekte.

Deep learning metodu özetle bir bilgisayarın örneklerle öğrenmesini sağlar. Biraz önce verdiğimiz örneğe benzer şekilde, yeni yürümeye başlayan ve bir köpeğin ne olduğunu öğrenen çocuğu hayal edin. Yürümeye başlayan çocuk, nesneleri işaret ederek ve köpek kelimesini söyleyerek köpeğin ne olduğunu ve ne olmadığını öğrenir. Ebeveynler, yeni şeylerle tanışan çocuğa “Evet, bu bir köpek” veya “Hayır, bu bir köpek değil” gibi cevaplar verir. Küçük çocuk nesneleri işaret etmeye devam ettikçe, tüm köpeklerin sahip olduğu özelliklerin farkına varmaya başlar. Küçük çocuğun farkında olmadan yaptığı şey, karmaşık bir soyutlamayı açıklamaktır: köpek kavramı.

Bir bilgisayara “arabanın” nasıl bir şey olduğunu öğretiyoruz diyelim. Tekerlek, aynalar ve kaput gibi şeyleri söylemek yerine çok sayıda araba resmi gösterirsiniz. Bilgisayar ortak kalıpları kendi kendine bulabilir ve arabayı nasıl tanımlayacağını öğrenir. Bu da derin öğrenmenin özüdür.

Teknik anlamda derin öğrenme, insan beyninden esinlenen “sinir ağları” adı verilen bir yöntem kullanır. Bu ağlar, bilgiyi işleyen birbirine bağlı düğümlerin katmanlarından oluşmakta. Daha fazla katman, ağın daha karmaşık özellikleri öğrenmesine ve daha sofistike görevleri yerine getirmesine olanak tanıyacak şekilde “daha derin” olmasını sağlar.