TikTok‘ta deepfake “doktorlar” sahte tedaviler satıyor

Yapay zekâ tarafından üretilen “TikDoc’lar” gerçek sağlık uzmanları gibi davranarak yanıltıcı tıbbi tavsiyelerde bulunuyor ve şüpheli tedaviler öneriyor.

Bir zamanlar araştırma laboratuvarlarıyla sınırlı olan üretken yapay zekâ artık herkesin kullanımına açık; buna kötü niyetli olanlar da dahil. Bu kişiler yapay zekâ araçlarını yaratıcılığı teşvik etmek için değil, aldatmacayı körüklemek için kullanıyor. Son derece gerçekçi videolar, görüntüler ya da sesler oluşturabilen Deepfake teknolojisi, yalnızca ünlü taklidi ya da kamuoyunu etkileme çabaları için değil, aynı zamanda kimlik hırsızlığı ve her türlü dolandırıcılık için de giderek daha fazla başvurulan bir yöntem hâline geliyor.  

Bir TikTok aldatmacası 

TikTok ve Instagram gibi sosyal medya platformlarında, deepfake’lerin erişimi ve zarar verme potansiyelleri özellikle şaşırtıcı boyutlarda olabilir. Latin Amerika’daki ESET araştırmacıları yakın zamanda yapay zekâ tarafından oluşturulan avatarların jinekolog, diyetisyen ve diğer sağlık uzmanları gibi davranarak takviye ve sağlıklı yaşam ürünlerini tanıttığı bir kampanyayla karşılaştı. Genellikle son derece gösterişli ve ikna edici olan bu videolar, satış konuşmalarını tıbbi tavsiye kılığına sokarak dikkatsiz kişileri şüpheli ve potansiyel olarak tamamen riskli alışverişler yapmaya yönlendiriyor. 

Her video benzer bir senaryoyu takip ediyor: Genellikle ekranın bir köşesine sıkışmış konuşan bir avatar, sağlık veya güzellik ipuçları veriyor. Bir otorite havasıyla verilen tavsiyeler büyük ölçüde “doğal” çözümlere dayanıyor ve izleyicileri satış için belirli ürünlere yönlendiriyor. Bu deepfake’ler, uzman tavsiyesi kisvesine bürünerek satışları artırmak için güveni istismar ediyor ve bu taktik etkili olduğu kadar etik dışı da olabiliyor. 

Bir vakada “doktor”, kilo vermeye yardımcı olmasıyla ünlü Ozempic ilacına üstün bir alternatif olarak “doğal bir özü” lanse ediyor. Video dramatik sonuçlar vaat ediyor ve sizi Amazon’un sayfasına yönlendiriyor; burada ürün “rahatlatıcı damla” veya “ödem atımı destekleyici” olarak tanımlanıyor ve abartılan faydalarla hiçbir bağlantısı bulunmuyor.  

Diğer videolar riskleri daha da artırarak onaylanmamış ilaçları ya da ciddi hastalıklar için sahte tedavileri öne sürüyor hatta bazen gerçek, tanınmış doktorları taklit ediyorlar. 

TikTok‘ta yapay zekâ ile “kurtarma” yalanı 

Videolar, herkesin kısa görüntüler göndermesine ve bunları gösterişli bir avatara dönüştürmesine olanak tanıyan meşru yapay zekâ araçlarıyla oluşturuluyor. Bu, üretimlerini ölçeklendirmek isteyen influencer’lar için bir nimet olsa da aynı teknoloji yanıltıcı iddialar ve aldatma için de kullanılabilir. Başka bir deyişle bir pazarlama hilesi olarak işe yarayabilecek bir şey hızla yanlış bilgileri yayma mekanizmasına dönüşebilir. 

Ürünlerini tanıtmak için deepfake doktorlar kullanan 20’den fazla TikTok ve Instagram hesabı tespit ettik. Bunlardan biri, 13 yıllık deneyime sahip bir jinekolog gibi davranarak doğrudan uygulamanın avatar kütüphanesine kadar izlendi. Bu tür kötüye kullanımlar, yaygın yapay zekâ araçlarının hüküm ve koşullarını ihlal ederken aynı zamanda bunların ne kadar kolay silah hâline getirilebileceğini de vurguluyor. 

Nihayetinde, bu durum “sadece” değersiz takviyelerle ilgili olmayabilir. Bu sahtecilikler çevrimiçi sağlık tavsiyelerine olan güveni sarsarak zararlı “çareleri” teşvik edip uygun tedaviyi geciktirebileceğinden sonuçları daha vahim olabilir.  

TikTok tehlikelerinden uzak durun 

Yapay zekâ daha erişilebilir hâle geldikçe bu sahtekârlıkları tespit etmek de daha zor hâle geliyor ve teknoloji meraklıları için bile daha büyük bir zorluk oluşturuyor. Bununla birlikte, işte deepfake videoları tespit etmenize yardımcı olabilecek birkaç işaret: 

• Sesle senkronize olmayan dudak hareketleri veya sert ve doğal olmayan yüz ifadeleri, 

• Bulanık kenarlar veya ani ışık değişimleri gibi görsel aksaklıklar da çoğu zaman sahteciliği ele verir, 

• Robotik veya aşırı cilalı bir ses de başka bir kırmızı bayraktır, 

• Ayrıca hesabın kendisini de kontrol edin: az takipçisi olan veya geçmişi olmayan yeni profiller şüphe uyandırır, 

• “mucize tedaviler”, “garantili̇ sonuçlar” ve “doktorlar bu numaradan nefret ediyor” gibi̇ abartılı iddialara dikkat edin, özellikle de güvenilir kaynaklardan yoksunlarsa, 

• İddiaları her zaman güvenilir tıbbi kaynaklarla doğrulayın, şüpheli videoları paylaşmaktan kaçının ve yanıltıcı içerikleri platforma bildirin. 

Yapay zekâ araçları gelişmeye devam ettikçe gerçek ve uydurma içeriği ayırt etmek kolaylaşmak yerine zorlaşacaktır. Bu tehdit, bizi sağlığımızı ve mali refahımızı etkileyebilecek yanlış bilgi ve dolandırıcılıklardan korumaya yardımcı olacak hem teknolojik önlemler geliştirmenin hem de kolektif dijital okuryazarlığımızı geliştirmenin önemini vurgulamaktadır.