Apple yapay zekanın fotoğrafları manipüle etmesinden endişeli

Apple, yeni yapay zeka teknolojileriyle birlikte “fotoğraf nedir?” sorusuna kendi cevabını arıyor. Şirketin yazılım yöneticisi Craig Federighi, The Wall Street Journal ile yaptığı röportajda, Apple’ın yapay zeka destekli görüntü düzenleme araçlarının fotoğrafın otantikliğini korumayı hedeflediğini belirtti.

Federighi, “Ürünlerimiz ve telefonlarımız çok sık kullanılıyor,” diyerek, “Bizim için doğru bilgi yaymak, fantezi değil, gerçekleri sunmak önemli,” şeklinde konuştu.

Apple, iOS 18.1 sürümüyle Fotoğraflar uygulamasına yeni bir “Temizleme” (Clean Up) özelliği ekliyor. Bu özellik, fotoğraflardan hızlıca nesneleri ve insanları kaldırabiliyor. Federighi ve The Wall Street Journal muhabiri Joanna Stern, bu özelliğin, Google ve Samsung gibi rakiplerin sunduğu yapay zeka destekli düzenleme araçlarına göre daha sınırlı olduğunu belirtiyor. Ancak Federighi, “Temizleme” özelliğinin eklenmesi konusunda şirket içinde “büyük tartışmalar” yaşandığını ifade etti.

Federighi, “O su şişesini ya da mikrofonu kaldırmayı kolaylaştırmak istiyor muyuz? Çünkü o şişe fotoğrafı çektiğinizde oradaydı,” diyerek, fotoğrafın arka planındaki öğelerin kaldırılmasına dair endişelerini dile getirdi. Ancak kullanıcıların, fotoğrafın anlamını değiştirmeyen, ancak gereksiz gibi görünen detayları temizlemek için büyük bir talep gösterdiğini belirtti ve bu talep doğrultusunda bu küçük adımı atmaya karar verdiklerini açıkladı.

Federighi, Apple’ın yapay zekanın, insanların fotoğrafik içeriği güvenilir bir gerçeklik göstergesi olarak algılamasına olan etkisinden endişe duyduğunu belirtti. Google gibi rakiplerin sunduğu Reimagine özelliği, kullanıcıların sadece metin girdisi ile fotoğraflara aslanlar, bombalar veya yasa dışı maddeler gibi öğeler eklemesini mümkün kılıyor. Bu tür araçlar, fotoğrafçılığın güvenilirliğini daha da aşındırma riski taşıyor.

Apple’ın yeni “Temizleme” özelliği, rakiplerin sunduğu gibi yapay zeka tarafından oluşturulmuş varlıkların fotoğraflara eklenmesine olanak tanımıyor. Ayrıca, bu özellik kullanılarak düzenlenen tüm fotoğraflar “Temizleme ile Düzenlendi” etiketiyle işaretlenecek ve fotoğrafta yapılan değişiklikleri belirten meta verilerle kaydedilecek.

Apple bu konuda önlem alan tek şirket değil

Apple, bu alanda önlem alan tek şirket değil. Adobe tarafından geliştirilen “İçerik Güvenilirliği İnisiyatifi” (Content Authenticity Initiative) de benzer bir meta veri sistemi olan “İçerik Kimlik Bilgileri” ile fotoğrafların orijinal olup olmadığını ayırt etmeyi amaçlıyor. Bu sistem, teknoloji, kamera ve medya şirketlerinin gönüllü desteğine ihtiyaç duyuyor ve bu desteğin giderek arttığı görülüyor. Ancak Apple’ın kendi meta veri sisteminin “İçerik Kimlik Bilgileri” ile uyumlu olup olmayacağı henüz net değil.