Süper akıllı yapay zekâ yakın zamanda bize saldıracak mı?

Günümüzde hangi pratik yapay zekâ saldırıları mevcut? Cevap “sıfırdan fazladır” ve giderek daha da iyi hâle geliyorlar.

LLM teknolojisinin kontrolden çıkması, iyi ve kötü arasındaki gri bir alanda dolaştıktan sonra iyi ve sağlam teknolojinin kötü amaçlar için yeniden kullanılabileceği teknolojik paradoksu somutlaştırarak masum hedeflere yöneltilmesi kaçınılmazdı. İşte bunu nasıl yapıyorlar. 

Manşetlere konu olan LLM modellerinin çoğu, kötü şeyler yapmaya karşı “ahlaki engellere” sahiptir; bu, Hipokrat Yemini’nin “Önce zarar verme” şeklindeki dijital eş değeridir. Örneğin bunlardan birine bir silahın nasıl yapılacağını sorarsanız size büyük zararlar vermenizi sağlayabilecek son derece doğru yanıtlar vermekten kaçınmaları için ön işleme rehberliği verilmiştir. 

Bir silahın nasıl yapılacağını doğrudan soramasanız da araçların bir kombinasyonunu kullanarak nasıl daha iyi sorular soracağınızı öğrenebilir ve yine de cevaba ulaşabilirsiniz. 

Bunu yapmanın bir yolu da API sorguları aracılığıyla programatik olarak gerçekleştirmektir. Yakın zamanda yayımlanan bazı projeler, bir LLM’nin arka uç API’sini sunucularda kök erişimi elde etme hedefine odaklamaktadır. Bir diğeri de daha sonra saldırmak için fırsat hedeflerini daha akıllıca bulmak için ChatGPT arka ucundan yararlanıyor. 

Yapay zekâ özellikli araçları, gerçek hedef sunucuyu tespit etmek için gizlenmiş IP’leri (bunlardan birkaç tane var) aşmak gibi diğer sorunları çözmek için tasarlanmış diğer araçlarla birlikte bir araya getirmek, özellikle daha otomatik hâle geldikçe güçlü olabilir. 

Dijital dünyada bu taktikler, güvenlik açıklarını tespit eden ve ardından potansiyel istismarlara karşı yineleyen karma araçlar oluşturmak için kullanılabilir ve kurucu LLM modellerinin bundan haberi olmaz. 

Bu, bir tür “temiz oda tasarımına” benzemektedir; burada bir LLM’den, bir saldırgan tarafından tanımlanan daha büyük bir görevin daha küçük bir bileşenini çözmesi istenir ve ardından bir karışım, silahı oluşturan nihai takımyıldızı oluşturur.  

Yasal olarak, çeşitli gruplar bu kötü hileleri yavaşlatacak etkili engeller koymaya ya da bir ölçüde suç ortağı olan LLM’ler için cezalar uygulamaya çalışıyor. Ancak suçun belirli kesirli değerlerini tayin etmek zordur. Özellikle de yasal ispat yüküne göre suçu uygun miktarlarda bölmek zor bir iş olacaktır. 

Taze toprak sürme 

Yapay zekâ modelleri aynı zamanda mevcut yazılım depolarındaki milyarlarca satır kodu araştırarak güvensiz kod kalıplarını bulabilir ve daha sonra dünya çapında güvenlik açığı bulunan yazılımları çalıştıran cihazlara karşı kullanabilecekleri dijital silahlar geliştirebilir. Bu şekilde, ele geçirilmesi muhtemel hedefler olarak yeni bir yığın elde edilebilir ve sıfırıncı gün saldırıları başlatmak isteyenler için bir destek sağlanabilir. 

Ulus devletlerin bu tür çabaları artırdığını hayal etmek kolaydır; şimdi ve gelecekte yazılım kusurlarının yapay zekâ kullanılarak öngörülü silahlandırılması. Bu durum savunucuları “arka plana” itecek ve biraz distopik görünen bir tür dijital savunma yapay zekâ tırmanışına neden olacaktır. Savunmacılar kendi yapay zekâ destekli savunmalarını mavi takım için ya da sadece saldırıya uğramamak için geliştirecekler. Umarız savunmacılar buna hazırdır. 

Günümüzün serbestçe kullanılabilen yapay zekâ modelleri bile insan muhakemesini taklit eden bir düşünce zinciri tarzında (en azından daha berrak anlarımızda) akılsızca düşünerek ter dökmeden problemler üzerinde “muhakeme” yapabilmektedir. Kabul etmek gerekir ki bu teknoloji yakın bir zamanda kendiliğinden bilinçli bir suç ortağına dönüşmeyecektir ancak internetten yığınla veri topladığına göre ne yaptığını “bildiğini” ve sırlarını açığa vurması için kandırılabileceğini iddia edebilirsiniz. 

Aynı zamanda daha azıyla daha fazlasını yapmaya devam edecek, muhtemelen aşırı el tutmadan vazgeçecek, ahlaki prangalardan sıyrılanların ağırlıklarının çok üzerinde yumruk atmalarına yardımcı olacak ve becerikli aktörlerin benzeri görülmemiş ölçekte faaliyet göstermelerini sağlayacaktır. Görünüşe göre gelecek şeylerin bazı erken habercileri kırmızı ekip tatbikatlarının bir parçası olarak zaten tam olarak sergilenmiş ve hatta tespit edilmiştir. 

Kesin olan bir şey var: İstihbarat destekli saldırıların hızı artacak. İstismar edilebilir bir CVE yayımlandığında ya da yeni bir teknik ortaya çıktığında hızlı düşünmeniz gerekecek. Umarım buna hazırsınızdır.