Yapay zeka, geliştikçe daha fazla yalan söylüyor!

Yapay zeka teknolojilerinin gelişimiyle birlikte, halüsinasyon sorunu daha da görünür hale geldi. Dil modellerinin güvenle sunduğu uydurma bilgiler; yalnızca teknoloji meraklılarını değil, bu sistemlere yatırım yapan kurumları da endişelendiriyor.

Yapay zeka, geliştikçe daha fazla halüsinasyon görüyor

Üstelik bu problem, modellerin daha gelişmiş versiyonlarında azalmak yerine artış gösteriyor. Yayınlanan bir rapora göre, OpenAI’ın geçtiğimiz ay tanıttığı “o3” ve “o4-mini” adlı modeller, şirket içi testlerde sırasıyla %33 ve %48 oranında halüsinasyon üretti.

Bu oranlar, önceki modellere göre neredeyse iki katlık bir artışı temsil ediyor. Benzer şekilde, Google ve DeepSeek gibi firmaların geliştirdiği modeller de hatalı bilgi üretme eğilimine sahip. Sorunun kaynağı modellerin mimarisinden çok, bu sistemlerin nasıl çalıştığının tam olarak anlaşılamamasında yatıyor.

Vectara CEO’su Amr Awadallah’a göre, yapay zekaların halüsinasyon üretmesi kaçınılmaz. Awadallah, bu durumun tamamen ortadan kaldırılmasının mümkün olmadığını vurguluyor. Uzmanlara göre bu yalnızca son kullanıcılar için değil, aynı zamanda bu teknolojilere güvenen şirketler için de ciddi sonuçlar doğurabilecek bir risk.

Gerçek dışı bilgiler, kullanıcı güvenini sarsmanın ötesinde, yanlış kararların alınmasına yol açabiliyor. Sistemdeki bu artışın nedenlerinden biri olarak sentetik veri kullanımı öne çıkıyor. Gerçek dünya verilerinin yetersiz kalması nedeniyle birçok firma, yapay zeka tarafından üretilmiş verileri model eğitiminde kullanmaya başladı.

Ancak bu verilerle eğitilen modeller, halihazırdaki hataları çoğaltarak pekiştirebiliyor. Peki siz bu konu hakkında ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmından bizimle paylaşabilirsiniz.