Dartmouth Üniversitesi tarafından yürütülen ve pazartesi günü ABD Ulusal Bilimler Akademisi Bildiriler Kitabı’nda (PNAS) yayımlanan araştırma, büyük dil modellerinin (LLM) çevrimiçi anketleri geniş ölçekte manipüle edebildiğini ortaya koydu.
Araştırmada, bu modellerin insan kişiliklerini taklit edebildiği, mevcut tespit yöntemlerini kolaylıkla aşabildiği ve çevrimiçi anket sonuçlarını sistematik olarak çarpıtmak üzere programlanabileceği belirtildi. Çalışmanın yazarı, Dartmouth Üniversitesi Siyaset Bilimi Bölümü Öğretim Üyesi Sean Westwood, bulguların veri altyapısında kritik bir zafiyete işaret ettiğini ve denetimsiz çevrimiçi araştırmalar için potansiyel bir varoluşsal tehdit oluşturduğunu söyledi.
Araştırmaya göre, yapay zekâ müdahalesi kritik seçim süreçlerine de yeni bir karmaşıklık ekleyebilir. Avrupa’daki çeşitli seçimlerde, Moldova da dahil olmak üzere, yapay zekâ destekli dezenformasyon faaliyetleri çevrimiçi izleme grupları tarafından tespit edilmişti.
Westwood, çevrimiçi anket yazılımlarının zayıflığını test etmek için 500 kelimelik bir komutla çalışan özerk sentetik katılımcı adlı basit bir yapay zekâ aracı geliştirdi. Sistem her ankette rastgele yaş, cinsiyet, ırk, eğitim, gelir ve ikamet edilen eyalet gibi bilgilerle bir demografik kişilik oluşturdu.
Bu yapay katılımcı;– Gerçekçi okuma süreleri,– İnsana benzer fare hareketleri,– Tek tek tuş vuruşlarıyla yazılmış, hata ve düzeltme içeren yanıtlar üretti.
43 binden fazla testte, araç yüzde 99,8 oranında insan sanıldı. Mantık testlerinde hiç hata yapmadı ve reCAPTCHA gibi geleneksel bot engelleme mekanizmalarını tamamen geçmeyi başardı.
“Bunlar sıradan botlar değil.” diyen Westwood “Her soruyu insan gibi düşünüp değerlendiriyorlar ve veri tamamen meşru görünüyormuş gibi davranıyorlar.” ifadelerini kullandı.
Araştırma, siyasi anketlerdeki kırılganlığı pratik bir örnekle inceledi: 2024 ABD başkanlık seçimi. Westwood, sadece 10 ile 52 arasında yapay zekâ yanıtının, ulusal ölçekteki yedi önemli ankette seçim sonucunu tahmin eden dengeyi tersine çevirebileceğini belirledi.Bu yapay katılımcıların her birinin maliyeti ise 5 ABD senti kadar düşük.
Testlerde botlar Rusça, Çince ve Korece olarak programlansa bile kusursuz İngilizce yanıtlar üretti. Bu durumun, tespit mekanizmalarını aşabilecek daha gelişmiş sistemlere sahip olabilecek yabancı aktörler için önemli bir fırsat oluşturduğu vurgulandı.
Bilimsel araştırmaların da büyük ölçüde çevrimiçi anket verilerine dayandığını hatırlatan Westwood, her yıl binlerce hakemli makalenin bu verilerden faydalandığını belirterek “Anket verileri botlar tarafından kirletildiğinde, yapay zekâ tüm bilgi ekosistemini zehirleyebilir.” dedi.
Westwood, bilim dünyasının ileri düzey yapay zekâ araçlarının manipülasyonuna kapalı yeni veri toplama yöntemleri geliştirmesi gerektiğini vurguladı. “Gerçek insan katılımını doğrulayacak teknoloji zaten var.” diyen Westwood “Bunu uygulamaya koyacak iradeye ihtiyacımız var. Şimdi harekete geçersek hem anketlerin bütünlüğünü hem de demokrasinin hesap verebilirliğini koruyabiliriz.” ifadelerini kullandı.