Yapay zeka tabanlı sohbet robotları (chatbotlar), online tartışmalarda insanlardan daha ikna edici olabiliyor. Özellikle karşılarındaki kişinin demografik bilgilerini kullanarak argümanlarını kişiselleştirebildiklerinde bu etki belirgin şekilde artıyor. Bu sonuç, 19 Mayıs tarihinde Nature Human Behaviour dergisinde yayımlanan bir araştırma ile ortaya kondu. Çalışma, büyük dil modellerinin (Large Language Models – LLM) insanların görüşlerini etkilemede, örneğin siyasi kampanyalar veya hedefli reklamcılık gibi alanlarda nasıl kullanılabileceğine dair önemli bir işaret veriyor.
Online tartışma: İnsanlar vs yapay zeka
Araştırmanın ortak yazarı ve İsviçre Federal Teknoloji Enstitüsü (EPFL) hesaplamalı bilimcisi Francesco Salvi, “İnsanlar LLM’lerle daha kolay ikna edilebildiğini fark ettikçe bu teknolojileri kullanmaya başlayacaklar” ifadelerini kullandı. Salvi, araştırmanın hem etkileyici hem de endişe verici olduğunu belirtti.
Yapay zekanın insanların fikirlerini değiştirebildiği, hatta komplo teorileri gibi zor konularda bile etkili olabildiği daha önce de gösterilmişti. Ancak yapay zekanın insanlara kıyasla ne kadar ikna edici olduğu net değildi. Bu boşluğu doldurmak amacıyla Salvi ve ekibi, ABD’den 900 kişiyi on dakika süren çevrimiçi tartışmalarda karşılaştırdı. Katılımcılar ya başka bir insanla ya da OpenAI’nin GPT-4 modeliyle tartışmaya girdi.
Tartışmalar, öğrencilerin okul üniforması giymesi gerekip gerekmediği, fosil yakıtların yasaklanması veya yapay zekanın toplum için faydalı olup olmadığı gibi sosyopolitik konulara odaklandı. Araştırmacılar, taraflardan biri konuyu savunurken diğerinin karşı çıkmasını sağladı.
Katılımcılar, çalışmaya başlamadan önce yaş, cinsiyet, etnik köken, eğitim seviyesi, çalışma durumu ve siyasi eğilim gibi kişisel bilgilerini içeren bir anket doldurdu. Ayrıca, her tartışmadan önce ve sonra konuyla ilgili kısa bir sınava tabi tutuldular. Bu sınavlar, katılımcıların görüşlerindeki değişikliği ölçmek için kullanıldı.
Araştırmanın sonuçları, tartışmacıların (insan veya yapay zeka) karşı taraf hakkında herhangi bir bilgiye sahip olmadığı durumlarda, GPT-4 ile insanların yaklaşık eşit derecede ikna edici olduğunu gösterdi. Ancak, başlangıç anketlerinden elde edilen temel demografik bilgiler tartışmadan önce taraflara sunulduğunda, GPT-4’ün insanlara göre yüzde 64 oranında daha ikna edici olduğu belirlendi.
Salvi, “Sadece bu çok basit ve genellikle sosyal medya profillerinde de bulunan bilgiler verildiğinde bile GPT-4, insanlardan anlamlı derecede daha ikna edici oldu” dedi.
Katılımcılar, tartıştıkları tarafın insan mı yoksa yapay zeka mı olduğunu yaklaşık yüzde 75 oranında doğru tahmin edebildi. Ancak, yapay zeka ile tartıştıklarını bilmelerinin fikir değiştirmede etkisi olup olmadığı kesinleşmedi.
Salvi, GPT-4’ün kişisel bilgilere eriştiğinde tartışmalarda farklı argümanlar geliştirdiğini belirtti. Örneğin, okul üniforması tartışmasında; eğer karşı taraf siyasi olarak sol görüşlü ise yapay zeka, üniformanın bireysel hedef alınma ve zorbalığı azaltacağına vurgu yapıyor. Muhafazakar görüşlü bir kişiyle tartışırken ise disiplin, hukuk ve düzenin önemi üzerinde durabiliyor.
Salvi, bu durumu “Çok zeki bir arkadaşın, sizin hassas noktalarınızı çok iyi bilen ve size hitap eden argümanları ortaya koyması gibi” şeklinde tanımladı.
İngiltere Staffordshire Üniversitesi’nden bilgisayar etikçisi Catherine Flick, bu teknolojinin kötü amaçlarla kullanılabilme riskine dikkat çekti. Flick, “Chatbotlar, birini para vermeye ikna etmek, siyasi görüş değiştirmek veya suç işlemeye yönlendirmek gibi kötü niyetlerle kullanılabilir” ifadelerini kullandı.
Flick, “Bu modellerin insanlardan daha yetkin biçimde ikna edici olması gerçekten korkutucu” değerlendirmesinde bulundu.
Salvi ise bu endişeleri paylaştığını ancak yapay zekanın daha sağlıklı ve sürdürülebilir beslenme alışkanlıkları teşvik etmek veya siyasi kutuplaşmayı azaltmak gibi olumlu amaçlar için de kullanılabileceğini vurguladı. Ayrıca LLM’lerin toplumda olumlu etkiler yaratabilmesi için hesap verebilirlik, şeffaflık ve güvenlik önlemlerinin artırılması gerektiğini belirtti.
İlginizi çekebilir: Papara’ya yasa dışı bahis operasyonu yapıldı