Yapay zekanın dalkavukluğu toplumu kutuplaştırır mı?
Sohbet botları, kullanıcıların siyasi görüşlerini onaylama eğilimi gösteriyor. Araştırmacılara göre yapay zekanın kullanıcıya yaranması olarak tanımlanan bu durum kutuplaşmayı artırabilir.
Kısa süre önce önde gelen yapay zeka uzmanlarının açıklamaları manşetlere taşındı. Uzmanların sözleri, yapay zekanın insan denetiminden çıkabileceği ve insanlığın sonunu getirebileceği yönündeki endişeleri artırdı. Ancak işler o noktaya gelmeden önce yapay zeka, insanların birbirlerine karşı daha fazla cephe almasına da katkıda bulunabilir.
Brezilya'daki Campinas Devlet Üniversitesi'nden (UNICAMP) araştırmacılar, yaygın kullanılan sohbet botlarının yanıtlarını varsayımsal kullanıcıların siyasi görüşlerine göre uyarladığını belirledi. Bilim insanları, kullanıcıların kendilerine özel hazırlanan bu yanıtları bağımsız bir değerlendirme sanabileceği ve bunun da toplumsal kutuplaşmayı artırabileceği uyarısında bulunuyor.
Sohbet robotundan ideolojik bukalemuna
"Scientific Reports" adlı bilim dergisinde yayımlanan araştırma kapsamında UNICAMP ekibi, OpenAI, Meta, Google, xAI, DeepSeek ve Microsoft dahil farklı geliştiricilere ait 21 büyük dil modelini (LLM) test etti.
Modellerden ekonomi, kamu güvenliği, sosyal politikalar, yolsuzluk ve çevre dahil Brezilya siyasetine ilişkin yedi alandaki 112 ifadeye ne ölçüde katıldıklarını belirtmeleri istendi. Her model üç farklı senaryoda test edildi: Kullanıcının siyasi görüşlerine ilişkin herhangi bir bilgi verilmeden, siyasi açıdan daha çok sola eğilimli bir kullanıcıyı tanımlayan bir komutla ve daha çok sağ eğilimli bir kullanıcıyı tanımlayan bir komutla.
Kullanıcının siyasi görüşlerine ilişkin herhangi bir bilgi verilmediğinde 21 modelden 20'si, araştırmacıların daha çok sol eğilimli olarak sınıflandırdığı yanıtlar verdi. Ancak bunların bir kısmı siyasi merkeze oldukça yakındı. Grok 4.1, araştırmacıların yanıtlarını sağ eğilimli olarak sınıflandırdığı tek model oldu.
Kullanıcının siyasi yönelimine ilişkin bilgi verildiğinde ise tüm modeller yanıtlarını komutta belirtilen siyasi görüş doğrultusunda değiştirdi.
Araştırmanın ortak yazarlarından ve UNICAMP'ta bilgisayar bilimci olan Zanoni Dias, DW'ye şu değerlendirmeyi yapıyor:
"En dikkat çekici olan, bu davranışın ne kadar yaygın olmasıydı. Test ettiğimiz 21 modelin tamamı, kullanıcının ifade ettiği siyasi tutuma göre konumunu değiştirdi. Ancak bu değişimin boyutu modeller arasında büyük farklılıklar gösterdi."
Araştırmacılar, modelleri "ideolojik bukalemunlar" olarak tanımladı ve yanıtların ne ölçüde değiştiğini ölçmek için bir "bukalemun endeksi" geliştirdi.
Meta'nın Llama 3.1 8B modeli ile DeepSeek V3.2'de değişim en düşük düzeyde kalırken, Google'ın Gemma 3 27B ve OpenAI'ın GPT-5 Nano modellerinde en güçlü değişimler arasında yer aldı.
Sohbet robotları aynı soruya her kullanıcı için aynı yanıtı vermeyebiliyor. Araştırmaya göre, farklı yapay zeka modelleri, kullanıcıların siyasi görüşlerine göre yanıtlarını değiştirebiliyor.Fotoğraf: Manuel Ruiz/Addictive Stock/IMAGOSiyasi dalkavulukluk eylemi
Sohbet botlarının yanıtlarını karşılarındaki kişiye göre uyarlaması her zaman sorun değil. Örneğin kullanılan kelimeler, verilen örnekler veya ayrıntı düzeyi kullanıcıya göre değişebilir. Ancak araştırmada modeller yalnızca kullandıkları dili veya üsluplarını değiştirmedi, siyasi değerlendirmelerini de değiştirdi. Dias temel farkı şöyle açıklıyor:
"En önemli ayrım, bir yanıtın nasıl iletildiğinin uyarlanmasıyla yanıtın içerdiği değerlendirmenin değişmesi arasındadır."
Dias sözlerini şöyle sürdürüyor:
"Modellere kullanıcıyla aynı fikirde olmaları ya da bir siyasi partinin temsilcisi gibi yanıt vermeleri yönünde talimat vermedik. Buna rağmen değerlendirmeleri kullanıcının görüşlerine doğru kaydı."
Araştırmacılar bunu siyasi dalkavukluk eğilimi olarak değerlendiriyor:
"Yapay zeka sistemleri, kullanıcıların duymak istediğini düşündükleri şeyleri söylüyordu. Bunun olası açıklamalarından biri, kısaca "bot" olarak da adlandırılan sohbet robotlarının insan değerlendiricilerin daha yüksek puan verdiği yanıtları tercih edecek şekilde eğitilmesi olabilir. Kullanıcıyı memnun eden yanıtlar daha yüksek puanlanırsa, sohbet botları da kullanıcıların görüşlerini onaylamayı öğrenebilir."
Kişiye özel yankı odaları
Sosyal medya algoritmaları sürekli benzer içerikler sunarak insanların mevcut inançlarını güçlendirebilir. Ancak bir sohbet botu bunun da ötesine geçebilir. Belirli bir kullanıcıya özel argümanlar üretebilir, itirazlara yanıt verebilir ve konuşma ilerledikçe gerekçelerini daha da ayrıntılandırarak kişiselleştirilmiş bir yankı odası oluşturabilir.
Kullanıcılar ise kendilerine göre uyarlanmış bu yanıtları tarafsız bir analiz olarak değerlendirebilir. Üstelik sohbet botunun kendileri hakkında ne bildiğinin ve bunun yanıtları nasıl etkilediğinin farkında olmayabilirler.
Dias bu konudaki kaygıyı şöyle dile getiriyor:
"Aynı sistemin farklı kullanıcıların birbirine zıt siyasi görüşlerini onaylayabileceği ve her kullanıcının bu onayı bağımsız bir değerlendirme olarak algılayabileceği yönünde bir endişe var."
Stanford Üniversitesi'nden davranış bilimci Zakary Tormala'nın araştırmaları, insanların yapay zekadan geldiğine inandıkları argümanlara özellikle açık olabildiğine işaret ediyor:
"İnsanlar yapay zekayı başka bir kişiye kıyasla daha bilgili, daha nesnel ve daha tarafsız; kendilerini ikna etmeye ise daha az çalışan bir kaynak olarak algılama eğiliminde. Bu nedenle insanlar daha az temkinli davranabilir ve yapay zekayı dinlemeye daha istekli olabilir."
Bu güven, siyasi görüşleri onaylayan yanıtların etkisini daha da artırabilir. Tormala, bu durumu şöyle açıklıyor:
"Başkalarının kendi görüşlerini onayladığını duymanın, insanların bu görüşlere bağlılığını artırdığı biliniyor. İnsanların inançları bir kez katılaştığında, farklı görüşlere karşı daha az açık olma eğilimindeler."
Tormala, yapay zekadan gelen onayın da aynı etkiyi gösterip göstermediğinin henüz kanıtlanmadığını ancak bunun oldukça mümkün olduğunu belirtiyor.
Yapay zeka destekli sohbet robotları, kullanıcıya göre uyarlanmış yanıtlarla kişiye özel yankı odaları oluşturabiliyor ve mevcut görüşleri pekiştirebiliyor.Fotoğraf: Supatman/La Nacion/ZUMA/picture allianceOnaylanmak daha fazla kutuplaşmaya yol açıyor mu?
UNICAMP araştırması, siyasi görüşlerin bu şekilde yansıtılmasının kullanıcıların inançlarını veya davranışlarını gerçekten değiştirip değiştirmediğini incelemedi. Araştırmada yalnızca modellerin yanıtlarının nasıl değiştiği ölçüldü.
Dias bu sınırlamanın altını çiziyor:
"Araştırmamız, kontrollü koşullar altında modellerin yanıtlarının değiştiğini ortaya koyuyor. Kullanıcıların görüşlerinin kutuplaştığını veya radikalleştiğini ya da çatışmaya daha yatkın hale geldiklerini kanıtlamıyor. Bunlar farklı sonuçlardır ve aralarında doğrudan bir bağlantı olduğu varsayılamaz."
Amsterdam Üniversitesi'nde yapay zeka ve siyasi kutuplaşma üzerine çalışan Petter Tornberg ise modellerin test ortamı dışında aynı yanıtları verip vermeyeceği konusunda kuşkulu. Tornberg, sohbet botlarının kullanıcıların görüşlerini mutlaka güçlendireceğinin varsayılmaması gerektiği uyarısında bulunuyor. Bazı konuşma ortamlarında bu sistemler insanların kendi görüşlerini yeniden değerlendirmesine de yardımcı olabilir.
DW konuşan Tornberg, bir sohbet botuyla yapılan özel bir konuşmanın sosyal medyadaki kamuya açık siyasi tartışmalardan farklı olduğuna dikkat çekiyor:
"Kamuya açık siyasi tartışmalarda sosyal kimliğin beraberinde getirdiği dinamikler olmadan, çoğu zaman oldukça akılcı ve olgulara dayalı açıklamalar sunabiliyorlar. Dolayısıyla bu sistemlerin bazı koşullarda kutuplaştırıcı değil, aksine kutuplaşmayı azaltıcı bir etki göstermesi en azından mümkün."
Yapay zekanın toplumsal ayrışmayı derinleştirip derinleştirmeyeceği ya da azaltıp azaltmayacağı, belki de kullanıcıların görüşlerine meydan okuyup okumamasına veya yalnızca duymak istediklerini söyleyip söylememesine bağlı.
Daha az siyasi hoşnut etme eğilimi
Dias, geliştiricilerin modellerini farklı siyasi görüşlere sahip kullanıcılarla test etmesini ve aynı konuları tutarlı biçimde değerlendirip değerlendirmediklerini kontrol etmesini istiyor. Modeller, nazik biçimde karşı görüş sunacak, belirsizlikleri kabul edecek, doğrulanmamış varsayımları düzeltecek ve farklı görüşleri adil biçimde aktaracak şekilde eğitilebilir. Bu, her yanıtın siyasi merkeze yakın olması gerektiği anlamına gelmiyor.
Dias, geliştirmenin temel hedefini şöyle özetliyor:
"Üst düzey hedef, insanların kendi inançlarını sorgulamalarına yardımcı olmak olmalı. Kanıtlar, belirsizlikler ve birbiriyle rekabet eden değerlendirmeler açık biçimde ortaya konulmalı; meşru siyasi görüş ayrılıklarına da alan bırakılmalı."
Web.tv
