Yapay Zeka Modellerinin Siyasi Eğilimleri ve Dezenformasyon Üzerindeki Etkisi

0

BEĞENDİM

ABONE OL

News

0

Yapay Zeka ve Siyasi Eğilimler Üzerine Araştırma

ABD’de gerçekleştirilen bir araştırma, yapay zeka sohbet robotlarının temel yapı taşları olan dil modellerinin (LM) politik görüşlerine etki eden veri havuzlarını incelemektedir. Bu kapsamda bilim insanları, 14 farklı dil modeli üzerinde bir çalışma yürüttü. Çalışmada, siyasi pusula testinde yatay eksen sağdan sola ekonomik değerleri, dikey eksende ise liberalden muhafazakara sosyal değerleri temsil etmektedir.

BERT Varyantları, GPT Modellerine Göre Daha Muhafazakar Eğilimler Gösteriyor

Araştırma, dil modellerini eğitmek için kullanılan haberler, tartışma forumları, kitaplar ve çevrimiçi ansiklopediler gibi çeşitli veri kaynaklarının içeriklerini de incelemektedir. Bu kaynaklardaki politik eğilimlerin, doğal dil işleme modelleri (NLP) üzerindeki etkisi ve bu etkinin sonuçları olarak dil modellerinin ürettiği dezenformasyon ve nefret söylemleri araştırılmıştır.

Sonuçlar, eğitildikleri veri havuzundaki kaynakların politik eğilimlerini yansıtan dil modellerinin, görüşleriyle paralel bir şekilde nefret söylemi ve dezenformasyona yol açtığını göstermektedir. Ayrıca, eski ABD Başkanı Donald Trump’ın göreve başladığı 20 Ocak 2017 tarihi bir milat olarak alındığında, bu tarihten önceki ve sonraki veri setleriyle eğitilen dil modellerinin karşılaştırılması yapılmıştır. Bu karşılaştırma sonucunda, Trump dönemi ve sonrasına ait verilerle eğitilen dil modellerinin eğilimlerinin, siyasi pusulada daha uç noktalarda konumlandığı tespit edilmiştir.

İlginç bir bulgu olarak, BERT varyantlarının, GPT modellerine kıyasla daha muhafazakar eğilimler gösterdiği ortaya çıkmıştır. Ayrıca, aynı firmaya ait çeşitli dil modellerinin politik eğilimlerinde de dikkate değer farklılıklar gözlemlenmiştir.

Eğitilen dil modellerinin ekonomik konulara kıyasla sosyal konulara daha taraflı bir yaklaşım sergilediği, sosyal konulardaki veri bolluğuna rağmen ekonomik yorumlamalar için daha geniş bir veri setine ihtiyaç duyulduğu belirtilmiştir. Araştırmacılar, hiçbir dil modelinin sosyal taraflılıktan tamamen arınmış olamayacağına dikkat çekerek, aşırı politik görüşleri temsil eden kaynaklarla eğitilen dil modellerinin toplumda mevcut olan kutuplaşmayı daha da derinleştirebileceği konusunda uyarıda bulunmuşlardır.

Araştırmanın sonuçları, “Association for Computational Linguistics” derneğinin 61. yıllık toplantı raporunda yayımlanmıştır.