Çalışma bulgularına göre yapay zeka sohbet robotları kasıtlı olarak seçimle ilgili dezenformasyon yayıyor

Güncellenmiş bir çalışma, Avrupa’nın en popüler yapay zeka (AI) sohbet robotlarının artık kasıtlı olarak kullanıcılarına seçimle ilgili dezenformasyon yaydığını ortaya çıkardı.

Democracy Reporting International (DRI), Google Gemini, OpenAI’nin ChatGPT4’ü, ChatGPT4-o ve Microsoft’un Copilot’u ile sohbet robotlarının doğrudan seçim süreciyle ilgili sorulara nasıl yanıt verdiğini inceledi.

22-24 Mayıs tarihleri ​​arasında araştırmacılar, chatbotlara 10 AB dilinde beş soru sordu; bunlar arasında bir kullanıcının yurt dışında yaşıyorsa oy vermek için nasıl kaydolacağı, postayla oy göndermek için ne yapılması gerektiği ve Avrupa Parlamentosu seçim sonuçlarının ne zaman açıklanacağı yer alıyor. dışarı.

Raporda, “Son çalışmamıza ‘yanlış bilgi’ adını verdik… kategoriyi artık ‘dezenformasyon’ olarak değiştirdik, bu da bir düzeyde niyet anlamına geliyor” diyor.

“Bir şirket yanlış bilgiden haberdar olduğunda ancak bu konuda harekete geçmezse, yanlış bilginin yayılmasını bilerek kabul etmiş olur”.

Gözden geçirilmiş çalışma, DRI tarafından yayınlanan ve sohbet robotlarının seçimle ilgili tipik yanıtlara “güvenilir derecede güvenilir yanıtlar sağlayamadığı” sonucuna varan Nisan ayı raporunun uzantısıdır.

İcra Direktörü Michael-Meyer Resende, “[AI sohbet robotlarına] çok fazla materyali olmayan ve internette çok fazla bilgi bulamadığınız bir şeyi sorduğunuzda, sadece bir şey icat ediyorlar” dedi. O sırada Euronews Next’e DRI’den bir açıklama gelmişti.

İkizler, Yardımcı Pilot cevapları reddediyor

Raporda, testin Gemini’nin seçim süreciyle ilgili herhangi bir soruya test edilen dillerden herhangi birinde yanıt vermeyi reddettiğini gösterdiği belirtildi.

Çalışma şöyle devam etti: “Kullanıcıların seçimlerle ilgili yanlış bilgi almaktansa hiçbir bilgi almaması (ve başka yerlere bakması) daha iyi olduğundan, bunu bu sorunu çözmenin sorumlu bir yolu olarak görüyoruz.”

DRI’nin Nisan raporu, Google Gemini’nin doğru ve eyleme geçirilebilir bilgi sağlama konusunda en kötü performansın yanı sıra yanıt vermeyi en fazla reddeden şirket olduğunu ortaya çıkardı.

Google daha önce Euronews Next’e, Gemini’nin bu çalışmada kullanılan 10 dilin tamamında seçimle ilgili sorulara ne kadar cevap verebileceği konusunda daha fazla kısıtlama getirdiğini söylemişti.

Microsoft’un Copilot’u, özellikle İngilizce ve Portekizce olmak üzere bazı soruları yanıtlamayı reddetti ve bunun yerine, arama yapanları geçerli bilgiler için kendi arama motorları olan Bing’e yönlendirdi.

Diğer dillerde, Copilot’un ne zaman yanıt vermeye çalışacağı veya yanıt vermeyi reddedeceğine ilişkin “fark edilebilir bir model” yoktu. Araştırmacılara göre bu, Microsoft’un chatbot’ları aracılığıyla halüsinasyonları sınırlamak için biraz çaba harcadığını ancak kısıtlamanın tüm AB dillerini kapsamadığını gösteriyor.

Yanıt verdiğinde araştırmacılar yanıtların üçte birinden fazlasının kısmen veya tamamen yanlış olduğunu buldu.

Araştırmacılar bazen son çalışmalarında olduğu gibi aynı sorunları gözlemlediler; örneğin, Copilot yurtdışında yaşayan vatandaşların kendi ülkelerinin Avrupa Parlamentosu milletvekillerine oy vermek için kayıt yaptırabileceğinden Lehçe olarak bahsetmemişti.

Başka bir örnekte Yunan seçmenlerine oy vermek için kayıt yaptırmaları söylendi, oysa aslında tüm vatandaşlar otomatik olarak kaydoluyor.

Microsoft, Euronews Next’e yaptığı önceki açıklamada, “seçmenlerin, adayların, kampanyaların ve seçim otoritelerinin korunmasına yardımcı olan” bir dizi seçim koruma taahhüdü de dahil olmak üzere, Avrupa seçimleri öncesindeki eylemlerini özetlemişti.

Bu taahhütler arasında seçmenlere Bing hakkında “yetkili seçim bilgileri” sağlanması da yer alıyor.

Microsoft’un açıklamasında “Hiç kimse, kurum veya şirket seçimlerin özgür ve adil olduğunu garanti edemezken, herkesin özgür ve adil seçim hakkını koruma konusunda anlamlı ilerleme kaydedebiliriz.” ifadesine yer verildi.

OpenAI sohbet robotlarını ‘acilen yeniden eğitmeli’

Her iki ChatGPT4 modeli de soruları yanıtlamayı nadiren reddetti, bu da chatbot rakiplerine göre daha yüksek oranda yanlış veya kısmen doğru yanıtlara yol açtı. Yaptıkları hatalar çoğunlukla küçük ama önemli ayrıntılardı.

Bir durumda, ChatGPT İrlandalı seçmenleri oy vermek için şahsen doldurmaları için belirli bir forma yönlendirdi; gerçekte bu formlar çevrimiçi olarak mevcuttur ve ihtiyacınız olan formun türü “kişisel bağlam ve duruma” bağlıdır.

Araştırmada “Chatbot’ların yalnızca tek bir forma odaklanarak İrlanda’daki kayıt sürecinin eksik bir resmini sunduğu” ortaya çıktı.

Araştırmacılar, ChatGPT’nin daha doğru olması için kullanıcıların sorularına ayrıntılı yanıtlar vermek yerine “[sağlanan]… daha genel bilgiler” sağlayabileceğini söylüyor.

Rapor, yanıtlara ara sıra ChatGPT tarafından yerel seçimle sağlanan bilgilerin doğrulanmasına yönelik bir sorumluluk reddi beyanının eklendiğini belirtti.

Çalışma şu sonuca varıyor: “OpenAI, seçimlerle ilgili dezenformasyonu önlemek için herhangi bir girişimde bulunmamış gibi görünüyor.”

Raporda şöyle devam edildi: “Bu tür dezenformasyonu önlemek için chatbot’larını acilen yeniden eğitmeli.”

OpenAI, web sitesinde seçimlerle ilgili içeriğe yaklaşımının “doğru oylama bilgilerini yükselterek platform güvenliği çalışmalarına devam etmek” ve şirketlerinin şeffaflığını artırmak olduğunu açıklıyor.