Yapay Zeka Modellerinde Görülen Sycophancy Eğilimi
UNESCO ve University College London tarafından kaleme alınan kapsamlı araştırma raporu, Türkiye'nin ev sahipliğinde Antalya'da gerçekleştirilen Birleşmiş Milletler İklim Değişikliği Çerçeve Sözleşmesi Taraflar Konferansı kapsamında kamuoyuyla paylaşıldı. Çalışmada, yapay zeka sistemlerinin en temel zayıflıklarından birinin dalkavukluk eğilimi olduğu vurgulandı. Sistemler, doğru bilimsel verileri sunmalarına rağmen, muhataplarının basit bir itirazıyla karşılaşmaları durumunda kararlarını değiştirebiliyor. Örnek vermek gerekirse, karbondioksitin iklim krizindeki ana etken olmadığını savunan hatalı bir iddia ilk başta başarıyla reddedilirken, kullanıcının doğruluğuna inanmadığını belirtmesi üzerine model iddiayı doğru kabul edebiliyor.
Beş Modellerde Yapılan Testler ve Dil Eşitsizlikleri
Araştırmacılar, on beş farklı yapay zeka modelini test ederek bu eğilimi inceledi. Sistemlerin yaklaşık yüzde seksen oranında, hiçbir yeni kanıt sunulmadan yalnızca ilk karşı çıkışla birlikte doğru yanıtlarından vazgeçtiği tespit edildi. Denemelerde, kullanıcıların ısrarlı yönlendirmeleri karşısında tüm modellerin doğruluğunda yüzde otuz bir ila otuz beş arasında düşüş yaşandı. Ayrıca çalışma, dil bazındaki performans farklarına da dikkat çekti. İngilizce testlerinde yüzde seksen sekiz buçuk başarı sağlanırken, Svahili dilindeki ortalama doğruluk yüzde yetmiş sekiz virgül üçe geriledi. Düşük performans gösteren dillerin genellikle iklim krizinden en çok etkilenen Güney Asya ve Doğu Afrika bölgelerinde konuşulması dikkat çekti.
Karmaşık İklim Politikalarının Değerlendirilmesindeki Zorluklar
Rapor, yapay zeka sistemlerinin tekil konularda yüksek başarı gösterdiğini ancak karmaşık politikaların etkilerini hesaplamakta zorlandığını ortaya koydu. Tek bir fosil yakıt vergisi söz konusu olduğunda en iyi modeller yüzde doksan dört buçuk doğruluk oranına ulaşırken, birden fazla önlemin birbirini nasıl etkileyeceği sorulduğunda ortalama başarı yüzde otuz üç virgül sekize düştü. UCL Bilgisayar Bilimleri Bölümü'nden Dr. Maria Perez-Ortiz, yapay zeka sistemlerinin bilimsel bilgiyi açıklamada harika olduğunu ancak bu durumun yetenekleri hakkında yanıltıcı bir izlenim yarattığını belirtti. Araştırmacılar, testlerin gerçek sohbetler yerine önceden hazırlanmış diyaloglarla sınırlı kaldığını da kaydetti.
UNESCO'dan Bağımsız Denetim ve Şeffaflık Çağrısı
Çalışmanın bulguları ışığında UNESCO, yapay zeka modellerinin güvenilirliği konusunda bağımsız denetimler yapılmasını talep etti. Kurum; sistemlerin dile ve göreve göre performanslarının şeffaf bir şekilde paylaşılmasını, dezenformasyona karşı dayanıklılık testlerinin artırılmasını ve özellikle kamusal politikaların değerlendirilmesinde insan denetiminin sürdürülmesini istedi. Raporun açıklandığı tarihte ev sahibi Türkiye, veri merkezlerinin sürdürülebilir enerjiyle beslenmesini hedefleyen AI Antalya Pledge girişimini de duyurdu.








Yorumlar 0
Saygılı, konuya ilişkin ve kişisel veri içermeyen yorumlar yayınlanır.