UNESCO’ya göre yapay zeka Holokost inkar dalgasını körükleyebilir

Birleşmiş Milletler kuruluşu, yapay zekadaki (AI) gelişmelerin Holokost inkarında yeni bir artışa yol açabileceği konusunda uyarıyor.

Salı günü yayınlanan bir UNESCO raporu, yapay zeka sistemlerinin Holokost hakkındaki bilgileri yanlış aktarabileceğini, çünkü inkar web sitelerinden gelen soruları yanıtlamak üzere eğitilebileceklerini öne sürüyor.

Yapay zekanın “Holokost ile ilgili içeriği çarpıtmak, uydurma ifadeler oluşturmak ve hatta tarihi kayıtları değiştirmek” için kullanıldığı belirtildi. UNESCO ayrıca, Holokost’un gerçekleşmediğini veya abartıldığını öne süren gerçekçi görüntüler veya videolar olan deepfake’ler konusunda da uyardı.

Bir uygulama halihazırda kullanıcıların Adolf Hitler gibi önde gelen Nazi figürleriyle doğrudan konuşmasına olanak tanıyor.

Üretken yapay zeka modelleri ayrıca yeterli veriye erişimleri olmadığında olayları, kişilikleri ve tarihi icat eder veya “halüsinasyona uğratır”.

Rapor, Google’ın Bard ve ChatGPT’nin Holokost ile ilgili “asla gerçekleşmemiş” olaylar hakkında içerik ürettiğini belirtti.

ChatGPT, Nazilerin Yahudileri nehirlerde ve göllerde boğduğu kavramını ‘Boğularak Holokost’ adı verilen bir kampanyayla uydurdu. Bard ise katliamlarla ilgili sahte anlatıları desteklemek için tanıklardan sahte alıntılar üretti.

Audrey Azoulay, “Soykırımla ilgili korkunç gerçeklerin yapay zekanın sorumsuz kullanımı yoluyla sulandırılmasına, çarpıtılmasına veya tahrif edilmesine izin verirsek, antisemitizmin hızla yayılmasını ve bu vahşetin sebepleri ve sonuçlarına ilişkin anlayışımızın kademeli olarak azalması riskini almış oluruz” dedi. UNESCO genel müdürü, rapora eşlik eden bir açıklamada şunları söyledi.

UNESCO’nun raporu, teknoloji şirketlerine yapay zekanın geliştirilmesi ve kullanımına yönelik etik kurallar oluşturma, güvenilmez bilgi olasılığını azaltma ve kötü aktörlerin Holokost hakkında şiddeti teşvik etmek ve yalan yaymak için programlarından yararlanmalarını engelleme çağrısında bulundu.

Rapor Dünya Yahudi Kongresi ortaklığıyla yayınlandı.