Yapay zeka teknolojileri geliştiren OpenAI, internet ortamındaki çocuk istismarı materyallerinin tespiti konusunda yeni bir hamle yaptı. Kurum, hem geleneksel yöntemlerle elde edilen hem de yapay zeka marifetiyle üretilen istismar görünümlerini saptayabilen özel bir sınıflandırma yazılımı tasarladı.

Görsel İşaretler Analiz Ediliyor

Şirketin resmî internet sitesi üzerinden paylaşılan bilgilere göre söz konusu teknoloji, daha önce kayıt altına alınmamış istismar materyallerini ortaya çıkarmak amacıyla çeşitli görsel işaretleri inceliyor. Geliştirilen yazılım, taranan görsellere belirli puanlar vererek denetim ekiplerinin hangi dosyaları öncelikli olarak ele alması gerektiğini netleştiriyor. Yapay zeka teknolojileriyle üretilmiş çevrim içi çocuk istismarı içeriklerinin yakalanması için sektöre özel bir sinyal sunan bu ilk sınıflandırma aracı, onaylı kuruluşların kullanımına tamamen ücretsiz olarak verilecek.

ChatGPT İçin Yeni Güvenlik Uyarıları

Mevcut güvenlik prosedürlerini artıran şirket, popüler sohbet botu ChatGPT üzerinde zararlı içerik arama eğiliminde olan kişileri engellemek adına ek uyarı mekanizmaları devreye sokuyor. Yapılacak bilgilendirmelerde, söz konusu materyallerin yapay yollarla üretilmiş dahi olsa gerçek dünyada telafisi imkansız zararlara yol açtığı kullanıcılara açık bir dille aktarılacak.

Erişim Kısıtlamaları ve Uzman Desteği

Sistem tarafından şüpheli veya kural dışı olarak işaretlenen sohbet oturumları derhal sistemden silinecek ve ilgili kullanıcının ChatGPT platformuna erişim hakkı 24 saat süreyle askıya alınacak. Bu ceza süreci zarfında kullanıcılara zararlı alışkanlıklarını bırakmaları amacıyla profesyonel uzman desteği de sağlanacak. Kurallara aykırı davranışların devam etmesi durumunda ise erişim engeli süresi uzatılabilecek. Bunun yanı sıra hesapların tamamen kapatılması veya ilgili yasal makamlarla paylaşılması gibi tedbirler de uygulanabilecek. OpenAI yetkilileri, hayata geçirilen bu kapsamlı stratejinin çocukların korunması için faaliyet gösteren sivil toplum kuruluşları ve akademik uzmanların görüşleri doğrultusunda şekillendirildiğini kaydetti.