Araştırma, Sora 2’nin kötü niyetli kullanıcılar tarafından dezenformasyon kampanyalarında kolayca kullanılabileceğini ortaya koydu. NewsGuard, oluşturulan yanlış videolardan beşinin Rusya kaynaklı dezenformasyon operasyonlarından geldiğini de belirtti. Dakikalar içinde sahte ama inandırıcı…
Araştırma, Sora 2’nin kötü niyetli kullanıcılar tarafından dezenformasyon kampanyalarında kolayca kullanılabileceğini ortaya koydu. NewsGuard, oluşturulan yanlış videolardan beşinin Rusya kaynaklı dezenformasyon operasyonlarından geldiğini de belirtti. Dakikalar içinde sahte ama inandırıcı videolar Araştırmacılar, Sora 2’yi kullanmaya başladıktan yalnızca birkaç dakika içinde şu konularla ilgili sahte videolar üretebildi: Moldova’da bir seçim yetkilisinin Rusya yanlısı oy pusulalarını yaktığı, ABD sınırında bir çocuğun gözaltına alındığı, Coca-Cola’nın Bad Bunny’nin Super Bowl sahnesinde yer alması nedeniyle sponsorluktan çekildiği.
NewsGuard, bu örneklerin yapay zekâ teknolojilerinin “endüstriyel ölçekte yanlış bilgi üretimi” için ne kadar kolay kullanılabileceğini vurguladı.
OpenAI, Sora 2’nin güvenlik risklerini resmî web sitesindeki “sistem kartında” kabul etti. Şirket, modelin “izinsiz benzerlik kullanımı veya yanlış yönlendirici içerikler” üretebileceğini belirtti. Ayrıca, minörleri içeren içeriklerde sıkı denetim eşiği uygulandığı ve Sora 2’nin güvenlik önlemlerinin “kademeli olarak” geliştirileceği açıklandı.
Boston Üniversitesi’nden Doç. Michelle Amazeen, bulguların “son derece endişe verici” olduğunu belirtirken, Biyometrik kimlik doğrulama firması Daon’un yöneticisi Scott Ellis, Sora’nın fiilen bir deepfake aracı haline geldiğini vurguladı.
OpenAI, Sora 2’nin ürettiği tüm videolara filigran ve dijital imza eklediğini duyursa da, NewsGuard araştırmacıları bu önlemin etkisiz olduğunu gösterdi. Uzmanlar, blok zinciri tabanlı kimlik sistemlerinin sahte videoların önlenmesi için yaygınlaştırılmasını öneriyor.
Uzmanlara göre, Sora 2’nin yüksek kalitede sahte videoları hızla üretebilmesi, dijital çağda gerçeklik algısının giderek aşındığı yeni bir dönemin başlangıcına işaret ediyor.
