OpenAI firmasına ait Sora 2’nin özellikle kamuoyunda tanınmış kişi ve fenomenlere yönelik manipülatif içerikler üretmesi, platformun etik sınırlarını ve güvenlik önlemlerini tartışmaların odağına taşıdı.
Konu, OpenAI CEO’su Sam Altman, yatırımcı Mark Cuban ve YouTuber Jake Paul gibi kişilerin, hiçbir gerçek kaynağı olmadan “ırkçı söylemler” kullanmış gibi gösterildiği videolarla başladı. Bu içerikler, sosyal medyada hızla yayılarak kullanıcıların tepkisini çekti.
Cameo Özelliği Nasıl Suistimal Ediliyor?
Sora 2, kullanıcıların kendi kısa videolarını uygulamaya yükleyip “cameo” özelliğiyle bunları manipüle edilmiş videolara entegre etmelerine izin veriyor. Bu özellik, son dönemde kötüye kullanımla öne çıktı. Copyleaks’in yaptığı incelemeye göre kullanıcılar, 2020’de bir uçakta meydana gelen ırkçı bir olayı yeniden kurgulamak için uygulamayı kullanıyor. Bunun temeli, benzer fonetikli kelimelerle (homofonlar) filtreleri atlatma yaklaşımı. Örneğin;
- Altman’ın dijital versiyonu, videolarda “I hate knitters” gibi ifadeler kullanıyor.
- Jake Paul’un videolarında kullanılan “neck hurts” sözü, belli gruplara yönelik ima içeriyor.
Bu tarz içerikler ilk etapta Sora 2 içinde sınırlı erişime sahip olsa da sosyal medya platformlarında geniş kitlelere ulaşıyor. TikTok’ta milyonlarca görüntüleme alması bunun göstergesi.
Güvenlik Filtreleri Yeterli Mi?
Sora 2, açık halde hakaret ve nefret söylemlerini bastırmak için özel filtrelerle donatılmış durumda. Ancak kullanıcılar, küçük değişikliklerle ve kelime oyunlarıyla bu filtreleri kolayca atlatabiliyor. Böylece sistemin güvenlik önlemleri ciddi biçimde sorgulanıyor.
Uzmanlara göre, teknik filtreler yalnızca ilk savunma hattını oluşturur; platformların kullanıcı davranışlarını tespit eden, makine öğrenmesi destekli doğrulama mekanizmaları geliştirmesi şart.
Ünlülerin İtibar Riski Oluşuyor
Deepfake içeriklerin yayılması sadece bireysel itibarları zedelemekle kalmıyor, toplumsal algı ve güveni de sarsıyor. Özellikle kamuoyuna mal olmuş kişiler hedef alındığında, toplumsal kutuplaşmayı körükleme riski artıyor. Ayrıca, bu tür içeriklerin hukuki boyutu da büyük soru işaretleri doğuruyor. Ünlülerin izni olmadan dijital kopyalarının kullanılması, kişilik hakları ve fikri mülkiyet açısından ciddi yasal açmazlara neden olabilir.
Aşağıdaki haberden de göreceğiniz üzere bazı önlemler alınıp açıklamalar yapılsa da Cameo özelliği halen suistimal ediliyor.
Platformdan Beklenen Çözümler
Bu krizin gölgesinde uzmanlar, teknoloji platformlarına ciddi görevler yüklüyor:
- Denetim mekanizmalarının güçlendirilmesi: Sadece filtrelerle yetinmeyip, yapay zekâ tabanlı içerik doğrulama sistemleri geliştirilmeli.
- Kullanıcı izni ve kimlik doğrulama: Ünlü kişilerin simülasyonlarına izin verilmeden önce kimlik ve izin doğrulaması istenmeli.
- Şeffaflık raporlaması: Üretilen içerik afişleri, algoritma kararları ve ihlal geçmişi kamuoyu ile paylaşılmalı.
- Yasal düzenlemeler: Devletler ve kurumlar, derin sahte içeriklerin kontrollü kullanımına dair hukukî zemini netleştirmeli.
Sora 2, yapay zekayla üretilmiş içeriklerin sınırlarını zorlarken aynı zamanda bir testi de temsil ediyor: Teknoloji, etik ve güvenlik nasıl dengelenmeli? Bu olay, dijital çağda görmek her zaman gerçek midir? sorusunun önemini yeniden ortaya koyuyor. Uygulamalar, etik ve hukuki sınırları göz ardı etmeksizin ilerlemeli. Aksi halde toplumsal güven, en büyük kayıp olacak.
