YouTube'un Yeni Deepfake Algılama Teknolojisi
YouTube, yapay zeka ile oluşturulan deepfake içeriklerini tespit eden teknoloji kapasitesini genişleterek, hükümet yetkilileri, siyasi adaylar ve gazeteciler için yeni bir pilot grup oluşturduğunu duyurdu. Bu pilot grubun üyeleri, izinsiz yapay zeka içeriklerini tespit edip, YouTube politikalarını ihlal ettiğini düşündükleri takdirde bu içeriklerin kaldırılmasını talep edebilecekler.
Deepfake Teknolojisinin Kullanım Alanları
Geçtiğimiz yıl YouTube Partner Programı'ndaki yaklaşık dört milyon içerik üreticisine sunulan bu teknoloji, YouTube'un mevcut Content ID sistemine benzer bir şekilde çalışıyor. AI araçlarıyla üretilmiş sahte yüzleri tespit ediyor. Bu tür araçlar, zaman zaman sahte içerikler oluşturarak halkın algısını yanıltmak için kullanılıyor. Özellikle politikacılar veya diğer tanınmış figürler, bu deepfake videolarla gerçek hayatta yapmadıkları şeyler yapıyormuş gibi gösterilebiliyor.
Kamu Konuşmasının Bütünlüğü
YouTube, bu yeni pilot programla kullanıcıların ifade özgürlüğünü, yapay zekanın kamu figürlerinin benzerliklerini oluşturma riskleriyle dengelemeyi hedefliyor. YouTube Hükümet İşleri ve Kamu Politikası Başkan Yardımcısı Leslie Miller, bu genişlemenin kamu konuşmasının bütünlüğüyle ilgili olduğunu belirtti. Miller, yapay zeka taklit risklerinin özellikle kamu alanında yüksek olduğunu vurgularken, bu korumayı sağlarken dikkatli olacaklarını da ekledi.
Yasal ve Etik Değerlendirmeler
YouTube, kullanıcıların taleplerine göre tespit edilen içeriklerin kaldırılmasına, mevcut gizlilik politikalarına uygun olarak karar verecek. Ayrıca, bu korumaların federal düzeyde desteklenmesi için de adımlar atılıyor. Washington D.C.'deki NO FAKES Yasası'nın desteklenmesi, yapay zekanın izinsiz ses ve görüntü oluşturma kullanımının düzenlenmesini amaçlıyor.
Yeni araçtan yararlanmak isteyen kullanıcıların önce kimliklerini doğrulamaları gerekiyor. Ardından bir profil oluşturarak, eşleşen içerikleri inceleyebilir ve kaldırılmasını talep edebilirler. Gelecekte, ihlal eden içeriklerin yüklenmeden önce engellenmesi veya içerik üreticilerinin bu videoları para kazanmalarını sağlamak gibi yeni özellikler de eklenebilir.
Gelecek Planları
YouTube, derin taklit algılama teknolojisini konuşulan tanınabilir sesler ve diğer fikri mülkiyet öğeleri gibi daha fazla alana yaymayı planlıyor. Şirket, şu anda kaç içeriğin bu teknoloji ile kaldırıldığına dair kesin bir bilgi paylaşmadı ancak kaldırılan içerik miktarının oldukça az olduğu belirtildi. Bu durum, hükümet yetkilileri veya gazeteciler için daha farklı olabilir.
