TikTok, yanıltıcı bilgilerle mücadele etmek için yeni Moderasyon Politikaları oluşturmaya karar verir.

Bu haftanın başında Microsoft, ülkedeki yasak tehditlerinin ardından Amerika Birleşik Devletleri'nde TikTok'un satın alınması için devam eden görüşmelere hazırlandığını duyurdu. Bu hareket, Başkan Trump'ın gizlilik uygulamaları ve Çin hükümeti ile olası bağlantıları ile ilgili gösterdiği endişelere cevaben.

Kısa bir süre önce TikTok, platformunu yanlış bilgilere, seçim müdahalesine ve diğer manipülatif içeriğe karşı bu yılki seçimlerden önce daha iyi korumak için yeni moderasyon politikaları oluşturmaya karar verdi. Şirket şimdi tüm "deepfake" i açıkça yasakladığını söylüyor. Deepfake'ler, insanları bir kişinin söylediği veya yapmış olabileceği bir şey hakkında yanıltmak için tasarlanmış, yapay zeka destekli video ve ses manipülasyonlarıdır.

Vanessa Pappas'ın Çarşamba günü yayınladığı bir blog yazısında, şirketin, 'zarar verecek şekilde' gerçeği çarpıtarak kullanıcıları yanıltan manipüle edilmiş veya sentetik içeriği yasaklayacak bir politika eklediğinden bahsedildi. Ayrıca, amaçlarının kullanıcıları derin veya sığ sahtekarlıklardan korumak olduğunu da vurguladı.

TikTok'taki Deepfake'ler genellikle pornografik içerik oluşturmak için kullanılan yüz değiştirme videolarıyla ilişkilendirilmiştir. Başkan Trump’ın yeniden seçim kampanyası ve Beyaz Saray daha az karmaşık düzenlemeler ve çok yanıltıcı olarak nitelendirilen diğer benzer aldatıcı içerikleri paylaşmış veya oluşturmuş olsa da şimdiye kadar bunlar büyük bir siyasi kampanya tarafından kullanılmadılar.

Son yıllarda, bu deepfake'lerin yaratılmasında karmaşıklık tekniklerinde ve kullanım kolaylığında bir artış gözlemledik. Bu teknoloji, deepfake'lerin bir noktada politikacıların desteklerini ifade eden veya itibarlarına zarar verebilecek veya itibarlarını zedeleyebilecek şeyler söyleyen aldatıcı düzenlemeler yapmak için nasıl kullanılabileceğine ilişkin endişeleri büyük ölçüde artırmıştır. Çeşitli büyük sosyal medya platformları ve bazı eyaletler, sonuç olarak siyasi reklamlarda deepfake'leri tamamen yasakladı.

TikTok halihazırda herhangi bir siyasi reklama izin vermiyor. Şirket, deepfake yasağının, platformu siyasi kazançlar için aldatıcı medyayı zorlamaya yönelik olarak kullanmayı zorlaştırmayı amaçladığını da ekliyor. Yeni moderasyon politikalarına göre, Tiktok, kamuoyunu etkilemek veya başka şekillerde etkilemek amacıyla hesap sahibinin kimliği konusunda insanları yanıltan bot ve sahte hesapların kullanımını yasaklıyor. Ayrıca, 2020 ABD seçimleriyle ilgili olası yanlış bilgilerin doğruluğunun kontrol edilmesi için Lead Stories ve PolitiFact ile doğruluk kontrolü ortaklıklarını genişletiyor. Ayrıca, kullanıcıların şüpheli hesapları veya içeriği işaretlemesine izin vermek için uygulama içi raporlama mekanizmasına bir seçim yanlış bilgi seçeneği de ekliyor. . Uygulama aynı zamanda kullanıcıları oylama, ırk ve diğer ilgili konularda gerçek bilgilere yönlendirmek için yeni bir "seçim bilgi merkezi" içerecek.