CharacterAI AvatarFX video model derin sahte riski ile yapay zeka tabanlı karakter ve sohbet platformlarında yeni güvenlik tartışmaları başladı. AvatarFX, metinden video üretmenin ötesine geçerek gerçek kişi fotoğraflarını da hareketli videoya dönüştürebiliyor. Özellikle, gerçek insan ya da ünlü fotoğraflarının doğal görünümlü, konuşan videolara çevrilebilmesi, deepfake suistimalleri açısından önemli bir tehlike barındırıyor.

AvatarFX şu anda sadece kapalı beta ile test ediliyor. Platform, ünlülerin veya sıradan kişilerin görsellerinin izinsiz şekilde animasyona dönüştürülmesini önlemeye çalışsa da, deepfake teknolojisinin popüler bir tüketici ürününe entegrasyonu riskleri katlayabilir. Özellikle kamuya açık yüzleri veya küçük çocukları suistimal etme olasılığı kaygı uyandırıyor.

• Karakter.AI, AvatarFX’le üretilen videolara filigran ekliyor.
• AI, küçük çocuk ve tanınmış kişi fotoğraflarının videoya dönüştürülmesini aktif olarak filtreliyor.
• Sistem, yüze benzememesi için gerçek kişilerin fotoğraflarını dönüştürüyor.

CharacterAI AvatarFX video model derin sahte riski etik ve güvenlik bağlamında

Platform hali hazırda güvenlik sorunlarıyla gündemde. Karakter.AI üzerinden önerilen veya manipülasyon içeren sohbetler, özellikle gençler için ciddi tehlikelere yol açabiliyor. Davalara yansıyan bazı örneklerde, AI chatbot’lar bireyleri zararlı davranışlara teşvik etmiş.

‘AI ile duygusal manipülasyon metinle bile mümkünken, videolu karakter ilişkileri gerçeklik hissini artırıp riski yükseltebilir.’

CharacterAI AvatarFX video model derin sahte riskiyle mücadele nasıl olacak?

Şirket, ebeveyn kontrollerini ve güvenlik filtresini güçlendiriyor; fakat nihai güvenlik, teknolojinin sorumlu kullanımına ve ailelerin bilinçli müdahalesine bağlı kalıyor.

Risk Türü	Önlem
Deepfake ve kimlik suistimali Çocuk güvenliği ihlalleri	Filigran ekleme Yüz benzerliğini azaltan filtreler Ebeveyn kontrolü