Avatar AI baru Zoom menimbulkan kekhawatiran tentang deepfake
Kekhawatiran berkembang atas avatar AI Zoom, dengan kekhawatiran avatar tersebut dapat digunakan untuk deepfake.
Zoom berencana untuk meluncurkan avatar AI khusus pada tahun 2025, yang menawarkan kepada pengguna tiruan digital fotorealistik yang dapat meniru gerakan kepala dan lengan. Pengguna akan dapat menuliskan apa yang dikatakan avatar mereka, dengan audio yang disinkronkan dengan gerakan bibir, menjadikannya pengubah permainan yang potensial untuk komunikasi asinkron di tempat kerja.
Perusahaan menganggap avatar ini sebagai alat yang menghemat waktu, khususnya bagi mereka yang perlu meningkatkan skala pembuatan konten video. Meskipun manfaatnya menjanjikan, masih ada pertanyaan tentang bagaimana Zoom akan mencegah penyalahgunaan teknologi ini, khususnya mengingat meningkatnya kekhawatiran seputar deepfake. Banyak yang khawatir avatar digital ini dapat digunakan secara jahat untuk meniru orang lain atau menyebarkan disinformasi.
Zoom telah mengumumkan beberapa langkah keamanan, seperti autentikasi tingkat lanjut dan tanda air, meskipun detailnya masih belum jelas. Perusahaan lain yang menawarkan alat serupa , seperti Tavus dan Microsoft, memiliki pengamanan yang lebih ketat, sehingga menimbulkan kekhawatiran bahwa upaya Zoom mungkin tidak cukup untuk mengekang potensi risiko.
Maraknya deepfake terus memicu perdebatan regulasi. Meskipun beberapa negara bagian di AS telah memperkenalkan undang-undang untuk memerangi penyebaran peniruan identitas dengan bantuan AI, masih belum ada regulasi federal yang komprehensif yang membahas masalah ini. Saat Zoom bersiap meluncurkan fitur ini, perusahaan perlu menyeimbangkan inovasi dengan keamanan.