Alasan Meta Menahan Rilis Teknologi Replikasi Suara AI, Ada Apa?

Voicebox bertujuan membantu tunanetra dengan menyediakan suara berbasis AI yang dapat membaca pesan tertulis dalam suara teman mereka. Kehadiran Voicebox dibayangi kekhawatiran tentang potensi penyalahgunaannya, sebagaimana dikutip dari Ubergizmo.

Voicebox juga beroperasi dengan alasan bahkan sampel audio singkat dua detik dari suara seseorang dapat digunakan guna menghasilkan ucapan sintetik yang sangat mirip dengan suara aslinya.

Ini membuka kemungkinan bagi aktor jahat memanipulasi teknologi untuk tujuan kriminal, politik, atau pribadi. Potensi malapetaka yang dapat ditimbulkan oleh scammers dengan menyamar sebagai orang yang dicintai secara meyakinkan atau pemberi kerja sangat meresahkan.

Karena, merusak kepercayaan dan mengeksploitasi kerentanan individu yang tidak menaruh curiga.

Sementara Meta telah menerbitkan makalah terperinci tentang Voicebox, menawarkan wawasan tentang cara kerjanya dan strategi mitigasi potensial, keputusan mereka untuk tidak merilis teknologi tersebut mencerminkan kehati-hatian mereka terkait potensi konsekuensinya.

Perusahaan bertujuan mendorong kolaborasi dan penelitian lebih lanjut dalam domain audio tetapi mengakui sentimen yang tidak pasti dan memprihatinkan seputar kemajuan tersebut. . iNewsSidoarjo

Editor: Yoyok Agusta Kurniawan