Alasan Meta Menahan Rilis Teknologi Replikasi Suara AI, Ada Apa?

JAKARTA, iNewsSidoarjo.id – Meta baru-baru ini mendapat perhatian karena keputusannya untuk tidak merilis teknologi replikasi suara AI yang disebut Voicebox.

Apa alasan Meta menahan peluncuran Voicebox?

Baca Juga

Intip Berapa Pesangon Karyawan Meta yang Terkena PHK, Ini Info Grafisnya

Model AI inovatif Meta mempunyai kemampuan luar biasa untuk mereplikasi dan meniru suara dengan akurasi yang baik.

Terlepas dari kemampuannya, Meta memilih menahan teknologi tersebut dari publik karena potensi risiko dan bahaya yang terkait dengan penyalahgunaannya.

Dikutip dari iNews.id, Jumat (23/06/2023) dalam siaran pers Meta, Voicebox digambarkan sebagai alat yang ampuh dengan berbagai macam aplikasi. Ini dapat digunakan untuk tujuan pengeditan audio, memungkinkan penghapusan suara yang tidak diinginkan dari rekaman.

Baca Juga

Melalui Browser di Facebook dan Instagram, Meta Bisa Lacak Pengguna

Selain itu, Voicebox menawarkan pembuatan ucapan multibahasa, sehingga memungkinkan pembuatan suara terdengar alami untuk asisten virtual dan karakter non-pemain di metaverse.

Pengembang Meta sepenuhnya menyadari kemungkinan bahaya yang dapat timbul dari peluncurannya, mengarahkan mereka memprioritaskan tanggung jawab atas keterbukaan. Dalam sebuah pernyataan, peneliti Meta mengakui keseimbangan halus yang diperlukan saat berbagi kemajuan AI, menekankan perlunya melindungi dari konsekuensi yang tidak diinginkan.

Voicebox bertujuan membantu tunanetra dengan menyediakan suara berbasis AI yang dapat membaca pesan tertulis dalam suara teman mereka. Kehadiran Voicebox dibayangi kekhawatiran tentang potensi penyalahgunaannya, sebagaimana dikutip dari Ubergizmo.

Voicebox juga beroperasi dengan alasan bahkan sampel audio singkat dua detik dari suara seseorang dapat digunakan guna menghasilkan ucapan sintetik yang sangat mirip dengan suara aslinya.

Ini membuka kemungkinan bagi aktor jahat memanipulasi teknologi untuk tujuan kriminal, politik, atau pribadi. Potensi malapetaka yang dapat ditimbulkan oleh scammers dengan menyamar sebagai orang yang dicintai secara meyakinkan atau pemberi kerja sangat meresahkan.

Karena, merusak kepercayaan dan mengeksploitasi kerentanan individu yang tidak menaruh curiga.

Sementara Meta telah menerbitkan makalah terperinci tentang Voicebox, menawarkan wawasan tentang cara kerjanya dan strategi mitigasi potensial, keputusan mereka untuk tidak merilis teknologi tersebut mencerminkan kehati-hatian mereka terkait potensi konsekuensinya.

Perusahaan bertujuan mendorong kolaborasi dan penelitian lebih lanjut dalam domain audio tetapi mengakui sentimen yang tidak pasti dan memprihatinkan seputar kemajuan tersebut. . iNewsSidoarjo

Editor : Yoyok Agusta Kurniawan