Skip to content

Tak Sengaja Masukkan Kutipan Hitler! Begini Cara Penggunaan Tool AI Symphony Digital Avatar yang Bebas Diakses Pengguna

Symphony Digital Avatar

Tool kecerdasan buatan atau AI (artificial intelligence) TikTok tak sengaja memasukkan kutipan Hitler yang bisa diakses bebas oleh seluruh pengguna. Unggahan link (tautan) tersebut membuat pengguna bebas membuat video dengan kalimat-kalimat terkenal milik tokoh terkenal tersebut.

Keteledoran ini pertama kali ditemukan oleh CNN. CNN juga ikut membuat video berisi kutipan-kutipan Hitler dengan menyisipkan pesan meminta orang minum pemutih diantara frasa katanya. Setelahnya, TikTok menghapus versi internet tool avatar digital Hitler. Adapun untuk versi yang memang ingin dirilis TikTok tetap disediakan.

Baca juga: Diserang Ransomware! Hacker Minta Tebusan Rp 131 M Sebagai Jaminan Keamanan Pusat Data Nasional

Fitur Symphony Digital Avatar

Tool AI TikTok yang dimaksud ialah Symphony Digital Avatar yang memungkinkan pelaku bisnis membuat iklan memakai suara aktor berbayar mirip tokoh terkenal. Tool AI TikTok ini merubah suara dengan teknologi kecerdasan buatan sehingga pembuat iklan bisa memasukkan skrip dan membuat avatar mengatakan apapun yang ingin disampaikan.

Sebenarnya hanya pengguna dengan akun TikTok Ads Manager saja yang bisa mengaksesnya, namun dalam versi ketidaksengajaan TikTok, semua pengguna tanpa terkecuali bisa mencobanya. Kesalahan teknis telah diakhiri.

“TikTok telah menyelesaikan kesalahan teknis yang memungkinkan pengguna membuat konten dengan uji internal tool itu selama beberapa hari” terang Juru Bicara TikTok Laura Perez.

Video AI Buatan CNN Tanpa Watermark

Konten yang dibuat dengan tool internal banyak dimanfaatkan pengguna. Contohnya CNN membuat video yang membacakan kalimat Letter to America dari Osama bin Laden juga meminta masyarakat tidak memilih di hari yang bukan Pemilu.

Baca Juga  OPPO A17 Hadirkan Dual Kamera Resolusi Tinggi, Wujudkan Potret Ala Fotografer

Konten yang dibuat CNN bahkan tidak memiliki watermark bahwa video dibuat oleh AI. CNN sendiri tidak mengunggah video yang mereka buat langsung ke TikTok. Laura menyebut jika video diunggah pun secara otomatis akan ditolak karena dianggap melanggar kebijakan.

TikTok telah menghapus versi internal tool nya, kini muncul pertanyaan apakah ada acara lain untuk menyalahgunakan tool pembesut avatar digital dan apakah TikTok akan siap menghadapinya jika muncul kembali masalah teknis serupa.

Bantu Pelaku Bisnis Beriklan dengan Avatar Digital

cara menggunakan tool ai tiktok

Adanya fitur terbaru TikTok AI yang ijinkan pengguna membuat video ekstrim diluncurkan pada minggu ini (25/6), dibuat untuk membantu pelaku bisnis menghasilkan iklan memakai avatar digital menyerupai aktor bayaran. Sayangnya fitur berujung pada skandal serius karena semua pengguna bisa membuat konten berbahaya.

Versi internal yang mengalami kesalahan teknis pada akhirnya bocor ke publik tanpa pengawasan, membuat orang pribadi bisa menghasilkan video dengan skrip apapun yang diinginkan, tanpa batasan.

Bahaya Mengintai di Balik Fitur Symphony Digital Avatar

CNN mengungkap bahaya dari fitur Symphony Digital Avatar berdasarkan investigasi. Diketahui mereka sebelumnya berhasil menghasilkan video berisi pesan Surat untuk Amerika karangan Osama bin Laden, instruksi palsu memilih di hari yang salah, dan slogan supremasi kulit putih. Semua bagian video tidak ada tanda air yang mengindikasikan konten dibuat AI. Padahal ini adalah fitur AI yang seharusnya ada versi resmi tool ini.

Kasus ini menyorot kebutuhan mendesak dan keamanan sistem digital lebih ketat serta kontrol konten lebih baik di media sosial. Semakin canggihnya teknologi AI, tantangan dalam pencegahan penyalahgunaannya juga semakin melebar agar keamanan pengguna bisa dipastikan. Perusahaan teknologi dituntut lebih cepat dan efektif dalam merespon segala kendala yang ada.

Baca Juga  Apa Itu Royale Pass PUBG?

Kasus ini juga menjadi pengingat pentingnya pengawasan pada alat digital baru dan potensi bahaya yang bisa muncul jika tidak dikelola sebaik mungkin. TikTok yang menjadi salah satu platform media sosial terbesar dunia bahkan mengalami kesalahan teknis luar biasa. Mereka mendapat tekanan agar menguatkan sistem keamanannya dan memastikan tidak ada kejadian sama yang terulang.

Komentar