Tool AI TikTok Tak Sengaja Masukkan Kutipan Hitler dan Bisa Diakses Bebas oleh Pengguna

Liputan6.com, Jakarta - TikTok secara tak sengaja mengunggah tautan (link) ke jenis internal dari tool avatar digital AI barunya, tanpa batas. Hal ini memungkinkan pengguna secara bebas membikin video dengan kata-kata terkenal milik tokoh.

Kesalahan ini pertama kali ditemukan CNN. Media tersebut pun menciptakan video berisi quote dari Hitler dengan pesan nan menyuruh orang untuk minum pemutih, di antara frasa lainnya.

Sejak itu, TikTok telah menghapus jenis internal dari tool avatar digital ini. Adapun jenis nan memang dimaksudkan untuk dirilis TIkTok tetap tersedia.

Mengutip The Verge, Minggu (23/6/2024), tool AI nan dimaksud adalah Symphony Digital Avatar. Tool ini memungkinkan pelaku upaya untuk menghasilkan iklan memakai bunyi tokoh berbayar nan mirip dengan tokoh tertentu.

Tool ini memakai pengubah bunyi nan didukung AI, memungkinkan pengiklan untuk memasukkan skrip guna membikin avatar mengatakan apa nan diinginkan.

Meski hanya pengguna dengan akun TikTok Ads Manager nan bisa mengakses tool ini, jenis nan ditemukan oleh CNN memungkinkan siapa pun, termasuk pemilik akun pribadi untuk mencobanya.

Sementara itu, dalam sebuah pernyataan kepada The Verge, ahli bicara TikTok Laura Perez mengatakan, TikTok telah menyelesaikan kesalahan teknis nan "memungkinkan sejumlah mini pengguna untuk membikin konten menggunakan jenis uji internal tool tersebut selama beberapa hari."

TikTok dikabarkan bakal merilis jasa info lowongan kerja. Kabar ini berasas sebuah laporan dari Axios.

Adapun saat CNN menemukan tool internal tersebut, tool itu memungkinkan mereka menghasilkan video nan membacakan "Letter to America" dari Osama bin Laden, hingga video nan menyuruh orang untuk memilih di hari nan bukan Pemilu.

Tak ada satu pun dari video nan diproduksi CNN mempunyai watermark nan mengungkapkan jika video itu hasil buatan AI dan merupakan fitur resmi dari TikTok Symphony Digital Avatar.

CNN juga tidak mengunggah video nan mereka buat ke TikTok, namun, Laura Perez menyebut, jika konten tersebut diunggah di TikTok, konten bakal ditolak lantaran dianggap melanggar kebijakan.

Walaupun TikTok telah menghapus jenis internal tool ini, timbul pertanyaan apakah orang-orang bakal menemukan langkah lain untuk menyalahgunakan tool pembesut avatar digital itu dan apakah TikTok bakal siap menghadapinya?

Sementara itu, perusahaan induk TikTok, ByteDance, bakal melakukan Pemutusan Hubungan Kerja (PHK) kepada staf di unitnya di Indonesia (Tokopedia).

Kabar itu dikonfirmasi oleh seorang ahli bicara ByteDance, dikutip dari Business Standard, Sabtu (15/6/2024)--menyusul kesepakatan perusahaan membeli e-commerce lokal Tokopedia dan menggabungkannya dengan operasi TikTok.

Namun, ByteDance tidak menyebut berapa banyak tenaga kerja nan bakal terkena dampak. Bloomberg sebelumnya melaporkan bakal ada 450 orang nan kena PHK.

Pada Januari 2024, ByteDance menyelesaikan kesepakatan untuk membeli saham kebanyakan di Tokopedia dari grup GoTo.

Juru bicara ByteDance Nuraini Razak mengatakan kepada Reuters dalam sebuah pernyataan bahwa perusahaan bakal membikin penyesuaian nan diperlukan sebagai akibat dari penggabungan TikTok dan Tokopedia.

“Kami mengidentifikasi area-area untuk memperkuat organisasi kami dan menyelaraskan tim kami dengan tujuan perusahaan,” katanya, seraya menambahkan bahwa perusahaan bermaksud untuk mendukung tenaga kerja selama masa transisi ini.

ByteDance mempunyai operasi e-commerce sendiri di Indonesia melalui aplikasi TikTok, namun dilarang pemerintah berasas peraturan nan menyatakan bahwa aplikasi media sosial tidak dapat beraksi sebagai platform e-commerce.

Tokopedia adalah salah satu platform e-commerce terkemuka dan terbesar di Asia Tenggara.