Hadirkan Fitur AI, TikTok Perbolehkan Buat Video Ekstrem

Media sosial Tiktok.
Sumber :
  • Pixabay.

VIVAJabar – TikTok merupakan salah satu media sosial yang paling terkenal di era digital seperti saat ini. TikTok merupakan aplikasi yang berisi video konten-konten yang sangat kreatif dan inspiratif.

Akan tetapi, baru-baru ini TikTok diisukan sedang menghadapi skandal yang cukup serius. Platform ni diketahui mengizinkan pengguna membuat video konten yang cukup berbahaya, hal ini terjadi karena adanya kesalahan teknis.

 

Dikutip dari The Verge (24/6), Symphony Digital Avatars, TikTok diketahui mengizinkan pengguna untuk membuat iklan dengan menggunakan avatar digital yang menyerupai aktor bayaran. 

 

Teknologi AI ini tentu berbahaya karena dapat melakukan pengiklanan dengan menambahkan teks yang ingin diucapkan.

 

Adanya pembuatan video tanpa pengawasan, dapat memungkinkan pengguna mengakses dan membuat video sesuai yang mereka inginkan tanpa batasan atau skrip apapun.

 

Laura Perez, juru bicara TikTok, kepada The Verge dalam pernyataan resmi mengatakan bahwa hal ini terjadi karena adanya "kesalahan teknis" yang memungkinkan "sejumlah kecil pengguna" mengakses versi internal alat tersebut selama beberapa hari. 

 

Ada beberapa konten sensitif dan ekstrem yang muncul di tampilan utama platform ini tetapi tidak mendapat sebuat peringatan dari TikTok, seperti mengindikasikan bahwa konten tersebut dihasilkan oleh AI, fitur yang seharusnya ada pada versi resmi alat ini.

 

Insiden ini menjadi pengingat kuat akan pentingnya pengawasan ketat terhadap adanya fitur AI atau kecerdasan buatan yang bisa saja disalahgunakan dan terjadi sebuah pelanggaran serius.  

 

TikTok, sebagai salah satu platform terbesar di dunia, kini diketahui telah melakukan peningkatan dalam segi keamanan sistem agar hal serupa tidak terjadi lagi di masa mendatang.