Waspada Pilah Informasi, Konten Deepfake di Media Sosial Dapat Timbulkan Kerugian

Liputan6.com, Jakarta - Ancaman siber kian meningkat seiring meningkatnya ketergantungan orang terhadap platform media sosial. Apalagi, berkembangnya teknologi AI kian memudahkan terciptanya konten-konten tiruan nan meyakinkan serta konten nan dihasilkan AI.

Hal ini pun jadi makin mengaburkan batas antara realitas dan fiksi. Penggunaan AI di media sosial pun memunculkan kekhawatiran, mulai dari kemungkinan bias algoritma hingga penyebaran misinformasi.

Salah satu penggunaan AI adalah dalam menciptakan deepfake, sebuah jenis teknologi kecerdasan buatan nan memungkinkan pengguna membikin video alias audio tiruan agar terlihat serupa dengan orang nan ditiru.

Ancaman seperti deepfake phishing pun kian meningkat dengan munculnya teknologi seperti GPT-3 nan bisa menghasilkan teks dan video nan sangat mirip dengan style bahasa dan perilaku perseorangan nan ditiru.

Jika teknologi seperti ini dimanfaatkan secara tidak bertanggung jawab, perihal tersebut dapat memanipulasi info dan mengelabui orang lain agar menyerahkan info sensitif hingga kerugian finansial dan privasi.

Menanggapi kemungkinan tinggi penggunaan deepfake di media sosial, Vice President Marketing Asia Pasific and Japan Palo Alto Network Lisa Sim mengatakan, kehadiran AI kian memperparah ancaman penjahat siber di media sosial.

"Hal ini mengingat konten deepfake dan konten nan dihasilkan oleh AI semakin mengaburkan pemisah antara realita dan fiksi," kata Lisa, dikutip dari keterangan.

Microsoft memperkenalkan jenis terbaru dari Copilot, asisten AI mereka, nan bakal membantu pengguna laptop dengan mengingat semua aktivitas di komputer dan memberikan rekomendasi untuk langkah selanjutnya. Diumumkan menjelang konvensi Build di Seat...

Lisa memberikan penjelasan mudah tentang gimana AI dimanfaatkan oleh pihak-pihak nan tidak bertanggung jawab, misalnya di Indonesia.

"Pada masa pemilihan presiden beberapa waktu lalu, kita memandang banyak konten deepfake nan beredar di media sosial, seperti video nan menampilkan sosok nan mirip dengan mantan presiden alias tokoh nasional lainnya," kata Lisa.

Ia menyebut, penggunaan deepfake di momen seperti pemilihan presiden bisa memengaruhi percakapan politik dan berpotensi menggiring opini publik. Ini memperlihatkan potensi AI dalam menciptakan konten nan meyakinkan tetapi palsu, serta kekuatan media sosial nan dapat memperluas jangkauan para pelaku kejahatan.

"Memadukan media sosial dan konten nan dihasilkan oleh AI memberikan penjahat siber sebuah sarana rekayasa sosial nan efektif untuk memanipulasi orang-orang awam agar melakukan tindakan nan berisiko, misalnya mengeklik tautan berbahaya," kata Lisa.

Ia menambahkan, pada hari Media Sosial Sedunia nan jatuh pada 30 Juni 2024, pihaknya mengingatkan pentingnya melindungi diri sendiri dari konten-konten deepfake nan bisa menjerumuskan.

"Kita kudu jeli dalam memilah-milah konten nan dikonsumsi, melakukan verifikasi sumber, dan mencermati kejanggalan pada video alias gambar," kata Lisa.

Ia menyarankan pengguna media sosial untuk rutin meninjau dan memperbarui privasi akun untuk mengontrol siapa saja nan bisa memandang unggahan dan info pribadi pengguna.

"Hanya dengan selalu waspada, kita bisa melindungi diri sendiri dalam menghadapi ancaman online nan ada," katanya.

Saking bahayanya deepfake, Google sempat melarang iklan yang mempromosikan situs web dan aplikasi berisi pornografi deepfake. 

Google telah memperbarui Kebijakan Konten Tidak Pantas (Inappropriate Content Policy) untuk menyertakan bahasa nan secara tegas melarang pengiklan mempromosikan situs web dan aplikasi alias jasa nan menghasilkan pornografi deepfake.

Meskipun Google menerapkan pembatasan ketat terhadap iklan nan menampilkan jenis konten seksual tertentu, pembaruan ini dilakukan untuk melarang mempromosikan konten sintetis nan telah diubah alias dibuat menjadi definitif secara seksual alias mengandung ketelanjangan.

Setiap pengiklan nan mempromosikan situs alias aplikasi nan menghasilkan pornografi deepfake, nan menunjukkan petunjuk tentang langkah membikin pornografi deepfake, dan nan mendukung alias membandingkan beragam jasa porno deepfake bakal ditangguhkan tanpa peringatan.

Mereka juga tidak dapat lagi mempublikasikan iklan mereka di Google. Perusahaan bakal mulai menerapkan patokan ini pada 30 Mei 2024, dan memberikan kesempatan kepada pengiklan untuk menghapus iklan apa pun nan melanggar kebijakan baru.

Seperti nan dilaporkan 404 Media, dikutip dari Engadget, Senin (6/5/2024), kebangkitan teknologi deepfake telah menyebabkan peningkatan jumlah iklan yang mempromosikan perangkat untuk pengguna nan mau membikin materi seksual eksplisit.

Beberapa dari tools tersebut apalagi dilaporkan berpura-pura menjadi jasa nan sehat agar dapat terdaftar di Apple App Store dan Google Play Store.