Meta Kecolongan, Konten Hoaks Buatan AI Banyak Beredar di Facebook dan Instagram

Liputan6.com, Jakarta - Baru-baru ini, Meta mengungkapkan jika mereka menemukan konten nan dihasilkan AI rupanya banyak dipakai untuk menipu pengguna di FB dan Instagram.

Salah satu penyalahgunaan AI oleh pihak tidak bertanggung jawab, menurut Meta, adalah ditemukannya komentar akun bot AI nan menyanjung Israel setelah melakukan genosida di Gaza.

Komentar tersebut dipublikasikan di unggahan organisasi buletin dunia dan personil parlemen AS.

Dikutip dari Gadgets360, Minggu, (2/6/2024), dalam laporan triwulannya, Meta mengatakan akun-akun tersebut menyamar sebagai pemuda Yahudi, hingga akun nan menyamar sebagai orang kulit hitam.

Akun-akun tiruan tersebut menargetkan pengguna Amerika Serikat dan Kanada. Meta mengatakan tindakan tersebut dilakukan oleh perusahaan pemasaran politik STOIC nan berbasis di Tel Aviv.

Meski STOIC dituduh melakukan penyebaran komentar tersebut, pihaknya tidak merespons tuduhan tersebut. 

Selain jaringan STOIC, Meta menutup jaringan berbasis di Iran nan berfokus pada bentrok Israel-Hamas, meskipun tidak mengidentifikasi penggunaan AI generatif dalam kampanye tersebut.

Beberapa pengamat khawatir, maraknya akun nan dibuat menggunakan AI dapat mengganggu stabilitas politik AS.

Sebagai informasi, AS bakal mengadakan pemilihan umum di 2024. Penyalahgunaan AI untuk menyebarkan disinformasi bakal mengakibatkan naiknya penyebaran hoaks.

Dalam siaran pers, para pelaksana keamanan Meta mengatakan mereka telah menghapus konten AI nan menyanjung Israel di Instagram maupun Facebook. 

Mereka juga mengaku jika penyalahgunaan teknologi AI seperti akun bot telah menghalang Meta untuk menghalau disinformasi di platform mereka.

“Ada beberapa contoh di platform ini tentang langkah mereka menggunakan perangkat AI generatif untuk membikin konten palsu," ungkap Kepala investigasi ancaman Meta, Mike Dvilyanski.

Ia menambahkan, "Mungkin perihal ini memberi mereka keahlian menyebarkan disinformasi dengan lebih sigap alias melakukannya dengan jumlah nan lebih besar. Namun perihal ini tidak terlalu memengaruhi keahlian kami untuk mendeteksinya."

CEO Meta, Mark Zuckerberg dituntut permintaan maaf dan tukar rugi saat telaah pemanfaatan anak di instagram di sidang dengar pendapat oleh Komite Kehakiman Senat AS.

Untuk diketahui, Meta dan raksasa teknologi lainnya telah berupaya keras dalam langkah mengatasi potensi penyalahgunaan teknologi AI baru, terutama menjelang pemilu AS.

Untuk mencegah penyebaran konten tiruan berbantuan AI, Perusahaan-perusahaan tersebut telah menekankan sistem pelabelan digital untuk menandai konten nan dihasilkan AI pada saat pembuatannya.

Pun demikian, perangkat pendeteksi tersebut kemungkinan tidak berfaedah pada teks, serta para peneliti meragukan efektivitas teknologi pelabelan tersebut.

Para peneliti telah menemukan contoh penyalahgunaan perangkat generator foto berbantuan AI dari beberapa perusahaan teknologi, termasuk OpenAI dan Microsoft.

Pengguna nan tidak bertanggung jawab membikin foto tersebut dengan tujuan menyebarkan disinformasi mengenai pemungutan suara, meskipun OpenAI dan Microsoft telah mempunyai kebijakan nan melarang pembuatan konten tersebut.

Di sisi lain, family korban meninggal bumi dalam penembakan di sebuah sekolah di Uvalde, Texas, Amerika Serikat, menuntut developer game Call of Duty, Activision, dan Meta.

Kedua perusahaan teknologi ini dituding telah mempromosikan penggunaan senjata api untuk anak di bawah umur.

 Mengutip The Verge, Senin (27/5/2024), gugatan tersebut mengklaim, Meta dan Activision telah secara sadar mengekspos penggunaan senjata dan mengkondisikan sang penembak untuk memandang penggunaan senjata sebagai solusi atas masalahnya dan melatihnya untuk memakai senjata.

Sekadar informasi, klaim gugatan tersebut bukan pertama kalinya dituduhkan ke perusahaan video game. Berkali-kali ada pihak nan melemparkan gugatan ke perusahaan video game tetapi tak pernah berhasil.

Pengaduan gugatan terhadap Meta dan Activision diajukan di Pengadilan Tinggi Los Angeles, AS, pada Jumat lalu, atas nama sekitar 45 personil family korban.

Tercatat dalam gugatan tersebut, family menuding Activision dan Meta 'merawat' pemuda dan menempatkan mereka di jalan menuju kekerasan.

Kasus ini bermulai ketika pada 24 Mei 2022, pemuda 18 tahun Salvador Ramos melepaskan tembakan di sekolah dasar Robb di Uvalde, Texas. Total 21 orang tewas akibat penembakan tersebut.

Gugatan ini pun menyebut, laki-laki bersenjata tersebut main gim Call of Duty secara obsesif. Ia apalagi mengembangkan keahlian sebagai penembak jitu.

Gugatan juga mengklaim, game ini punya fitur AR-15 nan dipakai saat penembakan. Gugatan juga menuding, penembak sedang didekati melalui metode marketing Activision dan Meta secara definitif dan agresif.

Salah satunya melalui Instagram, nan menunjukkan ratusan gambar memperlihatkan pertempuran.

Selain Activision dan Meta, para family korban juga menggugat perusahaan senjata Daniel Defense nan membikin senjata jenis AR-15, nan dipakai dalam penembakan tersebut.