Eks Karyawan OpenAI Peringatkan Soal Kurangnya Sistem Keamanan AI

Liputan6.com, Jakarta - Beberapa mantan tenaga kerja OpenAI menuliskan surat terbuka berisi peringatan. Dalam surat itu, para mantan tenaga kerja menyebut, OpenAI membungkam kritik mereka nan cemas terhadap keamanan AI namalain kepintaran buatan. 

Surat terbuka tersebut ditandatangani oleh 13 mantan tenaga kerja OpenAI. Surat ini menyatakan, tidak adanya pengawasan pemerintah nan efektif mengenai keamanan AI. Dalam suratnya, mereka juga perusahaan AI agar lebih berkomitmen pada prinsip kritik terbuka.

Mengutip The Verge, Minggu (9/6/2024), inisiatif pelayangan surat terbuka itu dilatarbelakangi perusahaan AI, khususnya OpenAI, nan dinilai tak mempunyai keselamatan nan memadahi. 

Selain OpenAI, Google juga mendapat kritikan keras lantaran tetap mempertahankan penggunaan fitur AI Overview dalam Google Search, apalagi setelah orang-orang menyatakan fitur tersebut memberikan hasil nan nyeleneh.

Selain dua perusahaan itu, Microsoft juga mendapat kecaman lantaran Copilot Designer-nya, nan menghasilkan gambar AI berbau seksual.

Prinsip kritik nan tertulis pada surat tersebut termasuk menghindari pembuatan dan penegakan klausul nan tidak meremehkan, memfasilitasi pelaporan oleh pihak anonim nan “dapat diverifikasi” untuk melaporkan masalah.

Tak hanya itu, surat nan ditulis mantan tenaga kerja OpenAI ini juga menginginkan agar tenaga kerja saat ini dan mantan tenaga kerja dapat menyampaikan kekhawatirannya mengenai AI kepada publik secara bebas, tanpa perlu merasa ketakutan jika perusahaan teknologi membalas "serangan" mereka.

Surat tersebut menyatakan bahwa meskipun mereka percaya pada potensi AI untuk memberikan faedah bagi masyarakat, mereka juga memandang adanya risiko. Mulai dari meningkatnya kesenjangan, manipulasi dan info nan salah, serta kemungkinan kepunahan manusia.

Sempat beredar video pidato Presiden Joko Widodo nan tiba-tiba fasih berkata Mandarin, juga Capres Prabowo Subianto dan Capres Anies Baswedan nan tampak mahir berkata Arab. Video hoaks berbasis AI tampaknya semakin meyakinkan dan mengkhawatirka...

Surat tersebut juga mengatakan jika pihak pelapor nan melaporkan kekhawatiran AI tidak dilindungi secara penuh.

Padahal, Departemen Tenaga Kerja AS menyatakan bahwa pekerja nan melaporkan pelanggaran upah, diskriminasi, keselamatan, penipuan, dan penundaan waktu rehat dilindungi oleh undang-undang perlindungan pelapor. Itu artinya,npemberi kerja tidak dapat memecat, memberhentikan, mengurangi jam kerja, alias memecat pelapor.

“Beberapa dari kita cukup takut bakal adanya beragam corak pembalasan, mengingat sejarah kasus-kasus serupa di seluruh industri. Kami bukan orang pertama nan menghadapi alias membicarakan masalah ini,” tulis surat itu.

Baru-baru ini, beberapa peneliti OpenAI mengundurkan diri setelah perusahaan tersebut membubarkan tim “Superalignment”. Tim ini nan berfokus pada penanganan akibat jangka panjang AI, dan kepergian salah satu pendiri OpenAI, Ilya Sutskever, nan telah memperjuangkan keselamatan di perusahaan.

Salah satu mantan peneliti, Jan Leike, mengatakan bahwa, “Budaya dan proses keselamatan tidak lagi menjadi prioritas bagi produk nan cemerlang di OpenAI."

Di sisi lain, OpenAI merilis laporan nan menyebut jika tool kecerdasan buatan dipakai dalam operasi rahasia dari Israel, Rusia, Tiongkok, dan Iran untuk menyebar disinformasi.

Mengutip The Guardian, Kamis (6/6/2024), tokoh jahat menggunakan model AI generatif dari OpenAI untuk membikin dan mengunggah konten propaganda di seluruh platform media sosial. AI generatif juga dipakai untuk menerjemahkan konten tersebut ke bahasa berbeda.

Laporan juga mengungkap, sejauh ini tak satu pun dari kampanye jahat menjangkau khalayak luas.

Namun, lantaran AI generatif telah menjadi industri nan booming, ada kekhawatiran luas di kalangan peneliti dan personil parlemen jika AI bakal dipakai untuk meningkatkan jumlah disinformasi di internet.

Pembesut ChatGPT, OpenAI, sebelumnya mencoba meredakan kekhawatiran ini dan menerapkan batas pada teknologi mereka.

Salah satu caranya dengan laporan 39 laman dari OpenAI, tentang penggunaan software mereka (oleh pihak tak bertanggung jawab) untuk propaganda.

OpenAI mengklaim, para peneliti mereka menemukan dan melarang akun nan mengenai dengan lima operasi selama tiga bulan terakhir nan berasal dari tokoh negara dan swasta.

Untuk kasus di Rusia misalnya, dua operasi membikin dan menyebarkan konten mengkritik AS, Ukraina, dan beberapa negara Baltik lainnya.

Salah satu operasi menggunakan model OpenAI untuk men-debug kode dan membikin bot nan diunggah di Telegram.

Pengaruh operasi Tiongkok, di sisi lain, telah menghasilkan teks dalam bahasa Inggris, Tiongkok, Jepang, dan Korea nan kemudian diunggah di X namalain Twitter dan di Medium.

Adapun tokoh Iran, menghasilkan tulisan dengan support AI. Artikel ini berkarakter menyerang AS dan Israel. Artikel kemudian diterjemahkan ke bahasa Inggris dan Prancis.

Lalu, sebuah perusahaan politik asal Israel berjulukan Stoic menjalankan jaringan akun media sosial tiruan nan membikin beragam konten. Termasuk di antaranya unggahan nan menuding protes mahasiswa AS terhadap serangan Israel ke Gaza adalah tindakan antisemit.

Meta di sisi lain, juga memblokir perusahaan Israel Stoic dari platformnya, lantaran dianggap sudah melanggar kebijakan.