OpenAI Tunjuk Mantan Bos Intelijen NSA jadi Direksi, Apa Tugasnya untuk ChatGPT?

Liputan6.com, Jakarta - OpenAI menunjuk seorang mantan pejabat tinggi cyberwarrior dan intelijen AS (National Security Agencynsa), Paul Nakasone, ke dalam majelis direksinya.

Perusahaan menyebut dia bakal membantu melindungi kreator ChatGPT dari serangan 'aktor jahat nan semakin canggih'. Demikian sebagaimana dilansir AP News, Sabtu (15/6/2024).

Pensiunan Jenderal Angkatan Darat itu adalah komandan Komando Siber AS dan kepala NSA sebelum mengundurkan diri pada awal tahun 2024.

Dia berasosiasi dengan majelis dewan OpenAI nan tetap merekrut personil baru setelah pergolakan di perusahaan AI asal San Francisco itu memaksa pergantian kepemimpinan majelis tahun lalu.

Anggota majelis sebelumnya tiba-tiba memecat CEO Sam Altman dan kemudian digantikan ketika dia kembali ke peran CEO-nya beberapa hari kemudian.

OpenAI mengembalikan Altman ke majelis dewan pada Maret dan mengatakan mereka mempunyai “kepercayaan penuh” pada kepemimpinannya setelah konklusi dari penyelidikan luar terhadap kekacauan perusahaan.

Dewan OpenAI secara teknis adalah organisasi nirlaba, tetapi juga mengatur bisnisnya nan berkembang pesat.

Nakasone juga berasosiasi dengan komite keselamatan dan keamanan OpenAI nan baru, sebuah golongan nan semestinya memberikan nasihat kepada seluruh majelis mengenai “keputusan keselamatan dan keamanan nan penting” untuk proyek dan operasinya.

Kelompok keselamatan AI terdahulu sudah dibubarkan setelah beberapa pemimpinnya mengundurkan diri.

Beberapa mantan tenaga kerja OpenAI menuliskan surat terbuka berisi peringatan. Dalam surat itu, para mantan tenaga kerja menyebut, OpenAI membungkam kritik mereka nan cemas terhadap keamanan AI namalain kepintaran buatan. 

Surat terbuka tersebut ditandatangani oleh 13 mantan karyawan OpenAI. Surat ini menyatakan, tidak adanya pengawasan pemerintah nan efektif mengenai keamanan AI. Dalam suratnya, mereka juga perusahaan AI agar lebih berkomitmen pada prinsip kritik terbuka.

Mengutip The Verge, Minggu (9/6/2024), inisiatif pelayangan surat terbuka itu dilatarbelakangi perusahaan AI, khususnya OpenAI, nan dinilai tak mempunyai keselamatan nan memadahi. 

Selain OpenAI, Google juga mendapat kritikan keras lantaran tetap mempertahankan penggunaan fitur AI Overview dalam Google Search, apalagi setelah orang-orang menyatakan fitur tersebut memberikan hasil nan nyeleneh.

Selain dua perusahaan itu, Microsoft juga mendapat kecaman lantaran Copilot Designer-nya, nan menghasilkan gambar AI berbau seksual.

Prinsip kritik nan tertulis pada surat tersebut termasuk menghindari pembuatan dan penegakan klausul nan tidak meremehkan, memfasilitasi pelaporan oleh pihak anonim nan “dapat diverifikasi” untuk melaporkan masalah.

Tak hanya itu, surat nan ditulis mantan tenaga kerja OpenAI ini juga menginginkan agar tenaga kerja saat ini dan mantan tenaga kerja dapat menyampaikan kekhawatirannya mengenai AI kepada publik secara bebas, tanpa perlu merasa ketakutan jika perusahaan teknologi membalas "serangan" mereka.

Surat tersebut menyatakan bahwa meskipun mereka percaya pada potensi AI untuk memberikan faedah bagi masyarakat, mereka juga memandang adanya risiko. Mulai dari meningkatnya kesenjangan, manipulasi dan info nan salah, serta kemungkinan kepunahan manusia.

Surat tersebut juga mengatakan jika pihak pelapor nan melaporkan kekhawatiran AI tidak dilindungi secara penuh.

Padahal, Departemen Tenaga Kerja AS menyatakan bahwa pekerja nan melaporkan pelanggaran upah, diskriminasi, keselamatan, penipuan, dan penundaan waktu rehat dilindungi oleh undang-undang perlindungan pelapor. Itu artinya,npemberi kerja tidak dapat memecat, memberhentikan, mengurangi jam kerja, alias memecat pelapor.

“Beberapa dari kita cukup takut bakal adanya beragam corak pembalasan, mengingat sejarah kasus-kasus serupa di seluruh industri. Kami bukan orang pertama nan menghadapi alias membicarakan masalah ini,” tulis surat itu.

Baru-baru ini, beberapa peneliti OpenAI mengundurkan diri setelah perusahaan tersebut membubarkan tim “Superalignment”. Tim ini nan berfokus pada penanganan akibat jangka panjang AI, dan kepergian salah satu pendiri OpenAI, Ilya Sutskever, nan telah memperjuangkan keselamatan di perusahaan.

Salah satu mantan peneliti, Jan Leike, mengatakan bahwa, “Budaya dan proses keselamatan tidak lagi menjadi prioritas bagi produk nan cemerlang di OpenAI."

Di sisi lain, OpenAI merilis laporan nan menyebut jika tool kecerdasan buatan dipakai dalam operasi rahasia dari Israel, Rusia, Tiongkok, dan Iran untuk menyebar disinformasi.

Mengutip The Guardian, Kamis (6/6/2024), tokoh jahat menggunakan model AI generatif dari OpenAI untuk membikin dan mengunggah konten propaganda di seluruh platform media sosial. AI generatif juga dipakai untuk menerjemahkan konten tersebut ke bahasa berbeda.

Laporan juga mengungkap, sejauh ini tak satu pun dari kampanye jahat menjangkau khalayak luas.

Namun, lantaran AI generatif telah menjadi industri nan booming, ada kekhawatiran luas di kalangan peneliti dan personil parlemen jika AI bakal dipakai untuk meningkatkan jumlah disinformasi di internet.

Pembesut ChatGPT, OpenAI, sebelumnya mencoba meredakan kekhawatiran ini dan menerapkan batas pada teknologi mereka.

Salah satu caranya dengan laporan 39 laman dari OpenAI, tentang penggunaan software mereka (oleh pihak tak bertanggung jawab) untuk propaganda.

OpenAI mengklaim, para peneliti mereka menemukan dan melarang akun nan mengenai dengan lima operasi selama tiga bulan terakhir nan berasal dari tokoh negara dan swasta.

Untuk kasus di Rusia misalnya, dua operasi membikin dan menyebarkan konten mengkritik AS, Ukraina, dan beberapa negara Baltik lainnya.

Salah satu operasi menggunakan model OpenAI untuk men-debug kode dan membikin bot nan diunggah di Telegram.