Liputan6.com, Jakarta - OpenAI tengah menjadi sorotan setelah dilaporkan mempunyai teknologi canggih untuk mendeteksi esai buatan siswa nan ditulis dengan support ChatGPT. Namun, perusahaan tetap ragu untuk merilis perangkat tersebut ke publik.
Dilansir dari The Wall Street Journal, perangkat penemuan nan disebut-sebut sudah siap pakai ini tersendat lantaran perdebatan internal.
Dalam sebuah pembaruan blog, OpenAI mengaku tengah mengembangkan metode penanda alias 'watermarking' teks sebagai salah satu solusi untuk mendeteksi konten AI nan dibantu ChatGPT.
Metode ini, menurut perusahaan, cukup jeli dalam beberapa situasi. Namun kurang efektif dalam menghadapi manipulasi seperti terjemahan, parafrase, alias pengubahan format teks.
Mengutip Engadget, Selasa (6/8/2024), OpenAI juga mengungkapkan kekhawatiran tentang potensi akibat negatif dari watermarking, terutama bagi pengguna non-native English nan mungkin terdiskriminasi jika penggunaan AI ditandai.
Karena beragam pertimbangan ini, OpenAI mengaku tetap menimbang-nimbang langkah terbaik dan tetap konsentrasi pada pengembangan perangkat autentikasi untuk konten audio-visual.
Dalam keterangannya, OpenAI menekankan bahwa mereka mengambil pendekatan secara hati-hati dalam menangani masalah asal-usul teks lantaran kompleksitasnya dan potensi akibat luas terhadap ekosistem AI.
* Follow Official WA Channel Liputan6.com untuk mendapatkan berita-berita terkini dengan mengklik tautan ini.
Ini 2 Ancaman Siber Mengerikan di OpenAI, Pengguna ChatGPT dalam Bahaya?
Di sisi lain, OpenAI terjerat dua ancaman siber yang terbilang mengerikan dan menjadi perbincangan hangat hingga saat ini.
Kasus pertama berpusat pada aplikasi Mac untuk ChatGPT. Kedua, seputar kekhawatiran nan lebih luas, gimana langkah perusahaan menangani keamanan siber.
Engineer dan developer Swift, Pedro José Pereira Vieito, menggali aplikasi Mac ChatGPT dan menemukan bahwa aplikasi tersebut menyimpan percakapan pengguna secara lokal dalam teks biasa, bukan mengenkripsinya. Hal ini tentu membahayakan data pengguna ChatGPT.
Aplikasi ini hanya tersedia dari situs web OpenAI, dan lantaran tidak tersedia di App Store, aplikasi tidak kudu mengikuti persyaratan sandboxing Apple.
Informasi dari Vieito kemudian diliput oleh The Verge, dan setelah pemanfaatan tersebut menarik perhatian, OpenAI merilis pembaruan nan menambahkan enkripsi ke obrolan nan disimpan secara lokal.
Mengutip Engadget, Jumat (5/7/2024) sandboxing adalah praktik keamanan untuk mencegah potensi kerentanan dan penyebaran dari satu aplikasi ke aplikasi lain.
Menyimpan file lokal dalam teks biasa berfaedah info sensitif dapat dengan mudah dilihat oleh aplikasi lain alias malware (buatan hacker).
Hacker Membobol Sistem OpenAI
Masalah kedua terjadi pada tahun 2023 dengan akibat nan terus bersambung hingga saat ini.
Pada musim semi lalu, seorang hacker memperoleh info tentang OpenAI setelah secara tidak sah membobol sistem pesan internal perusahaan.
The New York Times melaporkan bahwa manajer program teknis OpenAI, Leopold Aschenbrenner, menyampaikan kekhawatiran keamanan kepada majelis dewan perusahaan.
Ia menyebut bahwa peretasan tersebut menyiratkan kerentanan internal nan dapat dimanfaatkan oleh orang asing.
Aschenbrenner sekarang sudah dipecat lantaran mengungkapkan info tentang OpenAI dan kekhawatiran tentang keamanan perusahaan.
Pernyataan OpenAI
Seorang perwakilan dari OpenAI mengatakan kepada Times bahwa “walaupun kami mempunyai komitmen nan sama dengan beliau untuk membangun Artificial General Intelligence (AGI) nan aman, kami tidak setuju dengan banyak klaim nan dia buat mengenai pekerjaan kami”
Ia menambahkan bahwa keluarnya Aschenbrenner bukanlah akibat dari pelaporan pelanggaran (whistleblowing).
Kerentanan aplikasi adalah sesuatu nan dialami setiap perusahaan teknologi. Pelanggaran nan dilakukan oleh peretas juga sangat umum terjadi, begitu pula hubungan nan kontroversial antara pelapor dan mantan bos mereka.
Namun, besarnya pengaruh ChatGPT nan telah diadopsi ke dalam jasa terkenal serta sungguh kacaunya pengawasan, praktik, dan reputasi publik perusahaan, isu-isu tersebut mengundang pertanyaan nan lebih mengkhawatirkan tentang apakah OpenAI dapat mengelola datanya dengan baik.
Infografis 4 Rekomendasi Chatbot AI Terbaik. (Liputan6.com/Gotri/Abdillah)
* Fakta alias Hoaks? Untuk mengetahui kebenaran info nan beredar, silakan WA ke nomor Cek Fakta Liputan6.com 0811 9787 670 hanya dengan ketik kata kunci nan diinginkan.