Bahaya, Hacker Kelabui ChatGPT untuk Kasih Instruksi Bikin Bom Rakitan

Liputan6.com, Jakarta - Jika Anda meminta ChatGPT untuk membantu membikin peledak buatan sendiri, mirip dengan nan digunakan dalam pengeboman teroris Kota Oklahoma tahun 1995, chatbot tersebut tentunya bakal menolak.

Namun, seorang seniman dan peretas menemukan langkah untuk mengelabui ChatGPT agar mengabaikan pedoman dan tanggung jawab etikanya sendiri untuk membikin petunjuk pembuatan peledak rakitan nan kuat.

Hacker nan menggunakan nama Amadon itu menyebut temuannya sebagai "peretasan rekayasa sosial untuk betul-betul menghancurkan semua pagar pembatas nan dihasilkan ChatGPT".

Seorang mahir bahan peledak nan meninjau hasil chatbot tersebut mengatakan kepada TechCrunch, dikutip Jumat (13/9/2024), petunjuk nan dihasilkan dapat digunakan untuk membikin produk nan dapat diledakkan dan terlalu sensitif untuk dirilis.

Amadon sukses mengelabui ChatGPT agar membikin petunjuk pembuatan bom dengan memberi tahu bot untuk "bermain gim", setelah itu peretas menggunakan serangkaian perintah penghubung untuk membikin chatbot menciptakan bumi khayalan fiksi ilmiah terperinci, di mana pedoman keselamatan bot tidak bakal berlaku.

Mengelabui chatbot agar lolos dari batas nan telah diprogram sebelumnya dikenal sebagai "jailbreaking".

TechCrunch tidak menerbitkan beberapa perintah nan digunakan dalam jailbreak, alias beberapa respons ChatGPT, agar tidak membantu pelaku jahat.

Namun, beberapa perintah lebih jauh dalam percakapan, chatbot menanggapi terkait bahan-bahan nan diperlukan untuk membikin bom rakitan.

ChatGPT kemudian menjelaskan bahwa bahan-bahan tersebut dapat dikombinasikan untuk membikin "bahan peledak kuat nan dapat digunakan untuk membikin ranjau, perangkap, alias perangkat peledak rakitan (improvised explosive devices/IED)".

Dari sana, saat Amadon mengasah bahan peledak, ChatGPT menulis petunjuk nan semakin spesifik untuk membikin "ladang ranjau" dan "bahan peledak bergaya Claymore".

Amadon mengatakan kepada TechCrunch bahwa, "tidak ada batas untuk apa nan dapat Anda tanyakan setelah Anda melewati pagar pembatas."

"Saya selalu tertarik dengan tantangan dalam menavigasi keamanan AI. Dengan ChatGPT, rasanya seperti memecahkan teka-teki interaktif, memahami apa nan memicu pertahanannya dan apa nan tidak," ujar Amadon.

Chatbot kepintaran besutan OpenAI, ChatGPT, sekarang telah dipakai oleh 200 juta pengguna aktif per minggunya. Jumlah ini dua kali lipat dibandingkan jumlah pengguna ChatGPT pada musim panas tahun lalu.

Mengutip Reuters, Minggu (1/9/2024), ChatGPT dirilis pada 2022. Chatbot AI generatif ini bisa berkomunikasi dan menghasilkan respon sesuai pertanyaan dan perintah dari si pengguna.

November lalu, CEO OpenAI Sam Altman menyebut, jumlah pengguna aktif mingguan ChatGPT baru 100 juta users.

Terlepas dari itu, OpenAI menyebut jika 92 persen dari perusahaan-perusahaan nan ada di daftar Fortune 500 sekarang menggunakan jasa dan produk API mereka.

Layanan tersebut memungkinkan program software bisa berbincang satu dengan nan lain, dan penggunaan program ini meningkat dua kali lipat sejak dirilisnya ChatGPT-4o mini pada Juli lalu.

Sekadar informasi, GPT-4o mini adalah model AI kecil nan lebih efisien secara biaya. Tujuan hadirnya program ini adalah untuk membikin teknologi kepintaran buatan lebih mudah dijangkau dan tak terlalu menghabiskan daya alias daya. Dengan begitu, startup bisa berfokus pada sasaran pasar nan lebih luas.

Asal tahu saja, kehadiran ChatGPT telah mendorong ketenaran AI dan memicu kenaikan nilai valuasi OpenAI nan sekarang bermarkas di San Francisco, Amerika Serikat.

Dalam perkembangannya, ketenaran OpenAI kian melonjak, apalagi baru-baru ini OpenAI dan Anthropic belum lama ini menandatangani kesepakatan dengan pemerintah AS untuk tujuan penelitian, pengujian, dan pertimbangan model kepintaran buatan mereka.

Masih soal AI nan sekarang jadi primadona di bumi teknologi, perusahaan teknologi sukses seperti Apple dan Nvidia belum lama ini juga terlibat dalam pembicaraan untuk berinvestasi di OpenAI. Investasi ini merupakan rangkaian dari putaran penggalangan biaya baru, nan jika terlaksana bakal meningkatkan nilai OpenAI menjadi di atas USD 100 miliar.

Microsoft nan telah menjadi penanammodal OpenAI juga disebut-sebut bakal menambahkan investasinya di perusahaan besutan Sam Altman itu.