OPINI: Inovasi AI Harus Melibatkan Prinsip Etika, Transparansi, hingga Tata Kelola yang Baik

Liputan6.com, Jakarta - Di lingkungan dengan persaingan nan sangat ketat saat ini, semua perusahaan bertaruh besar pada kepintaran buatan (AI) untuk memberikan mereka kelebihan transformatif. Di Indonesia, pemanfaatan AI bakal meningkatkan benefit ekonomi hingga Rp 2.612 triliun (US$167 miliar) pada 2030.

Sebuah survei menemukan bahwa para pemimpin upaya sebanyak 3,6 kali bakal mengatakan bahwa AI bakal memberikan faedah di tempat kerja dengan meningkatkan produktivitas. 90% pemimpin upaya juga mengantisipasi kebutuhan tenaga kerja mereka untuk mendapatkan skill baru di era AI ini.

Bahkan saat penemuan dipercepat, perusahaan mengakui peran krusial etika dan peraturan dalam pengembangan AI, di mana 88% pelaksana C-level nan disurvei Deloitte melaporkan bahwa perusahaan mereka mengkomunikasikan pemanfaatan AI nan etis di tempat kerja.

Namun kenapa etika dan izin begitu krusial dalam perlombaan menghadirkan inovasi AI ke pasar?

Kemajuan dalam AI menunjukkan bahwa kita telah beranjak dari membangun sistem nan membikin keputusan berasas patokan nan ditentukan manusia ke arti patokan nan berkarakter otomatis, pembuatan konten, dan pengambilan keputusan oleh model kompleks nan dilatih dengan kumpulan info nan sangat besar.

Sistem AI nan tidak mempunyai batas bakal memprioritaskan optimasi input berasas tujuan nan sudah ditentukan sebelumnya, seringkali tanpa mempertimbangkan akibat sosial nan lebih luas alias etika, sehingga menggerus kepercayaan publik.

Dampak Kontroversial AI

Terlepas dari kemajuannya, AI saat ini terus mengalami masalah termasuk bias dan hallucination, nan menimbulkan beberapa akibat nan kontroversial.

Pada April 2021, enam pengemudi di Belanda dilaporkan kehilangan pekerjaan mereka secara tidak setara lantaran 'cara-cara algoritma' sehingga dilakukan penyelidikan dengan merujuk pada patokan General Data Protection Regulation (GDPR) nan diterapkan di Uni Eropa, lantaran terjadinya pemutusan hubungan kerja (PHK) tanpa peninjauan dari manusia.

Dua tahun kemudian beberapa pekerja penghantaran makanan di Inggris diduga diberhentikan tanpa argumen nan jelas dengan penjelasan nan sangat minim lantaran dugaan pembayaran lebih berasas info lokasi.

Kontroversi nan serupa bermunculan di seluruh bumi – mulai dari pencairan pinjaman nan tidak setara lantaran diskriminasi gender, hingga penggunaan teknologi pengenalan wajah nan melanggar privasi untuk memproses klaim asuransi.

Banyak dari peristiwa tersebut disebabkan oleh masalah explainability. AI, terutama model deep learning, belajar dengan langkah nan tidak mengikuti patokan nan jelas nan diikuti manusia.

Model ini seringkali dipandang sebagai “black box” lantaran lapisan-lapisan kalkulasi kompleks dan tidak melibatkan manusia, nan mereka gunakan untuk mengambil keputusan.

Itulah sebabnya, banyak mahir kesulitan untuk memahami gimana AI sampai pada kesimpulannya. Tanpa pengawasan dan pemahaman manusia, keputusan nan bias bisa menghasilkan akibat negatif seperti kejadian nan disebutkan di atas.

Menjaga konsentrasi pada etika menjadi sangat krusial sekarang, terutama lantaran penemuan AI generatif baru seperti video generator SORA AI dari OpenAI, menjanjikan percepatan produktivitas di tempat kerja dan memampukan perusahaan mengasah kelebihan kompetitif mereka.

Meskipun potensinya besar, tool generatif ini bisa membawa masalah seperti pelanggaran kewenangan cipta. Lebih jelek lagi, membuka kesempatan disalahgunakan alias menyebarkan info nan keliru.

Meskipun banyak tool AI generatif nan tersedia umum mempunyai peraturan untuk mencegah penyalahgunaan, banyak pengguna menemukan langkah untuk melanggar pengamanan tersebut.

Penjahat siber apalagi menciptakan generative pre-trained transformers (GPTs) mereka sendiri untuk menulis kode malware dan membikin email phishing nan sangat meyakinkan dalam skala besar.

Saat ini tak banyak tools dan norma nan secara efektif bisa mendeteksi dan mencegah akibat nan rawan seperti itu. Dengan demikian, sektor publik dan swasta kudu mempererat kerjasama mereka untuk mengatur AI dengan lebih baik agar dapat mengurangi akibat penyalahgunaan, dan memastikan bahwa model diciptakan dengan mempertimbangkan etika.

AI nan etis melibatkan pengintegrasian prinsip etika nan utama, akuntabilitas, transparansi, explainability, dan tata kelola nan baik ke dalam model AI.

Meningkatkan explainability dan memperkuat etika model bisa membantu perusahaan mengatasi kelemahan AI saat ini. Ini juga bisa meningkatkan kecermatan dan efektivitas pengambilan keputusan dengan lebih baik.

Banyak entitas di sektor publik dan swasta bekerja sama untuk memajukan AI nan etis. Sebagai contoh, Australia baru-baru ini menginvestasikan US$17 juta untuk membikin Program AI Adopt, nan membantu upaya mini menengah membikin keputusan nan lebih baik dalam pemanfaatan AI untuk meningkatkan upaya mereka.

Tahun lalu, pemerintah Singapura bekerja sama dengan para pemimpin sektor swasta untuk meluncurkan AI Verify Foundation untuk mengatasi risiko-risiko nan dibawa oleh AI.

Tahun ini, yayasan tersebut meluncurkan framework baru untuk AI generatif untuk mengatasi beragam masalah nan muncul – seperti penyalahgunaan properti intelektual – sekaligus memfasilitasi penemuan nan berkelanjutan.

Di Indonesia, untuk memandu penerapan AI di beragam sektor, pada tahun 2020, pemerintah merilis Strategi Nasional Kecerdasan Artifisial Indonesia – Stranas AI nan mencakup etika dan kebijakan AI, pengembangan talenta AI, serta ekosistem info dan prasarana pengembangan AI.

Saat peraturan dan inisiatif terus diluncurkan, perusahaan bisa menjalankan peran mereka untuk memajukan AI nan etis dengan memastikan bahwa info nan mereka gunakan tepercaya.

Membangun sistem AI nan dipercayai manusia mengharuskan perusahaan untuk mempunyai sumber info nan tepercaya. Dengan info nan akurat, konsisten, jelas, bebas dari bias dan andal sebagai fondasi, sistem enterprise AI nan didesain secara etis bisa diandalkan untuk memberikan hasil nan setara dan tidak bias secara konsisten.

Perusahaan bisa dengan mudah mengidentifikasi masalah, menutup setiap kesenjangan dalam logika, menyempurnakan output dan menilai apakah penemuan mereka sudah tunduk pada izin nan ada.

Berikut beberapa tips untuk perusahaan nan mau mengembangkan sistem AI nan etis dengan lebih baik:

Fokus pada Tujuannya

Sistem AI nan dilatih dengan info tidak mempunyai konteks di luar info tersebut. Tidak ada kompas moral, tidak ada kerangka referensi mengenai apa nan adil, selain kita mendefinisikan perihal tersebut.

Dengan demikian, desainer kudu secara definitif dan hati-hati membangun representasi dari tujuan nan memotivasi kreasi sistem tersebut. Ini melibatkan identifikasi, penghitungan, dan mengukur pertimbangan etis sekaligus menyeimbangkan semuanya dengan objektif performa.

Pertimbangkan Desain Model

Sistem AI nan didesain dengan baik bisa diciptakan tanpa bias, kausalitas dan ketidakpastian. Perusahaan kudu mengingat bahwa selain data, kreasi model juga bisa menjadi sumber bias.

Perusahaan secara berkala kudu memeriksa penyimpangan model – ketika satu model mulai menjadi tidak jeli seiring waktu lantaran info nan sudah tidak bertindak lagi. Perusahaan juga kudu secara ekstensif memodelkan karena dan akibat dari sistem untuk memahami apakah perubahan bakal menghasilkan akibat negatif di kemudian hari.

Memastikan Pengawasan dari Manusia

Sistem AI bisa diandalkan dalam mengambil keputusan ketika dilatih dengan info berbobot tinggi. Namun, sistem ini tidak mempunyai kepintaran emosional dan tidak bisa mengatasi situasi luar biasa. Sistem nan paling efektif adalah nan secara pandai menggabungkan penilaian dari manusia dan AI.

Perusahaan kudu selalu memastikan pengawasan manusia, terutama dalam situasi di mana model AI menghasilkan output dengan tingkat kepercayaan nan rendah.

Menegakkan Keamanan dan Kepatuhan

Mengembangkan sistem AI nan etis nan dipusatkan pada keamanan dan kepatuhan, bakal memperkuat kepercayaan terhadap sistem tersebut dan membantu penerapannya di seluruh perusahaan, sekaligus memastikan kepatuhan pada peraturan lokal dan regional.

Memanfaatkan Platform Data Modern

Memanfaatkan tool mutakhir seperti platform info nan mendukung arsitektur info modern, bisa meningkatkan keahlian perusahaan untuk mengelola dan menganalisis info di seluruh lifecycle info dan model AI.

Idealnya, platform tersebut kudu mempunyai keamanan bawaan dan pengendalian tata kelola nan memampukan perusahaan menjaga transparansi dan mengendalikan keputusan nan dibuat dengan AI - apalagi ketika mereka menjalankan analitik info dan AI pada skala besar.