BacaHukum.com – Kecerdasan buatan atau Artificial Intelligence (AI) kini bukan lagi sekadar konsep masa depan. Teknologi ini telah terintegrasi dalam berbagai aspek kehidupan, mulai dari sistem rekomendasi media sosial, verifikasi biometrik di bandara, seleksi bantuan sosial, hingga perangkat lunak pendukung keputusan di bidang kesehatan dan hukum. AI menawarkan efisiensi dan kecepatan, namun di balik manfaat tersebut muncul persoalan mendasar mengenai siapa yang harus bertanggung jawab ketika sistem ini menimbulkan kesalahan.
Persoalan menjadi krusial ketika keputusan AI berdampak langsung pada hak individu. Kesalahan identifikasi wajah dapat berujung kriminalisasi, algoritma kredit berpotensi diskriminatif, dan sistem medis berbasis AI dapat menghasilkan rekomendasi yang keliru. Dalam situasi demikian, hukum dituntut memberikan perlindungan sekaligus kepastian.
AI dan Kekosongan Subjek Hukum
Dalam konstruksi hukum klasik, pertanggungjawaban melekat pada subjek hukum, yakni manusia atau badan hukum. AI, meskipun mampu menghasilkan keputusan kompleks, tidak memiliki kesadaran maupun kehendak. Ia tidak dapat memenuhi unsur kesalahan sebagaimana dipahami dalam hukum pidana, seperti mens rea.
Kompleksitas meningkat dengan hadirnya sistem machine learning yang belajar secara mandiri dari data. Fenomena black box problem membuat proses pengambilan keputusan sulit ditelusuri, bahkan oleh pengembangnya sendiri. Kondisi ini menyulitkan pembuktian kesalahan dalam konteks perdata maupun pidana.
Karena AI bukan subjek hukum, pertanggungjawaban harus diarahkan pada manusia dan institusi yang berada di baliknya. Dalam praktik, terdapat tiga pihak yang berpotensi dimintai tanggung jawab.
Pertama, pengembang sistem AI. Apabila kesalahan muncul akibat cacat desain, bias data, atau kurangnya pengujian, maka tanggung jawab dapat didasarkan pada prinsip product liability. Dalam hal ini, AI diperlakukan sebagai produk teknologi yang wajib memenuhi standar keamanan.
Kedua, pemilik atau penyedia sistem, baik perusahaan maupun instansi pemerintah. Mereka berkewajiban memastikan penggunaan AI tidak melanggar hukum serta menyediakan mekanisme pengawasan manusia. Kelalaian dalam pengendalian dapat membuka ruang tanggung jawab perdata maupun administratif.
Ketiga, operator atau pengguna. Jika AI digunakan secara menyimpang atau tanpa prosedur pengamanan memadai, tanggung jawab dapat dibebankan kepada pihak tersebut.
Tantangan dalam Hukum Pidana
Dalam ranah pidana, problemnya lebih kompleks. Prinsip dasar hukum pidana mensyaratkan kesalahan personal. AI tidak dapat dipidana karena tidak memiliki niat. Namun, pertanggungjawaban pidana dapat diarahkan kepada manusia yang secara sengaja merancang atau menggunakan AI untuk tujuan melawan hukum, atau lalai mengendalikan sistem berisiko tinggi.
Pendekatan ini menegaskan bahwa AI adalah alat. Tanggung jawab pidana tetap berada pada manusia sebagai pengendali dan pengambil keputusan akhir.
Indonesia belum memiliki regulasi khusus yang mengatur AI secara komprehensif. Namun, sejumlah regulasi dapat menjadi pijakan awal. Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik mengatur aktivitas digital secara umum, meskipun belum spesifik terhadap AI.
Selain itu, Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi menjadi relevan mengingat sistem AI bergantung pada pengolahan data. Pelanggaran prinsip transparansi dan keadilan dalam pemrosesan data dapat berujung pada sanksi hukum.
Di tingkat global, Uni Eropa telah mengadopsi AI Act sebagai regulasi komprehensif berbasis tingkat risiko. Regulasi ini berada dalam kerangka kelembagaan European Commission dan diawasi oleh European AI Office.
Pendekatan yang digunakan bersifat risk-based. Sistem AI diklasifikasikan berdasarkan tingkat risiko, mulai dari kategori risiko tidak dapat diterima hingga high-risk AI. Praktik seperti social scoring oleh pemerintah dilarang karena berpotensi melanggar hak asasi manusia.
Untuk sistem berisiko tinggi, seperti di sektor kesehatan atau ketenagakerjaan, diwajibkan adanya dokumentasi teknis, pengawasan manusia, serta proses conformity assessment sebelum digunakan. Transparansi juga diwajibkan, termasuk pemberian label pada konten deepfake dan pemberitahuan kepada pengguna saat berinteraksi dengan chatbot.
Pelanggaran terhadap AI Act dapat dikenai sanksi administratif signifikan, bahkan berdasarkan persentase omzet global perusahaan. Model ini menunjukkan bahwa inovasi teknologi dapat berjalan berdampingan dengan akuntabilitas hukum.
Hukum sebagai Penjaga Etika Teknologi
Perkembangan AI tidak dapat dihindari. Tantangannya terletak pada kesiapan hukum dalam merespons perubahan tersebut. Indonesia memerlukan kerangka regulasi yang tidak hanya mendorong inovasi, tetapi juga memastikan adanya jalur pertanggungjawaban yang jelas ketika terjadi kerugian.
Dengan pendekatan berbasis risiko dan prinsip perlindungan hak asasi manusia, kemajuan teknologi dapat tetap didorong tanpa mengorbankan kepastian hukum dan keadilan.
Editor: Tim BacaHukum
Sumber: dikutip dari MARINews
