BacaHukum.com – Perkembangan teknologi Artificial Intelligence (AI) dalam beberapa tahun terakhir telah membawa perubahan besar dalam kehidupan masyarakat modern. Berbagai aktivitas yang sebelumnya dilakukan secara konvensional kini semakin bergantung pada sistem berbasis kecerdasan buatan, mulai dari komunikasi, pendidikan, industri kreatif, hingga transaksi ekonomi digital.
Di balik kemudahan tersebut, muncul pula tantangan baru berupa penyalahgunaan teknologi AI melalui deepfake dan voice cloning yang mampu meniru wajah maupun suara seseorang secara realistis menggunakan pengolahan data digital.
Pada awal pengembangannya, teknologi ini digunakan untuk kebutuhan hiburan dan produksi media. Dalam industri perfilman misalnya, AI dimanfaatkan untuk memperbaiki kualitas visual, menciptakan efek digital, hingga membantu proses pengisian suara.
Namun dalam perkembangannya, teknologi tersebut mulai dimanfaatkan untuk tujuan yang melanggar hukum, seperti penipuan digital, manipulasi informasi elektronik, hingga penyebaran konten palsu yang sulit dibedakan dari rekaman asli.
Deepfake dan Voice Cloning Semakin Sulit Dideteksi
Deepfake merupakan teknologi yang digunakan untuk membuat video manipulatif sehingga seseorang tampak melakukan atau mengucapkan sesuatu yang sebenarnya tidak pernah terjadi.
Sementara itu, voice cloning memungkinkan pelaku meniru suara seseorang dengan tingkat kemiripan sangat tinggi hanya melalui sampel audio tertentu.
Kemajuan AI generatif membuat hasil manipulasi tersebut semakin realistis dan sulit dikenali oleh masyarakat umum yang tidak memiliki kemampuan forensik digital.
Fenomena ini menjadi ancaman serius di tengah meningkatnya penggunaan internet dan media sosial di Indonesia.
Berdasarkan Survei Penetrasi Internet Indonesia Tahun 2024 yang dirilis oleh Asosiasi Penyelenggara Jasa Internet Indonesia, jumlah pengguna internet di Indonesia mencapai lebih dari 221 juta jiwa atau sekitar 79,5 persen dari total populasi nasional.
Tingginya aktivitas digital masyarakat membuat penyebaran konten manipulatif berbasis AI menjadi semakin mudah dilakukan melalui berbagai platform daring.
Mulai Digunakan dalam Modus Penipuan
Penyalahgunaan teknologi AI mulai terlihat dalam berbagai bentuk penipuan digital.
Salah satu kasus yang sempat menarik perhatian publik terjadi ketika Kepolisian Daerah Jawa Timur mengungkap dugaan penipuan yang mencatut nama Khofifah Indar Parawansa.
Pelaku diduga menggunakan video manipulatif menyerupai gubernur untuk menawarkan program penjualan sepeda motor murah melalui media sosial. Korban kemudian diminta mentransfer sejumlah uang dengan alasan biaya administrasi.
Kasus tersebut menunjukkan bahwa manipulasi digital dapat digunakan untuk membangun tipu muslihat yang tampak meyakinkan bagi masyarakat.
Peristiwa serupa juga terjadi di tingkat internasional. Pada tahun 2024, perusahaan engineering asal Inggris, Arup Group, menjadi korban penipuan berbasis deepfake.
Seorang pegawai bagian keuangan di kantor Hong Kong mengikuti rapat virtual yang tampak dihadiri sejumlah eksekutif perusahaan. Setelah rapat tersebut, pegawai itu melakukan transfer dana perusahaan sekitar HK$200 juta atau setara kurang lebih US$25 juta kepada pelaku.
Belakangan diketahui bahwa seluruh peserta rapat tersebut merupakan hasil manipulasi AI berupa video dan suara palsu.
Peristiwa tersebut memperlihatkan bahwa teknologi AI kini mampu menembus sistem verifikasi modern yang sebelumnya dianggap aman.
Belum Ada Aturan Khusus tentang Deepfake
Dalam perspektif hukum Indonesia, hingga saat ini belum terdapat regulasi yang secara khusus mengatur kriminalisasi deepfake dan voice cloning.
Meski demikian, sejumlah ketentuan hukum positif tetap dapat digunakan untuk menjerat pelaku penyalahgunaan teknologi tersebut.
Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana dapat diterapkan terhadap tindak pidana penipuan, pemalsuan, maupun penyebaran informasi bohong.
Selain itu, Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Informasi dan Transaksi Elektronik juga memberikan dasar hukum terhadap manipulasi dan distribusi informasi elektronik yang merugikan pihak lain.
Di sisi lain, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi memberikan perlindungan terhadap data biometrik seseorang, termasuk wajah dan suara yang tergolong sebagai data pribadi spesifik.
Karena itu, penggunaan AI untuk meniru identitas seseorang tanpa izin berpotensi dikategorikan sebagai pelanggaran privasi dan penyalahgunaan data pribadi.
Tantangan Pembuktian Digital
Salah satu persoalan terbesar dalam penyalahgunaan deepfake terletak pada aspek pembuktian digital.
Video maupun audio hasil manipulasi AI sering kali sangat sulit dibedakan dari rekaman asli tanpa pemeriksaan forensik digital yang memadai.
Kondisi ini berpotensi menimbulkan fitnah digital, manipulasi alat bukti elektronik, hingga kesalahan identifikasi dalam proses penegakan hukum.
Dalam situasi tersebut, kemampuan forensik digital menjadi sangat penting untuk memastikan keaslian suatu rekaman elektronik sebelum digunakan sebagai dasar pengambilan keputusan hukum.
Dorongan Pembentukan Regulasi Khusus
Perkembangan AI menunjukkan bahwa hukum harus mampu menyesuaikan diri dengan perubahan teknologi yang berlangsung sangat cepat.
Regulasi mengenai deepfake, autentikasi digital, serta penguatan sistem forensik siber dinilai penting untuk mencegah penyalahgunaan teknologi yang dapat merugikan masyarakat.
Di sisi lain, pengaturan hukum juga diperlukan agar perkembangan AI tetap memberikan manfaat bagi kehidupan digital tanpa mengorbankan keamanan, privasi, dan kepastian hukum masyarakat.
Editor: Tim BacaHukum
Sumber: dikutip dari DANDAPALA
