AI DAN MASA DEPAN PENEGAKAN HUKUM INDONESIA : SAATNYA BERALIH DARI PENINDAKAN KE PENCEGAHAN

Meski demikian, optimalisasi AI dalam hal deteksi dini tidak boleh mengabaikan prinsip negara hukum. Sistem yang salah mengidentifikasi konten atau seseorang dapat menimbulkan kerugian baru. Karena itu, hasil deteksi tidak boleh otomatis menjadi dasar untuk menyimpulkan bahwa seseorang telah melakukan tindak pidana.

Penggunaan AI juga harus memperhatikan dasar kewenangan, perlindungan data pribadi, proporsionalitas, dan mekanisme pertanggungjawaban. Rekomendasi UNESCO (2021) mengenai etika AI menekankan pentingnya perlindungan hak asasi manusia dan pengawasan manusia dalam penerapan teknologi tersebut.

Pencegahan yang efektif bukanlah alasan untuk memperluas pemantauan tanpa batas. Tujuannya adalah meningkatkan kemampuan mengenali ancaman dan mengambil tindakan yang sah, dengan tetap menjaga hak warga negara. Indikasi risiko harus dibedakan dari bukti, sementara tindakan lanjutan harus didasarkan pada fakta yang dapat diperiksa.

Membangun penegakan hukum yang lebih antisipatif

Kasus video Sri Mulyani memperlihatkan bahwa konten  manipulatif dapat beredar luas sebelum masyarakat memperoleh penjelasan yang memadai. Pengalaman tersebut seharusnya menjadi bahan evaluasi mengenai kesiapan institusi dalam mendeteksi, memverifikasi, dan merespons penyalahgunaan AI.

Evaluasi tersebut perlu menjawab beberapa pertanyaan: apakah aparat memiliki kompetensi yang memadai untuk menangani konten sintetis? Apakah perangkat forensik digital tersedia dan digunakan secara efektif? Apakah hasil analisis teknologi dapat dipertanggungjawabkan dalam proses pembuktian? Apakah mekanisme respons memungkinkan penyebaran konten merugikan ditangani sebelum dampaknya meluas?

Pertanyaan-pertanyaan itu perlu dijawab melalui data, evaluasi kelembagaan, dan pengalaman penanganan perkara. Kita tidak perlu berasumsi bahwa seluruh aparat telah tertinggal atau bahwa AI pasti menyelesaikan persoalan. Yang diperlukan adalah pengukuran yang objektif terhadap kebutuhan, kemampuan, dan efektivitas penggunaan teknologi.