Kecerdasan buatan (Artificial Intelligence/ AI) tidak lagi hadir sebagai wacana futuristik. Ia telah menjadi bagian dari kehidupan sehari-hari masyarakat modern. Mulai dari sistem rekomendasi di media sosial, verifikasi wajah di bandara, seleksi penerima bantuan sosial, hingga perangkat lunak pendukung keputusan di sektor kesehatan dan hukum. AI menjanjikan efisiensi, kecepatan, dan objektivitas. Namun, di balik janji tersebut, tersembunyi satu persoalan mendasar yang kini semakin sering diperdebatkan: siapa yang bertanggung jawab ketika AI melakukan kesalahan?

Pertanyaan ini menjadi relevan ketika keputusan yang dihasilkan AI berdampak langsung pada hak dan kepentingan manusia. Salah identifikasi wajah dapat berujung pada kriminalisasi orang yang tidak bersalah. Algoritma penilaian kredit dapat menutup akses pembiayaan secara diskriminatif. Sistem otomatisasi dapat menghasilkan rekomendasi medis atau hukum yang keliru. Dalam kondisi seperti itu, hukum dituntut hadir untuk memberikan perlindungan dan kepastian.

AI dan Kekosongan Subjek Hukum

Dalam kerangka hukum klasik, pertanggungjawaban selalu dilekatkan pada subjek hukum, yaitu manusia dan badan hukum. AI, secerdas apa pun, bukanlah subjek hukum. Ia tidak memiliki kehendak, kesadaran, maupun niat jahat (mens rea). Namun, AI dapat “bertindak” dan menghasilkan keputusan yang konsekuensinya nyata. Masalah menjadi semakin kompleks ketika AI modern berbasis machine learning. Sistem ini tidak hanya menjalankan perintah, tetapi belajar dari data dan mengembangkan pola keputusan sendiri. Bahkan pengembangnya sering kali tidak sepenuhnya memahami bagaimana sebuah output dihasilkan fenomena yang dikenal sebagai black box problem. Kondisi ini menyulitkan pembuktian kesalahan, baik dalam hukum perdata maupun pidana.

Menempatkan Tanggung Jawab: Manusia di Balik Mesin

Karena AI tidak dapat dimintai pertanggungjawaban secara langsung, maka hukum harus menoleh kepada manusia dan institusi di baliknya. Dalam literatur hukum, setidaknya terdapat tiga pihak yang berpotensi dimintai tanggung jawab.

Pertama, pengembang atau perancang sistem AI. Jika kesalahan AI bersumber dari cacat desain, bias data, atau kelalaian dalam proses pengujian, maka pengembang dapat dimintai pertanggungjawaban berdasarkan prinsip product liability. AI, dalam konteks ini, diperlakukan sebagai produk teknologi yang harus memenuhi standar keamanan dan kelayakan.

Kedua, pemilik atau penyedia sistem AI, seperti perusahaan teknologi atau instansi pemerintah. Pihak ini memiliki kewajiban untuk memastikan bahwa AI yang digunakan tidak melanggar hukum, tidak diskriminatif, serta memiliki mekanisme pengawasan manusia (human oversight). Kelalaian dalam pengawasan dapat membuka ruang tuntutan perdata, bahkan sanksi administratif......