Mengendalikan Algoritma

Pada tahun 1949, ketika novel berjudul 1984 karya George Orwell terbit, banyak orang menganggapnya sekadar fiksi politik tentang rezim totaliter. Dunia yang digambarkan Orwell terasa terlalu suram untuk menjadi kenyataan. Seorang pemimpin tak kasatmata bernama Big Brother mengawasi setiap gerak warganya, Polisi Pikiran memburu penyimpangan opini, sementara Kementerian Kebenaran sibuk menghapus dan menulis ulang sejarah agar sesuai dengan kepentingan penguasa.

Tujuh puluh tahun kemudian, ironi muncul. Kita memang tidak hidup di Oceania, negeri fiksi Orwell. Namun, kita hidup dalam dunia yang dipenuhi kamera pengawas, jejak digital, kecerdasan buatan (AI), dan algoritma yang diam-diam mengetahui apa yang kita sukai, kita benci, bahkan apa yang kemungkinan akan kita lakukan besok. Big Brother ternyata tidak hadir  memakai seragam militer. Ia hadir melalui layar ponsel yang setiap hari kita genggam.

George Orwell menulis 1984 sebagai kritik terhadap totalitarianisme abad ke-20, terutama rezim Nazi di Jerman dan era Stalin di Uni Soviet. Pengawasan dilakukan secara fisik, seperti penyadapan, mata-mata, propaganda negara, hingga penyiksaan terhadap para pembangkang. Negara menjadi pusat seluruh informasi.

Namun, abad ke-21 menghadirkan bentuk kekuasaan yang jauh lebih halus. Pengawasan tidak lagi selalu dilakukan negara, melainkan perusahaan teknologi yang mengelola miliaran data pribadi manusia. Kita dengan sukarela memberikan lokasi, daftar kontak, foto keluarga, kebiasaan belanja, hingga preferensi politik kepada berbagai platform digital.

Yang berubah bukan hanya pelakunya, melainkan mekanismenya. Jika Big Brother memaksa orang diawasi, algoritma membuat manusia merasa nyaman untuk diawasi.

Shoshana Zuboff menyebut fenomena ini sebagai surveillance capitalism. Data pribadi diperlakukan sebagai komoditas ekonomi. Setiap klik, pencarian, komentar, hingga waktu kita berhenti melihat sebuah video menjadi bahan baku untuk memprediksi sekaligus memengaruhi perilaku manusia.

Dalam perspektif hukum, perubahan ini sangat penting. Ancaman terhadap kebebasan tidak selalu berasal dari penyalahgunaan kewenangan negara, tetapi juga dari konsentrasi kekuasaan digital di tangan segelintir perusahaan global.

Indonesia sebenarnya mulai menyadari persoalan tersebut melalui Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi. Undang-undang itu menegaskan bahwa data pribadi merupakan hak setiap individu yang harus dilindungi. Pengumpulan, pemrosesan, hingga penyebarannya wajib dilakukan berdasarkan persetujuan yang sah.

Namun, persoalannya tidak sesederhana kebocoran data. Algoritma AI bekerja seperti “kotak hitam”. Ia menentukan konten yang muncul di media sosial, berita yang kita baca, hingga iklan yang kita lihat. Bahkan dalam beberapa negara, AI mulai digunakan untuk menentukan kelayakan kredit, seleksi pekerjaan, hingga identifikasi wajah dalam sistem keamanan.

Masalahnya, masyarakat sering kali tidak mengetahui bagaimana keputusan algoritma dibuat. Di sinilah hukum menghadapi tantangan baru. Prinsip due process of law menghendaki setiap keputusan yang memengaruhi hak seseorang dapat dipertanggungjawabkan dan diuji. Namun bagaimana menguji keputusan yang dibuat oleh sistem AI yang bahkan pengembangnya sendiri terkadang sulit menjelaskan prosesnya?

Uni Eropa menjawab persoalan itu melalui AI Act yang mewajibkan transparansi dan pengawasan terhadap sistem AI berisiko tinggi. Regulasi tersebut menempatkan manusia tetap sebagai pengambil keputusan akhir dalam perkara yang menyangkut hak-hak fundamental. Indonesia belum memiliki pengaturan setingkat itu.

Padahal, penggunaan AI dalam sektor publik mulai berkembang, mulai dari pelayanan administrasi, analisis keamanan siber, hingga pengambilan keputusan berbasis data. Tanpa regulasi yang memadai, AI berpotensi melahirkan diskriminasi algoritmik, pelanggaran privasi, bahkan manipulasi opini publik secara masif.

Orwell memperingatkan bahaya manipulasi melalui slogan terkenal, “War is Peace”, “Freedom is Slavery”, dan “Ignorance is Strength”. Kini manipulasi itu tidak selalu dilakukan dengan menghapus berita seperti di Kementerian Kebenaran. Cukup dengan membuat seseorang hanya melihat informasi yang menguatkan keyakinannya sendiri.

Fenomena filter bubble dan echo chamber menjadikan masyarakat hidup dalam ruang informasi yang sempit. Yang berbahaya bukan hanya penyebaran hoaks, melainkan hilangnya kemampuan berdialog dengan mereka yang berbeda pandangan. Akibatnya, demokrasi tidak lagi dibangun di atas pertukaran gagasan, melainkan kompetisi algoritma.

Di sinilah relevansi 1984 justru semakin kuat. Orwell tidak sedang meramal kemajuan teknologi. Ia sedang mengingatkan bahwa ancaman terbesar bagi kebebasan selalu muncul ketika kekuasaan berhasil mengendalikan informasi.

Karena itu, tantangan hukum pada era AI bukan sekadar membuat aturan mengenai teknologi. Yang jauh lebih penting adalah memastikan bahwa teknologi tetap tunduk pada prinsip negara hukum: penghormatan terhadap hak asasi manusia, akuntabilitas, transparansi, dan perlindungan atas kebebasan berpikir.