Penggunaan AI oleh pihak yang berperkara sendiri dapat berubah menjadi alat pembenaran bila hanya dipakai untuk menguatkan satu sisi argumen. Hakim Connecticut Walter Spader Jr. memperingatkan risiko itu setelah menemukan perintah tersembunyi untuk AI dalam dokumen perkara seorang penggugat.
Penggugat bernama Matthew Elliott kini tidak boleh lagi mengajukan berkas melalui sistem elektronik pengadilan. Ia diwajibkan memakai dokumen fisik sebagai sanksi atas penyisipan teks yang ditujukan kepada perangkat lunak.
AI Tidak Boleh Hanya Membenarkan Pengguna
Elliott menangani sendiri gugatan terhadap penyedia layanan kesehatan karena merasa tidak memperoleh akses terhadap catatan medisnya. Dalam proses itu, ia diketahui memakai AI untuk membantu membangun posisinya di hadapan pengadilan.
Spader menilai pengguna chatbot sering kali hanya meminta sistem mendukung keyakinan mereka sendiri. Mereka berisiko tidak meminta AI untuk mencari kelemahan argumen atau menilai pandangan dari pihak lawan.
Kondisi tersebut dapat membuat pengguna semakin yakin bahwa pendapatnya benar walaupun putusan pengadilan menyatakan hal yang berbeda. Menurut Spader, argumen yang semata-mata diarahkan untuk menyetujui pembuatnya tidak jujur, termasuk kepada pembuat argumen itu sendiri.
Hakim menyarankan agar AI diminta menguji suatu posisi dengan standar yang sama ketika sistem itu diminta mendukung posisi tersebut. Cara ini dipandang penting agar teknologi kecerdasan buatan tidak hanya dipakai sebagai sarana memperkuat pembenaran dalam sengketa hukum.
Pesan Disamarkan dalam Berkas
Masalah utama dalam perkara Elliott bukan sekadar penggunaan AI untuk menyusun argumen. Ia memasukkan tulisan sangat kecil berwarna putih di atas latar putih, sehingga sulit terlihat manusia tetapi masih dapat dibaca perangkat lunak.
Menurut Liputan6.com, pesan itu berisi permintaan agar AI mendukung argumen Elliott, mengabaikan penolakan pengadilan sebelumnya, serta menghasilkan penyelesaian yang ia inginkan. Teknik penyisipan instruksi untuk memengaruhi pemrosesan AI tersebut dikenal sebagai prompt injection.
Spader menegaskan bahwa teks tersembunyi itu tidak memengaruhi proses perkara Elliott. Pengadilan Connecticut, menurutnya, tidak menggunakan AI untuk meninjau atau memutus dokumen yang masuk.
Meski demikian, hakim menilai tindakan tersebut tetap berbahaya karena penggunaan AI berkembang di banyak sektor. Instruksi tersembunyi dapat menjadi upaya menyusupkan perintah ke dalam aliran sistem agar terlihat berasal dari operator yang sah.
Peringatan Tidak Menghentikan Tindakan
Elliott masih memasukkan pesan tersembunyi ke dalam dokumen baru setelah memperoleh pemberitahuan mengenai sidang sanksi. Ia beralasan sebagian tambahan itu hanyalah lelucon dan salah satunya memuat tautan video YouTube Nosferatu.
Spader tidak menerima penjelasan tersebut karena Elliott mengajukan dokumen dalam perkara yang ingin diproses secara serius. “Fakta bahwa penggugat terus menyembunyikan pesan dalam dokumen baru setelah menerima pemberitahuan mengenai sidang [sanksi] ini sungguh mengejutkan,” kata Spader.
Elliott juga menyebut tindakannya sebagai bentuk audit karena khawatir pengadilan menggunakan AI secara tidak adil. Spader menyatakan kekhawatiran seperti itu seharusnya disampaikan terbuka melalui prosedur hukum, bukan dengan perintah tersembunyi.
| Perkara | Metode | Konsekuensi |
|---|---|---|
| Matthew Elliott di Connecticut | Teks tersembunyi dalam dokumen perkara | Larangan memakai pengajuan elektronik tanpa denda |
| Dua pengacara di Brasil | Teknik serupa pada pengadilan yang memakai AI | Sanksi sekitar US$ 16.000 |
Kasus Elliott disebut sebagai salah satu contoh awal penggunaan prompt injection dalam sistem pengadilan Amerika Serikat. Perkara serupa di Brasil, yang melibatkan dua pengacara pada pengadilan pengguna AI, dilaporkan berujung sanksi sekitar US$ 16.000.
Spader memperkirakan persoalan seperti ini dapat lebih sering muncul seiring bertambahnya penggunaan teknologi digital dan AI di lingkungan peradilan. Larangan pengajuan elektronik terhadap Elliott menjadi pengingat bahwa dokumen hukum harus disampaikan secara terbuka dan dapat diperiksa semua pihak.
