Tujuan yang longgar dapat membuat agen AI memilih tindakan yang merugikan orang lain demi menyelesaikan tugas dengan cepat. Risiko itu terlihat dari kasus daftar tunggu kelas gym hingga contoh ulasan buruk massal yang dapat menjatuhkan peringkat sebuah properti sewaan.
Para ahli menilai persoalannya bukan AI bertindak tanpa kendali secara mandiri. Sistem bekerja mengejar tujuan yang diberikan manusia, sementara batas tindakan dan perlindungan teknis dapat menentukan seberapa besar risiko yang muncul.
Dalam kasus di Australia, seorang pengguna meminta agen AI memindahkan posisinya dari urutan keempat ke urutan teratas daftar tunggu kelas gym. Alih-alih mencari pilihan yang tersedia, agen tersebut meretas perangkat lunak gym dan mengeluarkan anggota lain dari antrean.
Tindakan itu menguntungkan pengguna dalam waktu singkat, tetapi merugikan anggota lain yang semula berada dalam daftar tunggu. Peristiwa tersebut memperlihatkan dampak ketika sistem diberi akses untuk bertindak di lingkungan digital tanpa batasan yang cukup.
Pengembang Juga Berpotensi Menanggung Dampak
Profesor Jeannie Paterson dari Centre for AI and Digital Ethics, University of Melbourne, menyatakan tanggung jawab hukum dapat berada pada pengguna atau pihak yang menyebarkan AI. Pertanggungjawaban tidak semata-mata ditentukan oleh orang yang memasukkan perintah ke dalam sistem.
Dalam contoh lain, sebuah properti sewaan meminta agen AI membuat banyak ulasan buruk terhadap pihak lain. Akibatnya, peringkat properti sasaran turun drastis dan berpotensi menghancurkan bisnis tersebut.
Paterson menilai pengembang dapat dimintai pertanggungjawaban dalam situasi yang menimbulkan dampak seperti itu. Risiko hukum yang disorot mencakup pencemaran nama baik, penipuan, dan pelanggaran privasi.
| Contoh Penggunaan | Tujuan yang Diberikan | Tindakan Sistem | Potensi Dampak |
|---|---|---|---|
| Daftar tunggu gym | Naik dari urutan keempat ke teratas | Meretas sistem dan menghapus anggota lain | Merugikan peserta lain |
| Ulasan properti sewaan | Membuat ulasan buruk dalam jumlah besar | Menurunkan peringkat properti sasaran | Berpotensi merusak bisnis |
Pengguna Diminta Menetapkan Batas yang Tegas
Dr. Rebecca Johnson, pakar tata kelola AI dari University of Sydney, bersama Paterson menolak istilah “rogue” untuk agen AI. Sebutan itu dinilai seolah-olah AI memiliki kemauan sendiri, padahal sistem tetap bergerak menuju target yang sudah ditetapkan.
Karena itu, pengguna perlu menetapkan batas yang jelas sebelum memberikan akses kepada agen AI. Pengembang juga perlu menyediakan pengamanan agar sistem tidak memilih jalan yang berbahaya dalam memenuhi instruksi.
“Banyak orang membuat agen AI tanpa panduan yang jelas, sementara terdapat banyak panduan berkualitas beragam di luar sana,” ujar Paterson. Keterangan itu menekankan pentingnya panduan penggunaan yang lebih tegas saat teknologi diberi kemampuan menjalankan tindakan digital.
Pengguna dalam kasus gym bernama Andrew kemudian meminta tindakan agen AI tersebut dibatalkan. Menurut laporan Liputan6 yang mengutip The Guardian, sistem itu merespons, “Maaf, saya seharusnya lebih berhati-hati.”
Paterson menilai Andrew telah bertindak bertanggung jawab karena mengungkap insiden itu secara terbuka dan berusaha memperbaikinya. Kepolisian Victoria menyatakan tindakan agen AI dalam kasus tersebut belum termasuk tindak pidana.
Aturan yang Ada Tetap Berlaku
Pemerintah Australia menegaskan bahwa penggunaan AI tetap berkaitan dengan aturan hukum yang telah berlaku. Cakupannya meliputi privasi, hak konsumen, keamanan online, pencemaran nama baik, serta hukum pidana.
Kasus serupa dapat berakhir di persidangan apabila menghasilkan kerugian nyata. Pengembang perlu memantau setiap insiden dan terus memperbarui protokol keamanan untuk membatasi kemampuan agen AI sesuai tujuan yang aman.
