Dimiscart Gallery – Seorang pengacara di California, Amir Mostafavi, dijatuhi denda sebesar 10.000 dolar AS atau sekitar Rp166 juta oleh pengadilan. Hukuman ini dijatuhkan setelah diketahui bahwa ia menyertakan kutipan palsu dalam dokumen hukum yang diajukan ke pengadilan banding. Kasus ini menjadi perhatian luas karena menyoroti risiko penggunaan kecerdasan buatan (AI), khususnya ChatGPT, dalam praktik hukum tanpa verifikasi yang memadai.
“Baca Juga: Huawei Luncurkan Chip AI Lokal Setelah Larangan Nvidia di China”
21 dari 23 Kutipan Hukum yang Diajukan Ternyata Fiktif
Mostafavi mengajukan banding atas sebuah perkara pada Juli 2023. Dalam dokumen banding tersebut, ia menyisipkan 23 kutipan hukum sebagai dasar argumen. Namun setelah dilakukan pemeriksaan oleh pengadilan, ditemukan bahwa 21 kutipan di antaranya tidak pernah ada secara hukum dan merupakan hasil dari “halusinasi” ChatGPT.
Mostafavi mengklaim bahwa ia menggunakan ChatGPT hanya untuk menyempurnakan narasi dan format penulisan dokumen. Sayangnya, ia tidak melakukan verifikasi terhadap sumber-sumber hukum yang dicantumkan. Tindakan ini dinilai sebagai bentuk kelalaian serius oleh tiga hakim yang memeriksa kasus tersebut. Akibatnya, ia menerima sanksi denda dalam jumlah besar sebagai bentuk peringatan keras terhadap praktik sembrono dalam penggunaan AI.
Denda Tertinggi di California untuk Pelanggaran Terkait AI
Hukuman terhadap Mostafavi tercatat sebagai salah satu denda tertinggi yang pernah dijatuhkan pengadilan negara bagian California kepada seorang pengacara karena penyalahgunaan teknologi. Damien Charlotin, dosen dan peneliti di bidang hukum dan AI dari Paris, menyebut hukuman ini sebagai momen penting dalam penegakan etika digital di dunia hukum.
Menurut Charlotin, model AI seperti ChatGPT berisiko tinggi menghasilkan informasi fiktif terutama ketika diminta memberikan argumen hukum kompleks. Sistem AI saat ini tidak memiliki kemampuan verifikasi internal, dan sering kali memberikan jawaban yang terdengar meyakinkan namun tidak berdasar. Hal ini menjadikan penggunanya—terutama profesional hukum—harus bertanggung jawab penuh atas setiap kutipan yang digunakan.
Fenomena AI “Halu” Jadi Ancaman Global Bagi Dunia Hukum
Fenomena “halusinasi AI” atau output fiktif dari model bahasa besar bukan hanya terjadi di Amerika Serikat. Penelitian yang dipimpin oleh Jenny Wondracek mengungkapkan bahwa lebih dari 600 kasus di berbagai negara melibatkan kutipan hukum palsu akibat penggunaan AI, termasuk di Australia, Kanada, dan Inggris.
Wondracek menyebutkan bahwa sebagian besar pengacara belum memiliki pemahaman memadai tentang cara kerja AI, termasuk keterbatasannya dalam validasi fakta hukum. Ia merekomendasikan serangkaian langkah strategis seperti pelatihan etika teknologi untuk pengacara aktif, pembekalan mahasiswa hukum dengan literasi digital, serta pertimbangan regulasi terhadap penggunaan AI dalam sistem peradilan.
Mostafavi Akui Kesalahan dan Berharap Bisa Jadi Peringatan
Meski dikenakan sanksi berat, Mostafavi menyampaikan penyesalannya dan berharap kasus ini bisa menjadi pelajaran bagi pengacara lain. Ia mengakui bahwa AI dapat menjadi alat bantu yang berguna, tetapi penggunaannya harus disertai tanggung jawab profesional dan verifikasi menyeluruh.
“Teknologi akan terus berkembang, tapi kita harus belajar dari kesalahan ini. Semoga orang lain tidak terjebak dalam lubang yang sama,” ujar Mostafavi dalam pernyataannya.
“Baca Juga: Song Da Eun Pernah Pacaran dengan Jimin, Kini Sudah Putus”
Regulasi dan Literasi Teknologi Jadi Kunci Penggunaan AI yang Aman
Kasus Amir Mostafavi menjadi peringatan serius bahwa penggunaan AI tanpa pemahaman dan verifikasi dapat membawa konsekuensi hukum. Di tengah pesatnya adopsi AI di berbagai sektor, dunia hukum dituntut untuk cepat beradaptasi sekaligus menjaga standar etikanya. Regulasi yang lebih jelas, pelatihan teknologi, dan peningkatan literasi digital menjadi kebutuhan mendesak agar AI benar-benar menjadi alat bantu, bukan ancaman bagi integritas hukum.
Leave a Reply