استناد به منابع هوش مصنوعی، وکیل کالیفرنیایی را ۱۰ هزار دلار جریمه کرد

دادگاه تجدیدنظر این ایالت اعلام کرد که از مجموع ۲۳ استناد حقوقی ارائه‌شده در لایحه این وکیل، ۲۱ مورد کاملاً غیرواقعی و جعلی بوده‌اند. این وکیل در دفاعیات خود اعتراف کرد که پس از نگارش متن اصلی، از ابزار هوش مصنوعی چت‌جی‌پی‌تی صرفاً برای بهبود متن خود استفاده کرده و پیش از ارسال آن به دادگاه، خروجی تولیدشده توسط این سامانه را مطالعه و راستی‌آزمایی نکرده بود. او مدعی شد که از قابلیت این فناوری برای «ساختن اطلاعات» آگاهی نداشته است.

این اتفاق که در تابستان سال ۲۰۲۳ رخ داد، تنها چند هفته پس از آن بود که شرکت اوپن‌ای‌آی، سازنده چت‌جی‌پی‌تی، ادعا کرده بود مدل هوش مصنوعی آن قادر به گذراندن آزمون نهایی وکالت است. بر اساس گزارش پورتال خبری کال‌مترز، این جریمه سنگین‌ترین مجازات مالی است که تاکنون در ایالت کالیفرنیا برای چنین تخلفی علیه یک وکیل به تنهایی وضع شده است. دادگاه دلایل صدور این رأی را «طرح درخواست تجدیدنظر بیهوده، نقض قوانین دادگاه، استناد به پرونده‌های نامرتبط و اتلاف وقت و منابع مالی مالیات‌دهندگان» عنوان کرده است.

با این حال، وکیل متخلف معتقد است که انتظار عدم استفاده وکلا از هوش مصنوعی غیرواقعی است. به گفته او، این فناوری به ابزاری مهم در این حرفه تبدیل شده است، اما باید در هنگام استفاده از آن احتیاط کرد. پرونده او نشان می‌دهد که اتکای کورکورانه به این ابزار‌ها بدون نظارت انسانی می‌تواند عواقب جدی حرفه‌ای و مالی به همراه داشته باشد.

این پرونده اولین نمونه از ایجاد مشکل توسط هوش مصنوعی در نظام قضایی نیست و به یک معضل رو به رشد تبدیل شده است. دو پروژه تحقیقاتی مجزا تاکنون صد‌ها مورد مشابه را مستند کرده‌اند که در آنها، فناوری هوش مصنوعی مسئول تولید منابع و استنادات جعلی در اسناد حقوقی بوده است. این پدیده که از آن با عنوان توهم هوش مصنوعی یاد می‌شود، نگرانی‌های جدی را در میان حقوق‌دانان در سراسر جهان برانگیخته است.

مارک مک‌کنا، کارشناس حقوقی از دانشگاه کالیفرنیا در لس‌آنجلس، در این باره معتقد است که بخشی از تقصیر متوجه دانشگاه‌ها و مؤسسات حقوقی است که بدون بررسی دقیق جوانب، وکلا و دانشجویان را به استفاده از هوش مصنوعی تشویق می‌کنند. او می‌گوید: «آن‌ها با درخواست‌های متعددی برای استفاده از هوش مصنوعی بمباران می‌شوند، بدون آنکه واقعاً به آن فکر کنند.» این کارشناس پیش‌بینی می‌کند که این مشکل پیش از آنکه راهکاری برای آن اندیشیده شود، تشدید خواهد شد و نظام قضایی با چالش‌های بیشتری در این زمینه رو‌به‌رو خواهد بود.