برنده جایزه مغز و استاد علوم اعصاب دانشگاه نیویورک در گفتوگو با آناتک:
وکیل آمریکایی بهدلیل استناد به شاهدان خیالی ساختهشده با چتجیپیتی مجازات شد
به گزارش خبرگزاری آنا؛ استیون آرونز، وکیل مدافع کیفری با بیش از ۴۰ سال سابقه، برای اعتراض به محکومیت اسکار رنه ساندووال در یک پرونده قتل استخدام شده بود. او در مرداد ۱۴۰۴ لایحهای به دیوان عالی نیومکزیکو ارائه کرد که بعداً مشخص شد شامل نقلقولهایی از افرادی است که اصلاً در دادگاه شهادت نداده بودند و حتی چند نفر از آنها وجود خارجی نداشتند. آرونز در جلسه رسیدگی پذیرفت که متن صورتجلسه محاکمه و مجموعهای از اسناد پرونده را در اختیار چتجیپیتی قرار داده و سپس بدون بررسی کامل، خلاصه و استدلال تولیدشده را وارد لایحه کرده است.
چتجیپیتی برای پرونده شاهد و شهادت ساخت
اشتباه فقط به یک نام یا نقلقول محدود نبود. در لایحه، از افرادی با نامهای «میشل آماریلو»، «سانچز»، «منال الجیبوری» و «ترزا مارکز» بهعنوان شاهد یاد شده بود، درحالیکه دادگاه اعلام کرد این افراد در پرونده وجود نداشتند. متن همچنین برای چند شاهد واقعی شهادتهایی ساخت که هرگز بیان نشده بودند؛ از جمله ادعاهایی درباره تهدید شدن یک فرد و توضیحاتی درباره لباس و ظاهر فرد تیرانداز. بعضی آرای قضایی واقعی نیز در لایحه بهگونهای توصیف شده بودند که با محتوای اصلی آنها تطابق نداشت.
آرونز گفته بود ابتدا فایل صوتی محاکمه را با سرویس Rev به متن تبدیل کرده و سپس صورتجلسه، اسناد پرونده، موضوعات مورد اعتراض و بخشی از مدارک کشفشده را وارد چتجیپیتی کرده است. به گفته او، نسخهای از این سرویس که بر پایه مدل o۳ اوپنایآی کار میکرد خلاصهای تولید کرد و او تصور کرده بود خروجی کاملاً قابل اتکا است. مشکل اصلی از نگاه دادگاه دقیقاً همینجا بود؛ وکیل پذیرفت که پیش از امضا و ثبت لایحه، ادعاهای واقعی و استنادهای حقوقی تولیدشده توسط هوش مصنوعی را با اسناد پرونده تطبیق نداده است.
نمیدانستم هوش مصنوعی میتواند واقعیت جعل کند
آرونز در دفاع از خود گفته است زمانی که لایحه را تهیه میکرد، نمیدانست مدلهای هوش مصنوعی ممکن است اطلاعات و واقعیتهای ساختگی تولید کنند. او بعداً در بیانیهای گفت تازه پس از این پرونده متوجه شده هوش مصنوعی میتواند جزئیاتی بسازد که ظاهری معتبر دارند، اما اساساً واقعی نیستند و اشتباه خود را درسی برای همه متخصصانی دانست که به این فناوری تکیه میکنند.
قضات این توضیح را نپذیرفتند. قاضی سی. شانون بیکن در جلسه رسیدگی به او گفت مسئله توهمزایی مدلهای هوش مصنوعی مدتهاست بهصورت گسترده مطرح شده و ناآگاهی از آن نمیتواند مسئولیت حرفهای وکیل را از بین ببرد. او تأکید کرد فرقی ندارد متن را یک مدل هوش مصنوعی نوشته باشد، یک دانشجوی حقوق یا یک همکار؛ وکیلی که سند را امضا و به دادگاه ارائه میکند شخصاً مسئول صحت اطلاعات آن است.
دادگاه گفت موکل بیش از خود وکیل آسیب دیده است
بخش مهمی از انتقاد قضات به پیامد این اشتباه برای موکل آرونز مربوط بود. اسکار رنه ساندووال در سال ۲۰۲۵ به جرم قتل شریک زندگی و مادر فرزندانش به حبس ابد محکوم شده بود و لایحه مورد بحث بخشی از روند تجدیدنظر او محسوب میشد. با بیاعتبار شدن متن، دادگاه تمام لوایح قبلی را از پرونده کنار گذاشت و دستور داد دفتر مدافع عمومی وکیل تازهای برای او تعیین کند تا روند رسیدگی از نو ادامه پیدا کند.
قاضی بیکن به آرونز گفت نگرانی اصلی دادگاه خود او نیست، بلکه متهمی است که همچنان در بازداشت باقی میماند و روند رسیدگی به پروندهاش بهدلیل این اشتباه به تأخیر افتاده است. رئیس دیوان عالی نیز تأکید کرد بحثهای کلی درباره سیاستگذاری هوش مصنوعی مسئله اصلی پرونده نیست و آنچه اهمیت دارد آسیبی است که یک لایحه غیرقابل اعتماد به حقوق یک متهم وارد کرده است.
وکیل حتی ماجرا را کامل به موکل خود نگفته بود
آرونز همچنین پذیرفت که پیش از جلسه رسیدگی، جزئیات کامل اتفاق را به موکل خود نگفته بود. او توضیح داد ساندووال اسپانیاییزبان است و هنوز درباره استفاده از چتجیپیتی و جعل اطلاعات در لایحه با او صحبت نکرده است. خانواده متهم فقط میدانستند مشکلی در لایحه اولیه وجود دارد و آرونز به آنها نگفته بود که بخشی از متن با هوش مصنوعی تهیه شده و شامل شهادتهای ساختگی بوده است.
این مسئله نیز با انتقاد دادگاه روبهرو شد، زیرا از نگاه قضات، موکل باید از میزان خطا و خطر ایجادشده برای پرونده خود مطلع میشد تا بتواند درباره ادامه همکاری با وکیل تصمیم بگیرد. آرونز گفته بود خانواده متهم او را بهصورت خصوصی استخدام کردهاند، هرچند هنوز دستمزدی دریافت نکرده است.
جریمه ۵ هزار دلاری ممکن است پایان ماجرا نباشد
دیوان عالی نیومکزیکو آرونز را به پرداخت ۵ هزار دلار به صندوق حمایت از موکلان کانون وکلای ایالت محکوم کرده و تا پایان بررسیهای انضباطی، حضور او در این دادگاه را ممنوع کرده است. پرونده نیز برای تصمیمگیری درباره مجازاتهای احتمالی بیشتر به هیئت انضباطی ارجاع شده و ممکن است محدودیتهای حرفهای دیگری نیز برای او در نظر گرفته شود.
قضات در عین حال اصل استفاده از هوش مصنوعی در کار حقوقی را ممنوع ندانستهاند. یکی از آنها تصریح کرده است وکیل میتواند برای نوشتن یا تحلیل حقوقی از چنین ابزارهایی کمک بگیرد، اما مسئولیت بررسی نهایی هر ادعا، نقلقول و استناد همچنان بر عهده خود اوست. این پرونده بیش از آنکه درباره ممنوعیت چتجیپیتی باشد، نمونهای روشن از خطری است که سپردن بررسی واقعیتها به یک مدل مولد و امضای خروجی آن بدون راستیآزمایی میتواند در یک پرونده واقعی ایجاد کند.
انتهای پیام/
