دیوان عالی انگلستان و ولز اعلام کرده است وکلا باید مراقب سوءاستفاده از هوش مصنوعی در کارهای حقوقی‌شان باشند و اقدامات جدی‌تری برای جلوگیری از این موضوع انجام دهند. قاضی «ویکتوریا شارپ» در حکم خود که به ۲ پرونده جدید ارتباط دارد، نوشت ابزارهای تولید محتوا مانند ChatGPT نمی‌توانند تحقیقات حقوقی مطمئن انجام دهند.
طبق گزارش «Techcrunch»، او افزود: «این ابزارها ممکن است پاسخ‌هایی ظاهراً منسجم و قابل‌قبول ارائه دهند اما این پاسخ‌ها ممکن است کاملاً نادرست باشند.» قاضی شارپ تأکید کرد این موضوع به معنی منع استفاده از هوش مصنوعی در تحقیقات حقوقی نیست اما وکلا موظف‌اند قبل از آنکه در کارهای حرفه‌ای از این داده‌ها استفاده کنند، دقت آنها را از منابع معتبر بسنجند.
قاضی دیوان عالی اشاره کرد تعداد فزاینده پرونده‌هایی که وکلا در آنها باتکیه‌بر برخی نمایندگان پلتفرم‌های بزرگ هوش مصنوعی در آمریکا، به استنادهای جعلی ساخت هوش مصنوعی متوسل شده‌اند، نشان می‌دهد باید اقدامات بیشتری برای تضمین رعایت این دستورالعمل‌ها و التزام وکلا به انجام وظایفشان در دادگاه وجود دارد. این حکم به نهادهای حرفه‌ای مانند شورای وکلا و انجمن جامعه حقوقی نیز ارسال خواهد شد.
در یکی از این پرونده‌ها، وکیل کسی که علیه ۲ بانک ادعای خسارت کرده بود، در پرونده‌اش 45 استناد ارائه کرد که 18 مورد آنها اصلاً وجود خارجی نداشتند و بسیاری از دیگر استنادها نیز شامل نقل‌قول‌های نادرست یا نامرتبط بودند.
در پرونده دیگری، وکیلی که از موکل خود دفاع می‌کرد و او را از خانه‌اش در لندن اخراج کرده بودند، ۵ استناد ارائه کرد که به نظر نمی‌رسید وجود خارجی داشته باشند. این وکیل استفاده از هوش مصنوعی را رد کرد اما گفت احتمال دارد این استنادها از خلاصه‌های ساخت هوش مصنوعی در گوگل یا سافاری آمده باشند. قاضی شارپ گفت اگرچه دیوان عالی تصمیم گرفته علیه این وکلا اقدام قضایی نکند، این موضوع نباید رویه‌ای برای آینده در نظر گرفته شود.
قاضی اضافه کرد: «وکلا اگر در این زمینه به وظایف حرفه‌ای خود عمل نکنند، در معرض مجازات‌های سنگین قرار خواهند گرفت.»
هر ۲ وکیل درنهایت به مراجع نظارتی حرفه‌ای ارجاع داده شدند یا خود را معرفی کردند. قاضی شارپ اشاره کرد وقتی وکلا وظایف خود را در قبال دادگاه انجام ندهند، دادگاه می‌تواند از توبیخ علنی گرفته تا تحمیل هزینه، پیگرد قانونی یا حتی ارجاع به پلیس را در دستور کار قرار دهد.
