به گزارش بی بدیل پرداز قاضی فدرال چهار وکیل آمریکایی را اخراج و جریمه کرد.
زلزله در دادگاه فدرال میسیسیپی؛ وقتی ابزار مدرن کار دست وکلا میدهد
فناوری هوش مصنوعی مولد اگرچه سرعت کارها را چند برابر کرده، اما اعتماد کورکورانه به آن در فضای حساس حقوقی میتواند به قیمت نابودی سابقه حرفهای یک وکیل تمام شود. در یکی از بیسابقهترین احکام انضباطی، یک قاضی فدرال در ایالت میسیسیپی آمریکا، تمامی چهار وکیل حاضر در یک پرونده مدنی را به دلیل استفاده ناشیانه از هوش مصنوعی، ارائه لوایح متکی بر پروندههای قضایی کاملاً ساختگی و فریب دادگاه، به سختی مجازات و از پرونده اخراج کرد؛ اقدامی که عملاً روند دادرسی این پرونده را به طور کامل متوقف و ابطال نمود.
این بحران قضایی که از یک اختلاف حقوقی ساده بر سر هزینههای وکالت در سال ۲۰۲۳ آغاز شده بود، با حکم قاطع قاضی «شارون ایکاک» به یک رسوایی بزرگ تبدیل شد. قاضی ایکاک در رای خود به صراحت اعلام کرد که این چهار وکیل با امضا و تایید لوایح حاوی اطلاعات دروغین، «قانون ۱۱ آیین دادرسی مدنی فدرال» را نقض کردهاند. طبق این قانون، وکلا موظفند پیش از ارائه هرگونه لایحه به دادگاه، از صحت، اصالت و مستند بودن تمام ادعاها و آرای ذکر شده در آن اطمینان حاصل کنند؛ تعهدی که در این پرونده فدای سرعت ابزارهای هوش مصنوعی شد.
نکته عجیب و کمنظیر این پرونده، آلوده بودن هر دو طرف دعوا به این تخلف بود. قاضی در حکم خود اشاره کرد دادگاه با سناریویی نادر مواجه شده که در آن، وکلای شاکی و خوانده، دقیقاً به رفتاری مشابه و مستوجب مجازات دست زدهاند. در پی این تخلف، دو تن از این وکلا به مدت دو سال از هرگونه فعالیت و حضور در دادگاه فدرال منطقه شمالی میسیسیپی محروم شدند. علاوه بر این، هر چهار نفر با جریمههای نقدی سنگین مواجه شده و به طور رسمی از این پرونده کنار گذاشته شدند. وکلای شاکی (کاتلین ام. ویلسون و شانسی هانتر ریجوی) و وکلای شهر آبردین (کاترین وای. ویلیامز و مارک مککلینتون) افرادی بودند که طعم این جریمه سنگین را چشیدند.
پدیده «توهم هوش مصنوعی» و سلب مسئولیت شرکتهای فناوری
یکی از وکلای پرونده (ویلسون) در دفاعیات خود اعتراف کرد که برای نگارش متن از نرمافزاری به نام First Drafts استفاده کرده و مدعی شد که اصلاً از پدیده «توهم هوش مصنوعی» (AI Hallucination) و امکان خلق پروندههای جعلی و خیالی توسط این چتباتها اطلاعی نداشته است. با این حال، شرکت توسعهدهنده این نرمافزار بلافاصله واکنش نشان داد و اعلام کرد ابزارهای آنها هرگز جایگزینی برای قضاوت حرفهای و نظارت انسانی نیستند و طبق قوانین استفاده، تمام خروجیها و رفرنسها باید توسط خود کاربر راستآزمایی شوند.
پدیده «توهم هوش مصنوعی» (AI Hallucination) یکی از بزرگترین چالشهای فنی در دنیای مدلهای زبانی بزرگ (LLM) است. به زبان ساده، توهم زمانی رخ میدهد که هوش مصنوعی با قاطعیت کامل، اطلاعاتی را تحویل شما میدهد که کاملاً ساختگی، اشتباه یا بدون منبع در دنیای واقعی هستند.
در ادامه به زبان ساده و فنی بررسی میکنیم که چرا این اتفاق میافتد و چرا ابزارهای هوش مصنوعی ترسی از «دروغ گفتن» ندارند.
۱. چرا هوش مصنوعی توهم میزند؟ (ریشههای فنی)
برای درک علت توهم، باید بدانیم که مدلهای زبانی بزرگ چطور کار میکنند. برخلاف تصور عموم، ابزارهایی مثل ChatGPT یا ابزارهای تخصصی حقوقی،
موتور جستجو یا بانک اطلاعاتی نیستند؛ آنها ماشینهای پیشبینی کلمات هستند.
- پیشبینی آماری کلمه بعدی: هوش مصنوعی بر اساس میلیاردها متنی که آموزش دیده، یاد گرفته است که بعد از کلمه «الف»، احتمال حضور کلمه «ب» چقدر است. او جملات را بر اساس «احتمال ریاضی» میسازد، نه بر اساس «حقیقت فیزیکی».
- تولید محتوای متقاعدکننده، نه لزوماً درست: هدف اصلی یک مدل زبانی، تولید متنی است که از نظر نگارشی روان، منطقی و شبیه به نوشتههای انسان باشد. برای مدل، «به نظر درست رسیدن» بسیار مهمتر از «واقعاً درست بودن» است.
- تکمیل الگوها (Pattern Completion): وقتی از یک مدل زبانی رفرنس حقوقی یا آدرس یک مقاله علمی را میخواهید، او شروع به ساختن کلماتی میکند که ظاهر یک رفرنس استاندارد را دارند (مثلاً نام قاضی، شماره پرونده، سال و نام دادگاه). از نظر ریاضی، این کلمات کنار هم ساختار درستی دارند، اما در دنیای واقعی چنین پروندهای ثبت نشده است.
۲. چرا ابزارهای حقوقی و نگارشی بیشتر مستعد توهم هستند؟
در پروندههای حقوقی (مانند موردی که پیشتر ذکر شد)، وکلا معمولاً با ابزارهایی مواجه میشوند که ساختار حقوقی بسیار دقیقی دارند. دلایل وقوع توهم در این سناریوها عبارتند از:
- طبیعت فرمولبندی شده متون حقوقی: متون قضایی و لوایح دارای الگوهای نوشتاری مشخص و تکراری هستند. هوش مصنوعی این الگوها را به بهترین شکل تقلید میکند. بنابراین، وقتی یک رفرنس جعلی میسازد، آن را چنان در کادوپیچِ اصطلاحات پیچیده حقوقی ارائه میدهد که تشخیص جعلی بودن آن بدون استعلام مستقیم غیرممکن است.
- جریمه نشدن برای دروغگویی در فاز آموزش: در فرآیند آموزش مدلها (Pre-training)، خلاقیت و روان بودن متن تحسین میشود. مدلها درک درخواستی از مفهوم "اخلاق" یا "حقیقت قانونی" ندارند و فقط تلاش میکنند پاسخ کاربر را بدون خالی گذاشتن صفحه تحویل دهند.
چطور میتوان جلوی توهم هوش مصنوعی را گرفت؟
مهندسان هوش مصنوعی در سالهای اخیر روشهای مؤثری برای مهار این پدیده ابداع کردهاند که مهمترین آنها RAG یا Retrieval-Augmented Generation است.
تکنیک RAG چیست؟ در این روش، قبل از اینکه هوش مصنوعی به سوال کاربر پاسخ دهد، سیستم ابتدا سوال را در یک پایگاه داده معتبر و واقعی (مثلاً بانک تمام قوانین دادگستری) جستجو میکند. سپس مستندات واقعی را پیدا کرده و به چتبات میدهد و میگوید: «فقط و فقط با تکیه بر این مستندات واقعی پاسخ کاربر را بنویس و از خودت چیزی اضافه نکن.»
تکرار یک اشتباه مرگبار؛ درس عبرتی که وکلا یاد نمیگیرند
این اولین بار نیست که وکلا در تله توهمات هوش مصنوعی میافتند. پیش از این نیز در پرونده معروف Mata v. Avianca در نیویورک، وکلایی که از چتبات ChatGPT برای نوشتن لایحه استفاده کرده بودند، به دلیل ارائه آرای قضایی جعلی که وجود خارجی نداشتند، توسط قاضی جریمه شدند.
قاضی ایکاک در بخش پایانی حکم خود، رفتار یکی از وکلا (ویلیامز) را به دلیل اعتماد کورکورانه و بدون بررسی به ماشین، به عنوان رهبر و شریک یک شرکت حقوقی، به شدت ناپسند و غیرمسئولانه توصیف کرد. این پرونده بار دیگر ثابت کرد که هوش مصنوعی چاقویی دو لبه است؛ ابزاری کمکی که اگر بدون نظارت کارشناسانه رها شود، میتواند به راحتی صندلی وکالت را از زیر پای حرفهایترین افراد بکشد.
منبع: bibadil.org