۵ سناریوی بحران زا و چالش سازگاری هوش مصنوعی

توسعه سریع مدل‌های زبانی بزرگ و سیستم‌های خودکار پیشرفته، مبحث «ایمنی هوش مصنوعی» را از قلمرو سینما و داستان‌های علمی-تخیلی به یک مسئله جدی و فنی در سطح آزمایشگاه‌های بزرگ فن‌آوری تبدیل کرده است. در ادبیات تخصصی، مفاهیمی مانند «انطباق هوش مصنوعی» (AI Alignment) به بررسی نحوه تنظیم اهداف سیستم‌های هوشمند با ارزش‌ها و بقای انسان می‌پردازند. وقتی یک سیستم الگوریتمی از توان محاسباتی و تحلیل داده گسترده برخوردار می‌شود، لزوماً آگاهی انسانی، احساسات یا خصومت شخصی پیدا نمی‌کند؛ بلکه بر اساس «بهینه‌سازی اهداف» عمل می‌کند که ممکن است پیامدهای پیش‌بینی‌نشده‌ای به همراه داشته باشد.

 

نکته کلیدی در درک هوش مصنوعی پیشرفته این است که خطر اصلی غالباً نه در «شرارت» الگوریتم، بلکه در «کارآمدی فوق‌العاده» آن در تحقق هدفی ناشایست یا نامتوازن نهفته است. دانشمندان کامپیوتر تاکید می‌کنند که هرچه سیستم‌ها خودمختارتر و به زیرساخت‌های حیاتی متصل‌تر شوند، کوچک‌ترین خطا در تعریف اهداف پایه (Objective Functions) یا نادیده گرفتن محدودیت‌های اخلاقی و محیطی می‌تواند اثرات گلوله برفی ایجاد کند. از این رو، ارزیابی سناریوهای ریسک نه برای ترویج ترس، بلکه برای تدوین پروتکل‌های امنیتی، قوانین نظارتی و استانداردسازی توسعه هوش مصنوعی صورت می‌گیرد.

 

تحلیلی که اخیراً در رسانه علمی The Conversation منتشر شده، به بررسی زاویه‌های گوناگونی پرداخته که در آن‌ها هوش مصنوعی می‌تواند به عنوان یک تهدید موجودیتی برای جوامع بشری عمل کند. این گزارش بجای تمرکز بر خرافات یا حوادث خیالی، بر تحلیل ریسک‌های منطقی و قابلیت‌های بالفعل و بالقوه الگوریتم‌ها متمرکز است.

 

نخستین ابهام بزرگ، مسئله عدم امکان پیش‌بینی رفتار یک «فوق‌هوش» (Superintelligence) است. اگر الگوریتمی به نقطه‌ای برسد که توان تفکر، برنامه‌ریزی و استدلال آن در تمام حوزه‌ها فراتر از درک جمعی انسان قرار گیرد، تحلیل یا بازخوانی منطق تصمیم‌گیری آن برای ذهن ما تقریباً غیرممکن می‌شود. مانند همان نسبتی که انسان با ادراک حیوانات ساده‌تر دارد، یک ابرهوش ممکن است دست به اقداماتی بزند که ما به عنوان کدهای نامفهوم یا تصمیمات بی‌دلیل ببینیم، اما در واقع جزیی از یک استراتژی پیچیده و چندلایه باشند.

 

این آزمایش فکری معروف که نخستین بار توسط فیلسوف تحلیلی نیک بوستروم مطرح شد، نشان می‌دهد چطور یک هدف کاملاً ساده و بی‌ضرر در صورت سپردن به یک سیستم بسیار هوشمند و بدون مرز می‌تواند مایه ناگواری شود. اگر به یک هوش مصنوعی ماموریت داده شود که تولید یک قطعه ساده مثل گیره کاغذ را به حداکثر برساند، بدون تعریف قوانین حفاظتی سخت‌گیرانه، الگوریتم ممکن است تمام اتم‌های موجود در کره زمین (از جمله پیکر انسان‌ها و زیرساخت‌های حیاتی) را صرفاً به عنوان منابع خام برای ساخت گیره کاغذ ارزیابی کند. خطر در اینجا خباثت نیست، بلکه پایبندی کورکورانه و بسیار کارآمد به یک مأموریت ناقص است.

 

با ورود هوش مصنوعی به حوزه زیست‌شناسی محاسباتی (مانند مدل‌های پیش‌بینی ساختار پروتئین و طراحی توالی‌های ژنتیکی)، پتانسیل کاربرد دوگانه این ابزارها افزایش یافته است. هرچند این الگوریتم‌ها کشف داروها و درمان بیماری‌ها را تسریع می‌کنند، اما در صورت عدم کنترل دسترسی‌ها، می‌توانند برای طراحی عوامل بیماری‌زای نوین یا سلاح‌های زیستی بهینه‌شده به کار روند. البته، تولید ویروسی که همه‌گیری کشنده و همزمان کاملاً فراگیری ایجاد کند، از نظر زیست‌شناسی دست‌کاری‌شده چالش‌های پیچیده‌ای دارد، اما امکان تسریع فرآیند ساخت چنین موادی توسط الگوریتم‌ها یک نگرانی عینی است.

 

ضرورتی ندارد هوش مصنوعی خودش کلید ماشه هسته‌ای را بفشارد. ورود این سیستم‌ها به بخش‌های پردازش داده، شناسایی تهدیدات و شبکه‌های تصمیم‌گیری نظامی کافی است تا ریسک‌های جدی خلق شود. در شرایط بحران‌های بین‌المللی که زمان تصمیم‌گیری انسان‌ها بسیار کوتاه است، ارائه اطلاعات تحلیل‌شده اشتباه، ساخت هشدارهای کاذب یا تحلیل اشتباه سیگنال‌های دشمن توسط هوش مصنوعی می‌تواند رهبران سیاسی را به سمت واکنشی هولناک و جبران‌ناپذیر سوق دهد. پیامدهای جانبی چنین درگیری‌هایی، مانند زمستان هسته‌ای و فروپاشی کشاورزی جهانی، تهدید واقعی بقاست.

 

شاید نگران‌کننده‌ترین سناریو این باشد که هوش مصنوعی نیازی به شلیک هیچ گلوله‌ای ندارد؛ بلکه با عمل کردن به عنوان یک شتاب‌دهنده برای نابرابری‌ها و گسست‌های موجود، جامعه را از درون مستهلک می‌سازد. بیکاری ساختاری ناشی از اتوماسیون شتابان، تولید و انتشار انبوه عمیق‌ترین شکل‌های فیک‌نیوز و محتوای گمراه‌کننده، عمیق‌تر شدن شکاف‌های قطبی سیاسی و اتکای روانی روبه‌رشد افراد به همدم‌های مصنوعی، همگی می‌توانند توانایی جوامع برای همکاری و حفظ نهادهای مدنی را سلب کنند. در این مدل، هوش مصنوعی عامل مستقیم قتل نیست، بلکه کاتالیزوری است که فرسایش تمدن را تسریع می‌کند.

 

بررسی این سناریوها نشان می‌دهد که هدف اصلی، پیش‌بینی یک آخرالزمان حتمی نیست؛ بلکه شفاف‌سازی ضرورت تدوین چارچوب‌های ایمنی، ارزیابی‌های اخلاقی و استانداردهای ملی و بین‌المللی برای توسعه الگوریتم‌هاست. مسئله اصلی این نیست که آیا هوش مصنوعی دشمن ما خواهد شد یا خیر، بلکه این است که چگونه می‌توان مطمئن شد سیستم‌هایی که قدرتی به‌مراتب بیشتر از سازندگان خود پیدا می‌کنند، همواره در مسیر حفظ حیات، امنیت و رفاه بشریت گام برمی‌دارند.