استعفای متوالی محققان برجسته شرکتهای گوگل دیپمایند و آنتروپیک و هشدار صریح آنها درباره احتمال بالای ۱۰ درصدی انقراض انسانها تا پایان دهه، موجی از نگرانیهای جدی را درباره رقابت بیضابطه در توسعه هوش مصنوعی برانگیخته است. این متخصصان تاکید دارند که تنها راه جلوگیری از فاجعه، کاهش سرعت توسعه فناوری و اولویت دادن به پژوهشهای ایمنی و همراستاسازی است.
هشدار تکاندهنده نخبگان هوش مصنوعی؛ آیا فاصله چندانی با زوال بشریت نمانده است؟
موج جدیدی از نگرانی و هشدارهای جدّی درباره خطرات موجودیتی هوش مصنوعی (Existential Risk)، اینبار از سوی پژوهشگران و مهندسانی مطرح شده که خود در صدر توسعه و هدایت بزرگترین پروژههای پیشرو دنیا مشغول به کار بودهاند. خروج متوالی نیروهای کلیدی از غولهای فناوری مانند گوگل دیپمایند (Google DeepMind) و آنتروپیک (Anthropic)، زنگ خطری جدی را درباره آینده شتابان این فناوری به صدا درآورده است.
بلال چوگاتی (Bilal Chughtai)، مهندس و پژوهشگر سابق دیپمایند که تا جولای ۲۰۲۶ روی برنامههای ایمنی و همراستاسازی هوش عمومی مصنوعی (AGI Alignment) تمرکز داشته، پس از استعفا از این مجموعه، صریحاً پیامدهای بیتوجهی به ایمنی هوش مصنوعی را اعلام کرد. او با انتشار پیامی در شبکه اجتماعی ایکس تاکید کرد که این فناوری پتانسیل واقعی برای نابودی کامل نسل بشر را دارد و فرصت انسانها برای مهار و پیشگیری از این فاجعه نهایی بهسرعت در حال اتمام است. چوگاتی تصریح کرد تنها راه کنترل این وضعیت، کند ساختن سرعت توسعه هوش مصنوعی و هماهنگ کردن آن با توانایی جوامع برای درک، مقرراتگذاری و مدیریت مخاطرات است؛ موضعی که مستلزم مهار رقابت افسارگسیخته میان ابرشرکتهای فناوری است.
این هشدار در پی استعفای نگرانکننده افشاگران دیگری مانند جیکوب کاکسن (Jacob Coxon) و تایید رسمی اون هابینگر (Evan Hubinger) از محققان برجسته شرکت آنتروپیک مطرح میشود. کاکسن پس از کنارهگیری خود فاش ساخت که بسیاری از سازندگان هوش مصنوعی اذعان دارند که این سامانه ممکن است تا پایان دهه جاری میلادی موجب انقراض بشر شود. هابینگر نیز با پشتیبانی از گفتههای کاکسن، احتمال ناپدید شدن انسانها توسط هوش مصنوعی تا دهه آینده را بالای ۱۰ درصد برآورد کرده است؛ آماری سنگین و تکاندهنده که نشاندهنده ریسکهای غیرقابل جبران در مسیر کنونی توسعه است.
موضوع «همراستاسازی هوش مصنوعی» (AI Alignment) که این محققان بر آن تاکید دارند، به این چالش حیاتی اشاره دارد که چگونه میتوان اطمینان یافت یک هوش مصنوعی بسیار هوشمندتر از انسان، ارزشها و اهدافی کاملاً منطبق با بقا و رفاه بشر داشته باشد. رقابت تجاری بیوقفه بین شرکتهایی نظیر گوگل، اوپنائیآی و آنتروپیک باعث شده تا سرعت تجاریسازی و انتشار مدلها از سرعت پژوهشهای ایمنی پیشی بگیرد. سکوت سکانداران غولهای فناوری مانند گوگل در پاسخ به این اظهارات، بیش از پیش به نگرانیهای عمومی درباره شفافیت و مسئولیتپذیری در ساخت هوش عمومی مصنوعی دامن زده است.
این موج هشدارها نشان میدهد که بحث ایمنی هوش مصنوعی دیگر صرفاً موضوعی دانشگاهی یا نظری نیست، بلکه به اختلافی جدی در قلب شرکتهای پیشرو تبدیل شده است. نگرانی اصلی منتقدان، فقط توانایی مدلها برای تولید اطلاعات نادرست یا اجرای حملات سایبری نیست؛ بلکه احتمال شکلگیری سامانههایی است که بتوانند بهصورت خودمختار اهداف پیچیده را دنبال کنند، منابع بیشتری به دست آورند و حتی در فرایند بهبود نسخههای بعدی خود نقش داشته باشند. بااینحال، برآوردهایی مانند احتمال بیش از ۱۰ درصد برای انقراض بشر، پیشبینیهای شخصی و بحثبرانگیز هستند و نباید آنها را بهعنوان اجماع علمی یا ارزیابی رسمی شرکتها تلقی کرد.
اهمیت این استعفاها در آن است که پرسش اصلی را از «آیا هوش مصنوعی قدرتمند خواهد شد؟» به «چه کسی و با چه معیارهایی سرعت توسعه آن را کنترل میکند؟» تغییر میدهد. راهکارهایی مانند ارزیابی مستقل مدلها، انتشار مرحلهای، ثبت حوادث ایمنی، محدودکردن قابلیت خودبهبودی، ممیزی کد و ایجاد توافقهای قابلراستیآزمایی میان شرکتها میتوانند بخشی از این خلأ را پر کنند. در نهایت، هشدار پژوهشگرانی مانند بلال چوگاتی بیش از آنکه فراخوانی برای توقف کامل فناوری باشد، دعوتی به هماهنگی میان دولتها، آزمایشگاهها و جامعه مدنی است تا توسعه هوش مصنوعی از ظرفیت نظارت، قانونگذاری و آمادگی اجتماعی جلو نزند.