نفوذ پژوهشگران به زیرساخت های اوپن ای آی با بهره گیری از مدل های هوش مصنوعی

شرکت OpenAI یکی از پیشگامان اصلی در عرصه هوش مصنوعی پیشرفته است که با ارائه مدل‌های زبانی مانند ChatGPT و ابزارهای توسعه کد نظیر Codex، ساختار تعامل انسان با فناوری را دگرگون کرده است. با پدیدار شدن «عامل‌های هوش مصنوعی» (AI Agents) که توانایی اجرای مستقل دستورات و ناوبری در وب را دارند، مرزهای استفاده از هوش مصنوعی فراتر از یک چت‌بات ساده رفته است. اما این جهش فناوری، چالش‌ها و چشم‌اندازهای امنیتی جدیدی نیز به همراه داشته است؛ چرا که امکان بهره‌برداری از این ابزارها برای اهداف تهاجمی مانند هک و تست نفوذ نیز افزایش یافته است.

 

در ماه‌های اخیر، تمرکز برنامه‌نویسان و پژوهشگران بر سنجش میزان توانایی هوش مصنوعی در شناسایی و استثمار آسیب‌پذیری‌های امنیتی قرار گرفته است. جالب اینجاست که شرکت‌هایی مانند OpenAI خود ارائه‌دهنده راهکارهای هوش مصنوعی هستند، اما به دلیل پیچیدگی زیرساخت‌های چندلایه و ارتباط میان‌سرویسی (Integration) با ابزارهای مختلف، همچنان ممکن است در برابر سناریوهای تهاجمی ترکیبی آسیب‌پذیر باشند. رویدادهای اخیر نشان می‌دهند که خطاهای امنیتی کوچک در پلتفرم‌های جانبی یک سازمان می‌توانند راه‌اندازی زنجیره‌ای از حملات نفوذ را میسر سازند.

 

در یک مانور امنیتی بی‌سابقه، سه پژوهشگر حوزه امنیت سایبری موفق شدند با به‌کارگیری مدل‌های هوش مصنوعی پیشرفته Claude (توسعه‌یافته توسط شرکت آنتروپیک)، به بخش‌هایی از سیستم‌های داخلی شرکت OpenAI دسترسی پیدا کنند. این نفوذ که از طریق بستر انجمن گفت‌وگوی رسمی این شرکت به آدرس community.openai.com صورت گرفت، تنها در مدت‌زمانی کوتاه‌تر از ۷۲ ساعت به سرانجام رسید. نکته حائز اهمیت این است که طبق گزارش پژوهشگران، پیشبردهای عملیاتی این حمله تنها با اتکا به قابلیت‌های تحلیلی و استدلال متوالی مدل قدرتمند «Opus 5» امکان‌پذیر شده است.

 

این رویداد دقیقاً زمانی رخ داد که اوپن ای آی ماه‌ها به عامل‌های هوش مصنوعی اجازه داده بود در محیط‌های واقعی اینترنت به فعالیت و کاوش بپردازند. در واقع، ابزاری که برای خودکارسازی فرآیندها طراحی شده بود، به نوبه خود در چارچوب یک آزمایش امنیتی علیه زیرساخت خود شرکت استفاده شد. تیم امنیتی Hacktron برای اجرای این پروژه، توانست دو آسیب‌پذیری مجزا را به یکدیگر زنجیره کند. آن‌ها از این طریق به حساب‌های ChatGPT و Codex متعلق به برخی از کارکنان OpenAI دست یافتند و در نهایت گام به مخازن کد خصوصی این شرکت در سرویس گیت‌هاب گذاشتند.

 

مکانیزم آسیب‌پذیری به سیستم اعتبارسنجی یکپارچه (Single Sign-On / OAuth) بازمی‌گشت. قابلیت «ورود با اکانت OpenAI» که در بستر انجمن گفت‌وگو استفاده می‌شد، به عنوان دروازه ورود عمل کرد. بر اساس بررسی‌ها، هر کاربر یا کارمندی که از این سیستم هویت‌سنجی استفاده کرده بود، پتانسیل قرار گرفتن در معرض این آسیب‌پذیری را داشت. از آنجا که حساب‌های کاربری در چنین محیط‌هایی معمولاً امکان اتصال به برنامه‌های کاربردی جانبی نظیر گیت‌هاب، اسلک و ایمیل را دارند و ابزارهایی مانند Codex و ChatGPT می‌توانند از طرف کاربر ایمیل ارسال کنند، این نفوذ از نظر تئوری می‌توانست سطح دسترسی گسترده‌ای به سایر سرویس‌های متصل نیز ایجاد کند.

 

پژوهشگران برای اثبات موفقیت‌آمیز بودن نفوذ خود (PoC) بدون ایجاد خطر برای داده‌های واقعی، از حساب کاربری یکی از مهندسان OpenAI در سرویس Codex استفاده کردند و یک درخواست تغییر کد بی‌خطر (Pull Request) در یکی از مخازن داخلی ایجاد نمودند. طبق اظهارات رسمی تیم Hacktron، در طول تمام مراحل این تست نفوذ اخلاقی، هیچ داده حساسی مشاهده، استخراج یا ذخیره نشده است و گزارش کلیه ثغور آسیب‌پذیری بلافاصله جهت ترمیم در اختیار OpenAI قرار گرفته است.