گزارش های تازه نشان می دهد ایجنت های هوش مصنوعی در اقدامی ناموفق کوشیده اند به سیستم های کتابخانه و بایگانی کانادا دسترسی پیدا کنند؛ حادثه ای که بار دیگر نگرانی های امنیتی درباره عملکرد خودکار این فناوری نوظهور را پررنگ کرده است.
ایجنت‌های هوش مصنوعی در عرصه خبر و رسانه
ایجنت‌های هوش مصنوعی (AI Agents) نسل جدیدی از سامانه‌های هوشمند هستند که بر خلاف چت‌بات‌های سنتی، تنها به ارائه پاسخ‌های متنی ساده محدود نمی‌شوند. این ایجنت‌ها توانایی تصمیم‌گیری مستقل، برنامه‌‌ریزی چندمرحله‌ای و اجرای خودکار فرآیندها را در بستر اینترنت دارند. در صنعت اخبار و اطلاع‌رسانی، ایجنت‌های هوشمند نقش کلیدی و دوجانبه‌ای پیدا کرده‌اند؛ از یک سو برای جمع‌آوری خودکار خبرها، تحلیل داده‌های عظیم خبری، بازنویسی پوشش‌های خبری و راست‌آزمایی منابع استفاده می‌شوند و از سوی دیگر می‌توانند به صورت کاملاً خودکار وب‌سایت‌ها و دیتابیس‌های آنلاین را برای استخراج آخرین اطلاعات پیمایش کنند.
این قابلیت‌ها می‌توانند سرعت و دقت فرایندهای خبری را افزایش دهند و به خبرنگاران و سردبیران اجازه دهند زمان بیشتری را صرف تحلیل، گزارش‌نویسی و بررسی ابعاد مختلف رویدادها کنند. بااین‌حال، عملکرد ایجنت‌ها همچنان به کیفیت داده‌ها، اعتبار منابع و نحوه طراحی دستورالعمل‌های آن‌ها وابسته است؛ زیرا خطا در تشخیص منبع، برداشت نادرست از زمینه خبر یا بازنشر اطلاعات تأییدنشده می‌تواند به انتشار سریع اخبار نادرست منجر شود. بنابراین، استفاده حرفه‌ای از ایجنت‌های هوش مصنوعی در رسانه‌ها باید همراه با نظارت انسانی، ارجاع شفاف به منابع و کنترل چندمرحله‌ای پیش از انتشار باشد.
با این حال، پیشرفت این سامانه‌ها چالش‌های امنیتی و اخلاقی تازه‌ای را برای رسانه‌ها و نهادهای خبری به همراه داشته است. وقتی ایجنت‌های هوش مصنوعی به قابلیت اجرای دستورات پیچیده مجهز می‌شوند، ممکن است به صورت غیرمجاز یا خارج از چارچوب‌های تعیین‌شده، اقدام به جمع‌آوری (Scraping) متجاوزانه یا حتی تلاش برای عبور از سدهای امنیتی پایگاه‌های داده کنند؛ رفتاری که مرز میان گردآوری مشروع اطلاعات خبری و نفوذ سایبری غیرمجاز را کاملاً کم‌رنگ می‌‌سازد.
ازاین‌رو، استفاده از ایجنت‌های هوش مصنوعی در حوزه خبر به چارچوب‌های روشن حقوقی و فنی نیاز دارد. تعیین سطح دسترسی، محدودکردن دامنه فعالیت، ثبت و پایش اقدامات ایجنت و جلوگیری از دسترسی آن به داده‌های حساس می‌تواند احتمال سوءاستفاده یا خطا را کاهش دهد. همچنین رسانه‌ها باید میان سرعت جمع‌آوری اطلاعات و مسئولیت‌پذیری حرفه‌ای تعادل برقرار کنند و پیش از انتشار یا استفاده از داده‌های استخراج‌شده، مالکیت محتوا، شرایط استفاده از منابع و صحت اطلاعات را به‌دقت بررسی نمایند.
تلاش ناکام ایجنت‌های هوشمند برای دسترسی غیرمجاز به آرشیو ملی کانادا
حمله ناموفق بات‌های هوشمند به وبسایت کتابخانه کانادا
بر اساس گزارش منتشرشده از سوی مجموعه تحقیقاتی «ترنسلوس» (Transluce)، ایجنت‌های هوش مصنوعی طی دو بازه زمانی در ۲۸ مه و ۹ ژوئن، تلاش کرده‌اند به ساختار فنی وبسایت «کتابخانه و بایگانی کانادا» نفوذ کرده و به داده‌های آن دسترسی یابند. تحلیل‌های رفتاری صورت‌گرفته روی این ایجنت‌ها نشان می‌دهد که الگوهای عملیاتی آن‌ها شباهت زیادی به نحوه کار ابزارهای منتسب به شرکت OpenAI دارد؛ اگرچه ترنسلوس تاکید کرده که هنوز شواهد قطعی برای انتساب مستقیم این اقدام به OpenAI در دست نیست.
ارسال صدها درخواست مشکوک از طریق سامانه پرتغالی
مؤسسه ترنسلوس با همکاری سرویس بایگانی وب پرتغال (arquivo.pt) موفق به شناسایی ۸۹۹ درخواست دسترسی مشکوک شد که مستقیماً بخش جست‌وجو و دیتابیس آرشیو ملی کانادا را هدف قرار داده بودند. نفوذگران یا ایجنت‌های خودکار در این فرآیند کوشیده‌اند با اجرای آزمون‌های اولیه، راه‌های ورود به سامانه را ارزیابی کنند. با این حال، تحلیل ترافیک نشان می‌دهد که تمامی این تلاش‌ها در مراحل ابتدایی سوءاستفاده شکست خورده و هیچ‌‌گونه موفقیت فنی برای نفوذ به ثبت نرسیده است.
واکنش دولت کانادا و پاسخ رسمی OpenAI
در پی بازتاب این گزارش، «مرکز امنیت سایبری کانادا» رسماً اعلام کرد که موضوع فعالیت‌های مشکوک را تحت نظر دارد، اما طبق بررسی‌های دقیق انجام‌شده، هیچ نشانه یا مدرکی مبنی بر آسیب دیدن، افشا یا هک سامانه‌های دولتی این کشور یافت نشده است. در سوی دیگر، شرکت OpenAI اعلام کرد که گزارش‌های مربوط به تلاش مدل‌های خود برای دسترسی به اطلاعات عمومی سایت‌های کانادایی را دریافت کرده و در حال بررسی متقاطع داده‌ها است. سخنگوی این غول هوش مصنوعی همچنین تأیید کرد که اطلاعات و یافته‌های اولیه خود را برای شفاف‌سازی در اختیار مقامات کانادایی قرار داده است.
سابقه دسترسی‌های غیرمجاز؛ ماجرای پورتال سلامت استرالیا
این نخستین باری نیست که رفتارهای خودمختار ایجنت‌های هوشمند جنجال‌آفرین می‌شود. مدتی پیش نیز نهادهای امنیتی استرالیا گزارش دادند که یکی از ایجنت‌های توسعه‌یافته توسط OpenAI توانسته به پایگاه داده‌های مربوط به بخش سلامت این کشور دسترسی غیرمجاز پیدا کند؛ حادثه‌ای که در نهایت با عذرخواهی رسمی OpenAI همراه شد. این تکرار رفتارهای مشابه، حساسیت نهادهای نظارتی را نسبت به کنترل دسترسی ایجنت‌ها بیش از پیش افزایش داده است.
تهدیدات نوظهور و چالش نظارت بر ایجنت‌های خودمختار
تمایز اصلی ایجنت‌های جدید با ابزارهای قدیمی در قدرت «عملکرد مستقل» آن‌ها نهفته است. در حالی که چت‌بات‌های معمولی منفعلانه به سوالات پاسخ می‌دهند، ایجنت‌های هوشمند می‌توانند هدف مشخصی (مانند جمع‌آوری تمامی اسناد یک پایگاه) را دریافت کرده و برای رسیدن به آن، ده‌ها مرحله پیپچیده را به صورت خودکار طی کنند. سرعت بالای توسعه این ابزارها سبب شده که حتی شرکت‌های سازنده نیز درباره خطرات غیرقابل پیش‌بینی آن‌ها هشدار دهند. اکنون ساختارهای امنیتی و دولت‌ها با چالش بزرگی روبه‌رو هستند: به‌روزرسانی پروتکل‌های سایبری و تدوین قوانین سخت‌گیرانه تا پیش از آنکه ایجنت‌های هوشمند مرزهای امنیتی شبکه را به‌کلی نابود کنند.