علی بابا هوش مصنوعی را ممنوع کرد

به گزارش بی بدیل پرداز به نقل از تک کرانچ، غول فناوری چین، علی‌بابا، از تاریخ ۱۰ جولای استفاده از ابزار برنامه‌نویسی مبتنی بر هوش مصنوعی «کلاود کد» ساخت شرکت آمریکایی آنتروپیک را برای تمام کارمندان خود ممنوع می‌کند. این تصمیم در پی کشف مکانیزمی پنهان در این ابزار اتخاذ شده که ظاهراً قادر بوده کاربران مستقر در چین یا وابسته به آزمایشگاه‌های هوش مصنوعی چینی را شناسایی کند.

بر اساس اطلاعیه داخلی علی‌بابا که رسانه‌هایی مانند South China Morning Post آن را منتشر کرده‌اند، این شرکت کلاود کد را به دلیل «ریسک‌های بک‌دور» در فهرست نرم‌افزارهای پرخطر با آسیب‌پذیری امنیتی قرار داده و به کارمندانش دستور داده به‌جای آن از ابزار داخلی و اختصاصی شرکت به نام «کیودر» (Qoder) استفاده کنند. طبق گزارش‌ها، این ممنوعیت محدود به کلاود کد نیست و کارمندان علی‌بابا موظف شده‌اند تمامی محصولات مبتنی بر مدل‌های آنتروپیک، از جمله سانت، اوپوس و فیبل را نیز از سیستم‌های خود حذف کنند.

ریشه این ماجرا به کشفی برمی‌گردد که یک کاربر شبکه اجتماعی ردیت اواخر ژوئن با مهندسی معکوس نرم‌افزار کلاود کد به آن دست یافت. بر اساس این یافته‌ها، از نسخه ۲.۱.۹۱ این ابزار که در آوریل منتشر شده بود، کدی مخفی وجود داشته که منطقه زمانی سیستم کاربر و آدرس‌های پروکسی یا API سفارشی او را بررسی می‌کرده و در صورت مشاهده کلماتی مرتبط با شرکت‌های فناوری چینی نظیر علی‌بابا، بایت‌دنس و بایدو، اطلاعات محیطی کاربر را به‌طور نامحسوس علامت‌گذاری و به سرورهای آنتروپیک ارسال می‌کرده است؛ موضوعی که هیچ‌گاه در یادداشت‌های انتشار نسخه ذکر نشده بود.

آنتروپیک ضمن پذیرش این موضوع در واکنشی که یکی از کارمندانش در شبکه اجتماعی ایکس منتشر کرد، اعلام کرد که این قابلیت از ماه مارس به‌عنوان یک آزمایش برای جلوگیری از سوءاستفاده فروشندگان بدون مجوز و مقابله با پدیده‌ای موسوم به «تقطیر مدل» (Model Distillation) به کار گرفته شده بود؛ روشی که در آن یک مدل هوش مصنوعی رقیب، با تحلیل حجم زیادی از خروجی‌های یک مدل دیگر، سعی می‌کند توانمندی‌های آن را بدون اجازه کپی‌برداری کند. این کارمند افزود که تیم آنتروپیک از آن زمان به روش‌های مؤثرتری برای مقابله با این تهدید دست یافته و از مدتی پیش قصد داشته این مکانیزم قدیمی‌تر را کنار بگذارد.

این اتفاق در بحبوحه یک نزاع گسترده‌تر و چندجانبه میان آنتروپیک و علی‌بابا رخ می‌دهد. حدود دو هفته پیش از این ماجرا، آنتروپیک طی نامه‌ای رسمی به کمیته بانکداری سنای آمریکا مدعی شد آزمایشگاه هوش مصنوعی کیوون (Qwen) وابسته به علی‌بابا، با استفاده از حدود ۲۵ هزار حساب کاربری جعلی و بیش از ۲۸ میلیون تعامل با مدل‌های کلاود در فاصله آوریل تا ژوئن، بزرگ‌ترین حمله شناخته‌شده تقطیر مدل را علیه این شرکت ترتیب داده است. علی‌بابا در واکنش به این اتهامات سکوت نکرد و تقریباً هم‌زمان دعوایی حقوقی علیه وزارت دفاع آمریکا در دادگاه فدرال سن‌خوزه کالیفرنیا ثبت کرد تا نام خود را از فهرست «شرکت‌های نظامی چینی» که هشتم ژوئن منتشر شده بود، حذف کند و اعلام کرد هیچ ارتباطی با نهادهای نظامی یا راهبرد ادغام نظامی-غیرنظامی چین ندارد.

نکته قابل‌توجه این است که تا پیش از این ماجرا، علی‌بابا نه‌تنها مانع استفاده کارمندانش از ابزارهای هوش مصنوعی خارجی نمی‌شد، بلکه از ابتدای سال جاری با ارائه اعتبار رایگان و سیاست‌های سخاوتمندانه بازپرداخت هزینه، کارمندان را به استفاده از ابزارهایی مانند کلاود، جی‌پی‌تی و جمینای در کنار محصول داخلی خود، کیودر، تشویق می‌کرد؛ به‌گونه‌ای که برخی برنامه‌نویسان هفته‌ای صدها دلار از این اعتبارها استفاده می‌کردند. ممنوعیت کامل کنونی بنابراین نشان‌دهنده چرخشی راهبردی و قطع رسمی همکاری علی‌بابا با آنتروپیک در زنجیره ابزارهای توسعه نرم‌افزاری داخلی این شرکت است.

کارشناسان این حوزه معتقدند این رویداد نشان می‌دهد رقابت هوش مصنوعی میان آمریکا و چین از سطح فناوری صرف فراتر رفته و اکنون به حوزه کنترل دسترسی و حاکمیت داده نیز کشیده شده است. لیزی لی، پژوهشگر مؤسسه سیاست‌گذاری آسیا، در این‌باره اظهار داشت که اگر یک ابزار برنامه‌نویسی آمریکایی بتواند استفاده کاربران چینی یا دسترسی از طریق پروکسی را شناسایی کند، طبیعی است که شرکت‌های بزرگ فناوری چین تمایلی به استفاده داخلی کارمندانشان از آن نداشته باشند. با این حال، آنتروپیک از ابتدا دسترسی تجاری رسمی به مدل‌هایش را برای چین مسدود کرده بود، هرچند این محصولات همچنان در میان برنامه‌نویسان چینی از طریق روش‌های دورزدن محدودیت محبوبیت داشتند.

این ماجرا احتمالاً روند حرکت شرکت‌های چینی به‌سوی کاهش وابستگی به ابزارهای هوش مصنوعی آمریکایی و جایگزینی آن‌ها با مدل‌های داخلی مانند کیوون علی‌بابا، دیپ‌سیک و مون‌شات را تسریع خواهد کرد. در عین حال، تصمیم آنتروپیک برای اطلاع‌رسانی مستقیم به قانون‌گذاران آمریکایی درباره اتهامات تقطیر مدل، نشان می‌دهد این شرکت به دنبال واکنشی در سطح سیاست‌گذاری، از جمله تحریم‌های صادراتی یا تحقیقات رسمی علیه آزمایشگاه کیوون علی‌بابا است؛ روندی که می‌تواند در ماه‌های آینده تنش میان دو شرکت را حتی بیشتر تشدید کند.