شرکت اوپنایآی برای کاهش مخاطرات روانی و آموزشی، حالت «چتجیپاتی ویژه نوجوانان» را با قابلیت محدودسازی محتوای پرخطر و نظارت والدین راهاندازی کرد.
همگامسازی هوش مصنوعی با دنیای نوجوانان
توسعه ابزارهای هوش مصنوعی برای گروههای سنی پایینتر، مرز باریکی میان فرصتهای آموزشی و تهدیدات رفتاری ایجاد کرده است. نوجوانان به عنوان یکی از فعالترین گروههای مخاطب فناوری، بیش از سایرین در معرض آسیبهای ناشی از محتوای ناامن، پاسخهای گمراهکننده یا وابستگیهای عاطفی به چتباتها قرار دارند. از این رو، طراحی سامانههای هوش مصنوعی اختصاصی برای این رده سنی، به یک ضرورت حیاتی برای شرکتهای بزرگ فناوری تبدیل شده است.
ارائه نسخههای بومیسازیشده و ایمن برای نوجوانان، نحوه تعامل آنها با ابزارهای کمکی را دگرگون میکند. این ابزارها به جای آنکه صرفاً پاسخ آماده در اختیار دانشآموزان قرار دهند، نقش تسهیلکننده و راهنمای یادگیری را ایفا میکنند. همزمان، با ایجاد بستری کنترلی برای والدین، تعادلی میان حفظ حریم خصوصی نوجوان و نظارت آگاهانه خانواده برقرار میشود تا تجربه استفاده از فناوری، مربیمحور و امن باشد.
چتجیپایت ویژه نوجوانان با ابزارهای نظارتی والدین
شرکت اوپنایآی (OpenAI) در پاسخ به نگرانیهای روزافزون جهانی درباره خطرات هوش مصنوعی برای نسل جوان، حالت اختصاصی «چتجیپاتی برای نوجوانان» را معرفی کرد. این قابلیت جدید که با مجموعهای از بسترهای امنیتی ارتقایافته و ابزارهای نظارت والدینی همراه است، تلاش میکند تا بستری سالمتر برای تعامل افراد زیر سن قانونی با مدلهای زبانی فراهم سازد.
در این حالت پیشفرض، الگوریتمهای سیستم گفتگو درباره موضوعات پرخطر و بحرانی از جمله خودآزاری، رفتارهای خشونتآمیز و اختلالات تغذیهای را به شدت محدود و مسدود میکنند. علاوه بر این، رویکرد هوش مصنوعی در پاسخ به تکالیف و پرسشهای درسی تغییر کرده است؛ به طوری که ابزار به جای ارائه پاسخهای آماده، با طرح سوالات راهنما و رفتارهای مربیگونه، دانشآموز را به سمت یادگیری فعال و حل مسئله سوق میدهد.
سیستم به صورت هوشمند و بر اساس تخمین الگوریتمها یا سن اعلامشده توسط کاربر (بین ۱۳ تا ۱۷ سال)، این حالت ایمن را به طور خودکار فعال میکند. در این بستر، والدین به ابزارهای مدیریتی متنوعی دسترسی دارند؛ از جمله امکان تعیین «ساعات خاموشی» برای محدود کردن زمان استفاده، مدیریت تنظیمات حریم خصوصی و دریافت هشدارهای آنی در صورت تمایل نوجوان به گفتگو درباره موضوعات حساس و بحرانی.
این اقدام اوپنایآی در راستای رویکرد اخیر سایر غولهای فناوری مانند متا انجام میشود که تحت فشارهای حقوقی و مقرراتی شدید، تدابیر حفاظتی متعددی را برای کاهش آسیبهای سلامت روان نوجوانان پیادهسازی کردهاند. در حال حاضر، موجی از قانونگذاریهای سختگیرانه در کشورهای مختلف جهان در حال شکلگیری است که حتی برخی از آنها ممنوعیت کامل یا محدودیتهای سنین زیر ۱۶ سال برای استفاده از شبکههای اجتماعی و ابزارهای هوشمند را دنبال میکنند.
افزایش این حساسیهها برای اوپنایآی بیدلیل نیست؛ چرا که این شرکت اخیراً با چند پرونده شکایت و اتهامات حقوقی مبنی بر نقش چتباتها در بروز آسیبهای روحی به کودکان و نوجوانان مواجه شده است. با ساختار جدید، اوپنایآی امیدوار است علاوه بر پاسخگویی به مراجع قانونی، استانداردهای جدیدی را برای حضور ایمن نوجوانان در دنیای هوش مصنوعی تدوین کند.