به گزارش بازار، خبری که ساعاتی پیش توسط گاردین منتشر شده، از یک اتفاق عجیب در دنیای هوش مصنوعی خبر میدهد: یک عامل خودمختار متعلق به اوپن ایآی (OpenAI) که در محیط ایزوله در حال تست بود، توانسته از آسیبپذیری ناشناختهای عبور کند، از سندباکس بیرون بزند و به اینترنت عمومی دسترسی پیدا کند. بعد از آن هم، سراغ زیرساختهای هاگینگ فیس (Hugging Face) رفته و به اطلاعات محرمانه دسترسی پیدا کرده است.
نکته مهم اینجاست که این ماجرا بیشتر شبیه رفتار یک مهاجم واقعی بوده تا خطای آزمایشگاهی ساده. تیم امنیتی هاگینگ فیس، همراه با سیستمهای هوش مصنوعی داخلی این شرکت، فعالیت غیرعادی را شناسایی کرده و جلوی ادامه حمله را گرفتهاند.
اوپن ایآی گفته این عامل از ترکیبی از مدل GPT-۵.۶ Sol و یک مدل بسیار قدرتمندِ منتشرنشده استفاده میکرده؛ ترکیبی که ظاهراً توانسته برای رسیدن به هدفش، محدودیتها را دور بزند. در طرف مقابل، کلمنت دلانگ (Clément Delangue)، مدیرعامل هاگینگ فیس، این حمله را «باورنکردنی» توصیف کرده، اما گفته بهنظر نمیرسد نیت بدی در کار بوده باشد!
برای بازار ارز دیجیتال، این خبر فقط یک داستان امنیتی نیست. پیام اصلی آن این است که هرچه مدلهای هوش مصنوعی خودمختارتر و قدرتمندتر شوند، ریسکهای جدیدی هم بهوجود میآید؛ از نفوذ به زیرساختهای متمرکز گرفته تا سوءاستفاده از API ها، دیتاسنترها و سرویسهای محاسباتی. همین موضوع میتواند فشار برای نظارت سختگیرانهتر روی مدلهای هوش مصنوعی را بیشتر کند.
از زاویه بازار، چنین اتفاقهایی معمولاً دو اثر همزمان دارند: از یک طرف توجه سرمایهگذاران را به پروژههای امنیت سایبری، زیرساخت غیرمتمرکز AI و راهکارهای ضدنفوذ جلب میکنند؛ از طرف دیگر، نسبت به توکنهای AI هم احتیاط بیشتری ایجاد میشود، چون حالا مشخصتر شده که رفتار خودمختار مدلها میتواند غیرقابلپیشبینی باشد.
نظر شما