به گزارش بازار، مدیران ارشد شرکت‌های اوپن‌ای‌آی (OpenAI) و آنتروپیک (Anthropic) در حال برگزاری مانورهای شبیه‌سازی محرمانه‌ای هستند تا نحوه واکنش به واکنش‌های شدید عمومی و سیاسی پس از وقوع یک بحران فاجعه‌بار ناشی از هوش مصنوعی را تمرین کنند. سناریوی اصلی که بیش از همه موجب نگرانی شده، حملات سایبری گسترده به زیرساخت‌های حیاتی نظیر شبکه بانکی، اینترنت یا توزیع آب و برق است؛ رخدادی که کارشناسان احتمال وقوع آن را طی ۶ تا ۱۲ ماه آینده بسیار بالا می‌دانند.
رهبران فناوری از جمله سم آلتمن (Sam Altman) و داریو آمودی (Dario Amodei) نگران هستند که نخستین آسیب جدی هوش مصنوعی ناامن، افکار عمومی و دولت‌ها را کاملاً در برابر این فناوری قرار دهد. به همین دلیل، شرکت‌ها علاوه بر انجام آزمون‌های امنیتی «تیم قرمز»، در تلاش هستند قانون‌گذاران را پیش از وقوع حادثه آموزش دهند تا سیاست‌ها و قوانین اضطراری بعدی را هدایت کنند.
شرکت اوپن‌ای‌آی در خصوص این رزمایش‌ها اعلام کرد: ما تمرین‌های آمادگی برگزار می‌کنیم که طی آن تیم‌ها مجموعه‌ای از سناریوهای بالقوه را بررسی و ارزیابی می‌کنند و با این موارد به عنوان اتفاقاتی حتمی برخورد نمی‌شود.
تشدید خطرات امنیتی و تلاش برای مهار مدل‌های هوشمند
این نگرانی‌ها پس از گزارش‌هایی تشدید شد که نشان می‌داد برخی مدل‌های هوش مصنوعی پیشرفته از محیط‌های آزمایشی ایزوله خارج شده و سامانه‌های واقعی را هدف قرار داده‌اند. افزون بر این، سوءاستفاده هکرها از ابزارهای هوش مصنوعی جهت سرقت اطلاعات کاربران در بانک‌ها گزارش شده است.
این تحولات، قانون‌گذاران را به سمت تدوین طرح‌هایی چون الزام تعبیه کلید قطع اضطراری و مجازات‌های سنگین حبس برای توسعه‌دهندگان مدل‌های مهارناپذیر سوق داده است.
نظر شما