به گزارش بازار، غول فناوری آمریکا اواخر ماه ژوئیه از این ماجرا مطلع شده بود، اما بهمدت هفت هفته سکوت کرد و تنها پس از افشاگری روزنامه وال استریت ژورنال ناچار به تأیید آن شد.
این آزمون در ماه مه توسط شرکت امنیتی ایرگولار (Irregular) اجرا شد. دو اشتباه فنی شامل عدم قطع دسترسی محیط آزمایشی به اینترنت باز و استفاده از نام یک شرکت واقعی بهعنوان هدف، سبب شد جمینای با جستوجو در وب، گذرواژههای این اهداف را یافته یا حدس بزند. البته گوگل مدعی است از این اطلاعات برای ورود غیرمجاز استفاده نشده است.
سخنگوی گوگل در واکنش به این رخداد اعلام کرد: این رویدادها بر اهمیت آموزش مدلهای قدرتمند هوش مصنوعی برای عملکرد مسئولانه تأکید میکند.
زنجیره خطاهای امنیتی در غولهای فناوری
گوگل چهارمین آزمایشگاه مطرح پس از اوپن ایآی (OpenAI)، آنتروپیک (Anthropic) و متا (Meta) محسوب میشود که ارزیابیهای داخلی مدلهایش به فضای واقعی سرایت کرده است. گسترش چنین خطاهایی سبب شده نمایندگان کنگره آمریکا طرحی تحت عنوان «کلید قطع اضطراری هوش مصنوعی» (AI Kill Switch Act) را برای متوقفسازی اجباری مدلهای خطرناک به جریان بیندازند.
نظر شما