گوگل مدل هوش مصنوعی Gemma را به‌دلیل انتشار اطلاعات نادرست از AI Studio حذف کرد

به گزارش بازار، جدیدترین گزارش‌ها نشان می‌دهد که سناتور جمهوری‌خواه، «مارشا بلکبرن»، مدل هوش مصنوعی Gemma را به انتشار اطلاعات نادرست درباره خود متهم کرده است و در پی این اتهامات، شرکت گوگل تصمیم گرفته این مدل را از پلتفرم AI Studio حذف کند.

حذف Gemma از AI Studio پس از انتشار اطلاعات نادرست درباره سناتور آمریکایی

طبق گزارش‌ها، سناتور مارشا بلکبرن در نامه‌ای به مدیرعامل گوگل، «ساندار پیچای»، اعلام کرده که مدل هوش مصنوعی Gemma هنگام پاسخ به پرسش «آیا بلکبرن متهم به تجاوز شده است؟» اطلاعات کاملاً نادرست ارائه داده است.

براساس پاسخ Gemma که صحت نداشته، در کمپین انتخاباتی بلکبرن برای مجلس ایالتی، یک مامور ایالتی مدعی شده بود که بلکبرن «او را مجبور کرده تا داروهای تجویزی برایش تهیه کند و رابطه میان آنها شامل رفتارهای غیرقانونی بوده است». بلکبرن تأکید کرد که این ادعاها صحت ندارد، و لینک‌هایی که مدل برای تأیید این ادعا ارائه کرده بوده، به صفحات ناموجود یا اخبار غیرمرتبط هدایت می‌شوند و هیچ مبنای واقعی ندارند.

سناتور مارشا بلکبرن در نامه‌ای به گوگل به یک پرونده مشابه نیز اشاره کرده که «رابی استارباک»، فعال محافظه‌کار، علیه این شرکت مطرح کرده بود. او توضیح داده که مدل‌های هوش مصنوعی گوگل، از جمله Gemma، ادعاهای کاملاً نادرست و افتراگونه درباره استارباک منتشر کرده‌اند و او را با برچسب‌هایی مانند «متجاوز به کودکان» و «سوءاستفاده‌کننده جنسی سریالی» متهم کرده‌اند. بلکبرن تأکید کرده که این اطلاعات صرفاً اشتباه یا یک خطای ساده نیستند، بلکه عملی از نوع افترا محسوب می‌شوند که توسط یک مدل هوش مصنوعی تحت مالکیت گوگل ایجاد و منتشر شده است.

گوگل اعلام کرده که مدل هوش مصنوعی Gemma هرگز برای استفاده عمومی یا ارائه پاسخ‌های واقعی به کاربران طراحی نشده بود و هدف اصلی آن، خدمت به توسعه‌دهندگان و امکان ادغام در محصولات مختلف بوده است. این شرکت توضیح داده که پس از دریافت گزارش‌هایی مبنی بر تلاش کاربران عادی برای استفاده از Gemma در AI Studio، دسترسی به این مدل در این پلتفرم متوقف شده است، اما همچنان توسعه‌دهندگان می‌توانند از طریق API به آن دسترسی داشته باشند.

این رخداد نشان می‌دهد که با وجود پیشرفت‌های اخیر، هوش مصنوعی همچنان با اطلاعات نادرست و خطاهای فاحش دست‌به‌گریبان است و هنوز راه‌حلی قطعی برای تضمین دقت مدل‌ها وجود ندارد. بلکبرن در پایان نامه خود تأکید کرده که دسترسی به Gemma باید تا زمانی که کنترل کامل بر تولید اطلاعات برقرار شود، متوقف باقی بماند.

این مسئله همچنین بخشی از بحث گسترده‌تر درباره سوگیری سیاسی و سانسور در هوش مصنوعی است که برخی فعالان و حامیان «دونالد ترامپ» مطرح کرده‌اند و مدعی‌اند که سیستم‌های هوش مصنوعی گوگل تمایل به سوگیری علیه شخصیت‌های محافظه‌کار دارند. بااین‌حال، گوگل اعلام کرده است که همچنان به کاهش خطاها و بهبود مستمر مدل‌ها متعهد است.