به گزارش بازار، شرکت گوگل تنها ۲۴ ساعت پس از معرفی قابلیت جدید تولید تصویر مبتنی بر هوش مصنوعی در پلتفرم گوگل ارث، به دلیل نگرانیهای گسترده امنیتی و احتمال انتشار تصاویر جعلی، این ابزار را از دسترس خارج کرد. این قابلیت که از مدل هوش مصنوعی نانو بنانا (Nano Banana) استفاده میکرد، به کاربران اجازه میداد با وارد کردن دستورات متنی، مناظر ساختگی را بر روی نقشههای واقعی جهان ایجاد کنند.
واکنش تند روزنامهنگاران و محققان حوزههای متنباز پس از انتشار این قابلیتت، نشان داد که این ابزار میتواند به ابزاری خطرناک برای تولید اخبار جعلی تبدیل شود.
خطر جعل وقایع ژئوپلیتیک و بحرانهای انسانی
منتقدان معتقدند تصاویر ماهوارهای به دلیل دشواری در جعل، همواره به عنوان منبعی معتبر برای تأیید وقایع جهانی شناخته شدهاند. اما بررسیهای رسانههایی مانند NPR و ۴۰۴ مدیا نشان داد که این ابزار به سادگی تصاویری از انفجار در لسآنجلس، سیل در ساختمان کنگره آمریکا و یا سایتهای هستهای در ایران تولید میکند.
این موضوع باعث شد تا گوگل در بیانیهای اعلام کند که علیرغم کاربردهای مفید برای متخصصان، اشتراکگذاری تصاویر ساختگی با سیاستهای این شرکت در تضاد است.
واکنش گوگل و چالشهای احراز اصالت
اگرچه گوگل ادعا کرده بود که این تصاویر دارای واترمارک اختصاصی SynthID برای شناسایی هویت هوش مصنوعی هستند، اما محققانی نظیر بلینگکت (Bellingcat) هشدار دادند که این تدابیر برای جلوگیری از سرعت انتشار اطلاعات نادرست در شبکههای اجتماعی کافی نیست.
گوگل اعلام کرده است که این ویژگی را تا زمان ایجاد حفاظهای امنیتی قویتر به حالت تعلیق در میآورد. گوگل در حساب کاربری ایکس (X) خود گفت:
ما میدانیم که مردم به طور ویژهای برای مشاهده نمای قابل اعتمادی از جهان به گوگل ارث اعتماد دارند. اگرچه متخصصان ژئوپلیتیک از این ویژگی برای اهداف مفید استفاده میکردند، اما شاهد اشتراکگذاری تصاویری بودیم که ناقض سیاستهای ما بود. به همین دلیل تا زمان تقویت سیستمهای حفاظتی، این قابلیت را متوقف میکنیم.
نظر شما