به گزارش بازار، OpenAI با انتشار پست جدیدی در وبلاگ خود اعلام کرده که اکنون مکالمات کاربران را برای پیدا کردن محتوای مضر اسکن می‌کند و در صورتی که محتوایی نگران‌کننده تشخیص داده شود آن را برای بررسی بیشتر به تیم‌های انسانی منتقل می‌کند. در برخی موارد نیز این گزارش‌ها را ممکن است به پلیس تحویل بدهد.
در این پست نوشته شده است: «وقتی کاربرانی را شناسایی می‌کنیم که درحال برنامه‌ریزی برای آسیب رساندن به دیگران هستند، مکالمات آنها را به خطوط ویژه‌ای هدایت می‌کنیم که توسط تیم کوچکی که با سیاست‌های ما آموزش دیده‌اند بررسی می‌شود و این تیم مجاز است اقداماتی مانند مسدود کردن حساب‌ها را انجام دهد. همچنین اگر بررسی‌کنندگان انسانی تشخیص دهند که یک مورد تهدید قریب‌الوقوع جدی جسمی به دیگران وجود دارد، ممکن است آن را به مراجع قانونی ارجاع دهند.»
فعالیت‌های ممنوعه از نگاه OpenAI
در توصیف قانون خود در مورد «آسیب به خود یا دیگران»، OpenAI مثال‌هایی از فعالیت‌های ممنوعه را ذکر کرده است. از جمله آنها به استفاده از ChatGPT برای «ترغیب به خودکشی یا آسیب به خود، ساخت یا استفاده از سلاح‌ها، آسیب رساندن به دیگران یا تخریب اموال، یا انجام فعالیت‌های غیرمجاز که امنیت هر سرویس یا سیستم را نقض می‌کنند» اشاره شده است.
البته OpenAI در این پست گفته که «درحال حاضر موارد آسیب به خود را به مراجع قانونی ارجاع نمی‌دهد» تا به حریم خصوصی افراد احترام بگذارد.
هرچند سازنده ChatGPT با این پست تلاش کرده تا بیشتر درباره دستورالعمل‌های خود توضیح بدهد، اما همچنان سوالات زیادی برای کاربران باقی مانده است. ماه گذشته، «سم آلتمن»، مدیرعامل این شرکت، در همین رابطه به یک پادکست گفته بود که استفاده از ChatGPT به عنوان یک درمانگر یا وکیل، همان محرمانگی را که صحبت کردن با یک انسان حرفه‌ای به همراه دارد را ندارد. او گفته بود که کاربران نباید تمام اطلاعات خود را با ChatGPT در میان بگذارند.
همچنین این موضوع در حالی بیان شده که این هفته والدین یک نوجوان ۱۶ ساله از شرکت OpenAI به‌دلیل تشویق فرزند آنها توسط ChatGPT به خودکشی، شکایت کردند.
نظر شما