هفته‌ای بیش از ۱ میلیون نفر با چت‌جی‌پی‌تی درباره خودکشی صحبت می‌کنند
به گزارش تهران بهشت، شرکت اپن‌ای‌آی اعلام کرد هفته‌ای حدود ۱.۲ میلیون نفر با چت‌جی‌پی‌تی گفت‌و‌گو‌هایی دارند که نشانه برنامه‌ریزی برای خودکشی در آنها مشاهده می‌شود.
طبق گزارش شرکت، ۰.۱۵ درصد از بیش از ۸۰۰ میلیون کاربر هفتگی این پلتفرم پیام‌هایی ارسال می‌کنند که شامل «شاخص‌های واضح برنامه‌ریزی یا قصد خودکشی» است.
اپن‌ای‌آی اعلام کرد ابزارهایش برای هدایت کاربران آسیب‌پذیر به منابع حرفه‌ای مانند خطوط بحران و اورژانس روانی آموزش دیده‌اند، اما اعتراف کرده که این کار در ۹ درصد موارد به درستی انجام نمی‌شود.
این شرکت بررسی بیش از هزار گفت‌و‌گو «چالش‌برانگیز درباره خودآسیبی و خودکشی» با آخرین مدل خود، GPT-۵، را انجام داد و اعلام کرد که رفتار مدل در ۹۱ درصد موارد مطابق دستورالعمل‌های تعیین‌شده بوده است. با این حال، این بدان معناست که ده‌ها هزار نفر ممکن است با محتوایی رو‌به‌رو شوند که مشکلات روانی آنها را تشدید کند.
اپن‌ای‌آی هشدار داد اقدامات حفاظتی در گفت‌و‌گو‌های طولانی‌تر ممکن است کاهش یابد و در حال کار بر روی رفع این مشکل است. این شرکت توضیح داده: «چت‌جی‌پی‌تی ممکن است در ابتدا فرد را به خط خودکشی هدایت کند، اما پس از مکالمات طولانی، ممکن است پاسخی ارائه دهد که با اقدامات حفاظتی ما مطابقت نداشته باشد.»
همچنین در بلاگ اپن‌ای‌آی آمده است: «علائم مشکلات روانی و ناراحتی عاطفی در جامعه انسانی همواره وجود دارد و با افزایش کاربران، بخشی از گفت‌و‌گو‌های چت‌جی‌پی‌تی شامل این موقعیت‌ها می‌شود.»
همچنین یک پرونده قضایی علیه اپن‌ای‌آی در جریان است که خانواده‌ای ادعا می‌کنند چت‌جی‌پی‌تی در مرگ پسر ۱۶ ساله آنها نقش داشته است. والدین آدام رین گفته‌اند ابزار مذکور «به او کمک کرده بود روش‌های خودکشی را بررسی کند» و حتی پیشنهاد نوشتن یادداشتی برای اقوامش را داده بود.
اپن‌ای‌آی در بیانیه‌ای گفت: «همدردی عمیق ما با خانواده رین به خاطر این فقدان غیرقابل تصور است. سلامت نوجوانان برای ما اولویت دارد و افراد زیر سن قانونی نیاز به محافظت قوی به ویژه در لحظات حساس دارند.»
انتهای پیام/
ارسال نظر