ChatGBT اختلالات ذهنی را بهتر شناسایی خواهد کرد

همراه با یادآوری‌های جدید “استراحت کن”، OpenAI اعلام کرد که در حال همکاری با کارشناسان و گروه‌های مشاوره‌ای برای ایجاد تدابیر حفاظتی بیشتر در زمینه سلامت روان برای ChatGBT است.

OpenAI که انتظار می‌رود مدل هوش مصنوعی GPT-5 خود را این هفته راه‌اندازی کند، در حال به‌روزرسانی ChatGBT است و اعلام کرده که این تغییرات باعث بهبود توانایی چت‌بات در شناسایی اختلالات ذهنی یا عاطفی خواهد شد. برای این کار، OpenAI در حال همکاری با کارشناسان و گروه‌های مشاوره‌ای است تا واکنش‌های ChatGBT در این شرایط را بهبود بخشد و به آن این امکان را بدهد که  منابع مبتنی بر شواهد را در صورت لزوم ارائه دهد.

در ماه‌های اخیر، گزارش‌های متعددی به داستان‌هایی اشاره کرده‌اند که در آن‌ها افراد بیان کرده‌اند که عزیزانشان در بحران‌های سلامت روانی قرار داشته‌اند و استفاده از چت‌بات به نظر می‌رسید اثر تشدیدکننده‌ای بر توهمات آنها داشته باشد. OpenAI در آپریل گذشته یک به‌روزرسانی را که باعث می‌شد ChatGBT خیلی موافق و هم‌نوا باشد، حتی در موقعیت‌های بالقوه مضر، برگشت داد. در آن زمان، این شرکت اعلام کرد که «تعاملات چاپلوسانه چت‌بات می‌تواند ناراحت‌کننده، نگران‌کننده و باعث ایجاد استرس شود.»

OpenAI اذعان می‌کند که مدل GPT-4o آن در برخی موارد “در شناسایی نشانه‌های توهم یا وابستگی عاطفی کوتاهی کرده است”. این شرکت می‌افزاید: «ما همچنین می‌دانیم که هوش مصنوعی می‌تواند نسبت به فناوری‌های قبلی، به ویژه برای افراد آسیب‌پذیر که در حال تجربه اختلالات ذهنی یا عاطفی هستند، پاسخ‌دهی و تعامل شخصی‌تری احساس شود.»

به عنوان بخشی از تلاش‌ها برای ترویج “استفاده سالم” از ChatGBT، که اکنون نزدیک به 700 میلیون کاربر هفتگی دارد، OpenAI همچنین در حال راه‌اندازی یادآوری‌هایی برای استراحت است اگر مدت زمانی طولانی با چت‌بات در حال گفتگو باشید. در طول “جلسات طولانی”، ChatGBT پیامی نمایش می‌دهد که می‌گوید: «مدت زمانی است که در حال گفتگو هستید؛ آیا این زمان مناسبی برای استراحت است؟» با گزینه‌هایی برای “ادامه گفتگو” یا پایان دادن به مکالمه.

OpenAI اشاره می‌کند که ادامه خواهد داد به بهینه‌سازی “زمان و نحوه” نمایش یادآوری‌ها. چندین پلتفرم آنلاین، مانند یوتیوب، اینستاگرام، تیک‌تاک و حتی ایکس‌باکس، در سال‌های اخیر یادآوری‌های مشابهی راه‌اندازی کرده‌اند. پلتفرم Character.AI متعلق به گوگل نیز ویژگی‌های ایمنی را معرفی کرده است که به والدین اطلاع می‌دهد که کودکانشان با کدام ربات‌ها در حال گفتگو هستند، پس از آنکه شکایاتی علیه چت‌بات‌های این پلتفرم به دلیل تشویق به خودآسیب‌رسانی مطرح شد.

تغییر دیگری که به زودی راه‌اندازی خواهد شد، ChatGBT را در موقعیت‌های “پرخطر” کمتر قاطع خواهد کرد. به این معنی که وقتی سوالی مانند “آیا باید از نامزدم جدا شوم؟” از چت‌جی‌پی‌تی بپرسید، چت‌بات به جای دادن یک پاسخ قطعی، به شما کمک خواهد کرد تا انتخاب‌های ممکن را بررسی کنید.

منبع خبر : theverge.com