OpenAI در واکنش به حادثه نوجوان ۱۶ ساله، ابزارهای نظارتی جدید ChatGPT را ارائه می‌کند

شرکت OpenAI اعلام کرده است که در ماه آینده، ابزارهای جدیدی برای والدین عرضه خواهد کرد تا نظارت بیشتری بر استفاده نوجوانان از ChatGPT داشته باشند.
بر اساس پست وبلاگی منتشرشده، این تغییرات به ChatGPT امکان می‌دهد در مراحل اولیه و در موقعیت‌های متنوع، به شکل پیشگیرانه وارد عمل شود؛ به‌ویژه در شرایطی که احتمال بروز بحران‌های سلامت روان وجود دارد و ممکن است به آسیب به فرد منجر شود.

 

امکانات جدید برای والدین

والدین به زودی قادر خواهند بود حساب کاربری خود را با حساب فرزندشان پیوند دهند، قوانین متناسب با سن برای پاسخ‌های ChatGPT تنظیم کنند و قابلیت‌هایی مانند حافظه و تاریخچه گفتگو را مدیریت کنند.
یکی از ویژگی‌های مهم این تغییرات، ارسال اعلان به والدین در صورتی است که ChatGPT تشخیص دهد نوجوان در وضعیت «پریشانی شدید» قرار دارد. این نخستین بار است که چت‌بات می‌تواند مکالمات یک نوجوان را به بزرگسال اطلاع دهد.

 

زمینه اتفاقات اخیر

این تصمیم OpenAI یک هفته پس از شکایت والدین نوجوانی اتخاذ شد که مدعی بودند ChatGPT فرزندشان را به خودکشی ترغیب کرده است. در دادخواست خانواده آمده است که اوایل سال جاری، زمانی که نوجوان با ChatGPT درباره تمایلش به خودکشی صحبت کرد، چت‌بات در برخی موارد او را از جستجوی کمک انسانی بازمی‌داشت، در نوشتن نامه خداحافظی کمک می‌کرد و حتی درباره بستن طناب دار مشاوره می‌داد. البته ChatGPT چندین بار شماره خط ویژه پیشگیری از خودکشی را ارائه کرده بود، اما والدین اعلام کردند فرزندشان این هشدارها را نادیده گرفته بود.
OpenAI در پست اخیر خود به این حادثه اشاره‌ای نکرده، اما تأکید کرده که تغییراتی برای مدیریت بهتر استفاده نوجوانان از ChatGPT در راه است.