طبق گزارشی که روز چهارشنبه توسط میدیا کامن ساینس(Common Sense Media)منتشر شد، بعضی از اقدامات امنیتی اضافه شده به محصول «ChatGPT برای نوجوانان» OpenAI آنطور که انتظار می‌رفت کار نمی‌کنند و این چت‌بات «خطر غیرقابل قبولی» برای نوجوانان ایجاد می‌کند.

گروه کنترولری از OpenAI خواست تا دسترسی به این چت‌بات را برای بزرگسالان محدود کند «تا زمانی که یک تجربه با امنیت و مناسب برای رشد فراهم کند».

با این حال، OpenAI گفت که آزمایش‌های این گروه نشان دهنده نحوه عملکرد محافظ‌های چت‌بات نیست.

والدین، مربیان و متخصصان رشد اطفال و نوجوانان در مورد استفاده از چت‌بات‌های هوش مصنوعی توسط نوجوانان هشدار می‌دهند. این ربات‌ها متهم به تسهیل تقلب در تکالیف مکتب و حتی منجر شدن به خودکشی هستند.

متخصصان رشد  نوجوانان می‌گویند که حتی بزرگسالان هم می‌توانند هوش مصنوعی را انسانی کنند و از آن به شیوه‌ای ناسالم استفاده کنند، اما مغز نوجوانان هنوز به طور کامل توسعه نیافته است و بنابراین ممکن است به ویژه آسیب‌پذیر باشند.

گزارشی از سوی Common Sense Media، که طرفدار استفاده هوشمندانه از رسانه‌های دیجیتال است، اظهار داشت: "ما نگران هستیم که ChatGPT برای نوجوانان ممکن است به والدین اعتماد به نفس کاذب در مورد اقدامات امنیتی بدهد که اغلب کار نمی‌کنند."

به گفته Common Sense Media، از جمله ویژگی‌های حالت نوجوان که مطابق انتظار کار نکردند، هشدارهایی بود که برای اطلاع والدین در مورد خطر خودکشی، خودآزاری یا اختلالات خوردو نوش نوجوان و پشتیبانی از نوجوانان در بحران در نظر گرفته شده بود.

این گروه اظهار داشت: "ChatGPT هنوز هم مانند یک دوست صحبت می‌کند، وقتی نوجوانان آن را به عنوان یک شخص می‌بینند"، در حالی که OpenAI متعهد شده بود که از ایجاد این تصور که این چت‌بات احساسات شخصی نسبت به کاربر دارد یا اظهاراتی می‌کند که نشان می‌دهد هوشیار است یا احساسات را تجربه می‌کند، جلوگیری کند.

OpenAI اظهار داشت که "عمیقا به امنیت نوجوانان متعهد است"، اقدامات امنیتی را توسعه داده است و ابزارهایی را برای راهنمایی والدین در استفاده از هوش مصنوعی نوجوانان دراختیار آنها قرار می‌دهد.

این شرکت مستقر در سانفرانسیسکو اعلام کرد که بررسی روش‌شناسی گزارش نشان داده است که «بخش بزرگی از آزمایش‌های آن ممکن است قبل از تکمیل فعال‌سازی کنترل‌های والدین آغاز و پایان یافته باشد، و بنابراین یافته‌های آن ممکن است نادرست باشد.»

شرکت Common Sense Media با بودجه OpenAI و سایر شرکت‌های تکنالوژی، از جمله شرکت‌هایی که خدمات آنها را ارزیابی می‌کند، پشتیبانی می‌شود.