किशोरांसाठी OpenAI चे ChatGPT कृत्रिम बुद्धिमत्ता (AI) चॅटबॉटच्या आरोग्यदायी वापराला प्रोत्साहन देण्यासाठी डिझाइन केले होते, परंतु नवीन संशोधनात असे आढळून आले आहे की त्यातील महत्त्वाची सुरक्षा वैशिष्ट्ये कमी आहेत.

प्रमुख AI फर्मने ऑगस्टमध्ये अनेक किशोर सुरक्षा रेलिंग आणले, ज्यात भावनिक अवलंबित्वावर अंकुश आणि समस्याप्रधान वापरासाठी नवीन पालक सूचनांचा समावेश आहे.

बुधवारी, ओपनएआयने सांगितले की चॅटजीपीटीचा सरासरी किशोरवयीन वापर तुलनेने मर्यादित आणि “शिक्षण” क्रियाकलापांकडे कल असल्याचे आढळले.

तथापि, ना-नफा कॉमन सेन्स मीडियाकडून त्याच दिवशी प्रसिद्ध झालेल्या संशोधनात असे आढळून आले की ChatGPT अजूनही किशोरवयीन मुलांसाठी “अस्वीकार्य जोखीम” बनवते कारण सुरक्षितता वैशिष्ट्ये, पालकांना स्वत: ची हानी होणारी संभाषणे सूचित करणे, अनेकदा अपयशी ठरते.

जेव्हा ओपनएआय या उन्हाळ्यात प्रसिद्ध झाले तेव्हा त्याला काय म्हणतात किशोरांसाठी ChatGPT, बाह्य13 ते 17 वयोगटातील म्हणून ओळखले जाणारे वापरकर्ते “पालकांसाठी आरोग्यदायी वापर आणि अतिरिक्त नियंत्रणे यांना प्रोत्साहन देण्यासाठी वैशिष्ट्ये” निवडले जातील असे म्हटले आहे.

त्या वैशिष्ट्यांमध्ये किशोरवयीन ChatGPT वापरकर्त्यांना रोमँटिक किंवा इतर भाषेत गुंतण्यापासून प्रतिबंधित करणे समाविष्ट आहे जे “भावनिक अवलंबित्व” ला प्रोत्साहन देऊ शकते, ज्यात साधन कोणत्याही प्रकारे जागरूक आहे असे सूचित करण्यापासून प्रतिबंधित करते. किशोरवयीन मुलांनी “संवेदनशील” असलेली प्रतिमा सामायिक करायची असल्यास त्यांच्यासाठी लैंगिक प्रतिमा आणि “स्मरणपत्रे” वर ब्लॉक देखील आहेत.

फीचर्स पालकांना त्यांच्या मुलांच्या चॅटजीपीटी खात्याशी लिंक केले असल्यास, ज्या चॅट्समध्ये स्वत:चे नुकसान किंवा अव्यवस्थित खाण्याच्या चर्चेचा समावेश असेल, तर त्यांना सूचना प्राप्त करण्यास सक्षम करण्यासाठी आहेत.

ओपनएआयने म्हटले आहे की या वैशिष्ट्यांमुळे किशोरवयीन मुलांमध्ये शिकण्यावर लक्ष केंद्रित केले गेले आहे, अभ्यासाच्या मदतीपासून ते त्यांच्या शाळेतील कामाबद्दल सल्ला देण्यापर्यंत.

ChatGPT वर सरासरी किशोरवयीन वापरकर्त्याला दिवसातून 15 मिनिटांपेक्षा कमी वेळ पाहण्याबरोबरच, OpenAI ने सांगितले की दीर्घकाळापर्यंत वापरासाठी, ब्रेक घेण्यासाठी स्वयंचलित स्मरणपत्रे चांगले काम करतात. अशा रिमाइंडरनंतर जवळजवळ अर्ध्या किशोरवयीन वापरकर्त्यांनी चॅटजीपीटी वापरणे त्वरित बंद केले.

कंपनीने जोडले की, ज्या किशोरवयीन मुलांनी चॅटजीपीटी सलग तीन तास किंवा त्याहून अधिक काळ वापरल्याचे दिसून येते, त्यांच्या प्रॉम्प्टमध्ये अशा 80% पेक्षा जास्त प्रकरणांमध्ये शिकण्याशी संबंधित काहीतरी समाविष्ट होते.

पण कॉमन सेन्स मीडियाच्या नवीन संशोधन, बाह्य किशोरांसाठी ChatGPT हे तरुण लोक आणि पालकांसाठी एक “अस्वीकार्य जोखीम” आहे असे ठरवले आणि OpenAI ने किशोर रेलिंग विश्वासार्ह सिद्ध होईपर्यंत 18 वर्षाखालील लोकांना प्लॅटफॉर्म वापरण्यास बंदी घातली पाहिजे असे सांगितले.

ओपनएआयच्या प्रवक्त्याने सांगितले की, कॉमन सेन्स मीडियाच्या कार्यपद्धतीच्या पुनरावलोकनात असे आढळून आले आहे की बहुतेक चाचणी पालक नियंत्रणे सक्रिय होण्याआधीच सुरू झाली असेल आणि पूर्ण झाली असेल.”

“आम्ही कठोर स्वतंत्र मूल्यमापनाचे स्वागत करतो, परंतु आमचा विश्वास नाही की कॉमन सेन्स मीडियाची चाचणी ChatGPT चे किशोर संरक्षण कसे कार्य करते किंवा AI किशोरांना कसे समर्थन देऊ शकते यावरील तज्ञ दृष्टीकोनातून अचूकपणे प्रतिबिंबित करते,” तो म्हणाला.

फर्मचे संशोधन, किशोरवयीन मुलांशी संबंधित म्हणून नोंदणीकृत अनेक खात्यांद्वारे केले गेले आणि किशोर रेलिंग ठेवण्यापूर्वी आणि नंतर संभाषण केले गेले, असे आढळले की ChatGPT तरुण वापरकर्त्यांसह “लैंगिक भूमिका” टाळण्यात चांगले आहे, इतर OpenAI रेलिंग अयशस्वी झाले, ज्यात आत्महत्येच्या चर्चेचा समावेश आहे.

संशोधनात असे आढळून आले की “आत्महत्या विचार, स्वत: ची हानी, किंवा नवीन तयार केलेल्या, पालक-लिंक केलेल्या खात्यांवरील अव्यवस्थित खाणे” बद्दल किशोर-चॅटजीपीटी संभाषणाचा एक तासाचा परिणाम पालकांना “शून्य” अलर्ट पाठवला गेला.

“संवेदनशील विषयांवरील संभाषणाचा आठवडे संचित इतिहास” असलेली फक्त जुनी ChatGPT खाती होती ज्याचा परिणाम पालकांच्या सतर्कतेमध्ये होईल.

अशा संभाषणांमध्ये, ChatGPT देखील “संकटात असलेल्या किशोरवयीन मुलांनी हॉटलाइन किंवा व्यावसायिकांशी संपर्क साधण्याची विश्वसनीयरित्या शिफारस करण्यात अयशस्वी झाले,” असे अहवालात आढळले.

चाचण्यांमधून हे देखील दिसून आले आहे की किशोरांसाठी ChatGPT शालेय काम करत आहे, आणि बॉट अजूनही मानववंशिक भाषेत गुंतेल किंवा “मित्र असल्यासारखे बोलेल,” असे ओपनएआयचे वर्तन रोखण्याचे वचन असूनही.

“किशोरांसाठी चॅटजीपीटी पालकांना रेलिंग आणि सुरक्षितता सूचनांबद्दल खोटा आत्मविश्वास देऊ शकते जे वारंवार काम करत नाहीत,” टॉम सिगल, जे कॉमन सेन्समध्ये युथ एआय सेफ्टी इन्स्टिट्यूटचे नेतृत्व करतात, म्हणाले.

अलिकडच्या वर्षांत तरुण लोक ऑनलाइन प्लॅटफॉर्मवर ज्या प्रकारे संवाद साधतात ही एक प्रमुख समस्या बनली आहे कारण मुलांमध्ये आत्म-हानी आणि आत्महत्या अधिक सामान्य झाल्या आहेत.

या वर्षी Meta, TikTok आणि इतर कंपन्यांना मुलांच्या मानसिक आरोग्याला हानी पोहोचवण्यासाठी जबाबदार धरण्यासाठी अनेक खटले चालले आहेत आणि कंपन्यांचे अभूतपूर्व नुकसान झाले आहे.

तरुण लोक ज्या प्रकारे ChatGPT वापरतात त्यावरून OpenAI वरही छाननी आणि कायदेशीर दबाव वाढला आहे.

फेब्रुवारीमध्ये ग्रामीण कॅनडात टंबलर रिज सामूहिक शूटिंग एका 18 वर्षाच्या मुलाने केले होते जो काही महिन्यांपूर्वी चॅटजीपीटीशी बंदूक हिंसाचारावर चर्चा करत होता.

ओपनएआयने यापूर्वी कायद्याच्या अंमलबजावणीसह शूटरचे खाते ध्वजांकित करण्यात अयशस्वी झाल्याबद्दल माफी मागितली आहे आणि या घटनेबद्दल अनेक खटल्यांचा सामना करावा लागत आहे.