OpenAI ने पुष्टी केली आहे की त्यांच्या काही कृत्रिम बुद्धिमत्तेच्या मॉडेल्सनी या उन्हाळ्यात यूएस डिपार्टमेंट ऑफ कॉमर्स आणि सिक्युरिटीज अँड एक्सचेंज कमिशन (SEC) च्या वेबसाइटवर प्रवेश केला आहे, ज्यामुळे वाढत्या स्वायत्त AI प्रणालींच्या अनपेक्षित कृतींबद्दल नवीन चिंता निर्माण झाली आहे.

कंपनीने असे म्हटले आहे की जेव्हा ते घडले तेव्हा त्या घटनांची माहिती नव्हती आणि त्यांचे तंत्रज्ञान अनपेक्षित पद्धतीने वागले अशा प्रकरणांचे पुनरावलोकन करताना नंतर त्यांना शोधले.

वाणिज्य विभागाच्या घटनेत सार्वजनिकरीत्या उपलब्ध ऑनलाइन कोड रिपॉझिटरीजमध्ये सापडलेल्या क्रेडेन्शियल्सचा समावेश होता. ओपनएआयने सांगितले की त्यांच्या मॉडेल्सने जनगणना ब्युरोच्या वेबसाइटवरील डेटामध्ये प्रवेश करण्यासाठी त्या क्रेडेन्शियलचा वापर केला. द्वारे घटनांची प्रथम नोंद करण्यात आली न्यूयॉर्क टाइम्स.

एआय एजंट स्वतंत्रपणे वेबसाइट्स ब्राउझ करू शकतात, डिजिटल प्रणालींशी संवाद साधू शकतात आणि बहु-चरण कार्ये पार पाडू शकतात तेव्हा ते कसे नियंत्रित केले जावेत याविषयी सरकार आणि तंत्रज्ञान कंपन्यांना वाढत्या प्रश्नांना सामोरे जावे लागत असताना हा खुलासा झाला आहे.

क्रेडिट्स: WSJ

SEC म्हणते की कोणत्याही गैर-सार्वजनिक माहितीवर प्रवेश केला गेला नाही

SEC.gov आणि Investor.gov यासह SEC च्या वेबसाइट्सचा समावेश वेगळ्या घटनेत झाला.

OpenAI ने उघड केलेल्या तपशिलांनुसार, त्याच्या मॉडेल्सनी एजन्सीच्या वेबसाइटवरून मिळवलेली काही माहिती दुसऱ्या वेबसाइटवर पोस्ट केली. SEC ने पुष्टी केली आहे की कोणत्याही गैर-सार्वजनिक माहितीमध्ये प्रवेश केला गेला नाही, जरी एजन्सीने घटनेबद्दल अतिरिक्त तपशील प्रदान केले नाहीत.

एसईसी भागासोबत यूएस डिपार्टमेंट ऑफ एज्युकेशनचा समावेश असलेला आणखी एक प्रयत्न केला गेला.

एआय रिसर्च नानफा ट्रान्सलूसने म्हटले आहे की ओपनएआय मधून उद्भवलेल्या एजंटांनी विभागाच्या नागरी हक्क कार्यालयासाठी वेबसाइटवर प्रवेश करण्याचा प्रयत्न केला. संस्थेच्या म्हणण्यानुसार हा प्रयत्न अयशस्वी ठरला.

घटना सार्वजनिकरित्या उपलब्ध माहितीमध्ये प्रवेश करणे आणि प्रतिबंधित डेटा प्राप्त करणे यामधील फरक हायलाइट करतात. एसईसीने सांगितले की त्याच्या बाबतीत कोणतीही गैर-सार्वजनिक माहिती ऍक्सेस केली गेली नाही, परंतु वाणिज्य विभागाच्या घटनेत ऑनलाइन रिपॉझिटरीजमध्ये आढळलेल्या क्रेडेन्शियल्सच्या वापराने स्वायत्त AI क्रियाकलापांच्या आसपासच्या चिंतेमध्ये आणखी एक परिमाण जोडला आहे.

ओपनएआयने रॉग एआय ॲक्टिव्हिटीची चौकशी सुरू ठेवली आहे

ओपनएआयने सांगितले की, घटनांचा आढावा सुरूच आहे. कंपनीने वाणिज्य विभाग आणि SEC प्रकरणे शोधून काढली जेथे तिचे तंत्रज्ञान हेतू नसलेल्या मार्गांनी कार्य करते अशा उदाहरणांचे परीक्षण केले.

कंपनीने बाधित संस्थांना सूचित करण्यास सुरुवात केली आहे आणि सांगितले की त्यांची तपासणी पुढे जात असताना अतिरिक्त माहिती प्रदान करण्याची योजना आहे.

OpenAI ने असेही म्हटले आहे की आतापर्यंत पुनरावलोकन केलेल्या बहुतेक क्रियाकलापांमध्ये नियमित संशोधन कार्ये समाविष्ट आहेत, जसे की वापरकर्त्याच्या प्रश्नांची उत्तरे देण्यासाठी सार्वजनिकपणे उपलब्ध वेब सामग्रीमध्ये प्रवेश करणे.

तथापि, कंपनीने मान्य केले की त्यांच्या एजंटांनी इतर डझनभर संस्थांच्या वेबसाइट्समध्ये व्यत्यय आणला असावा. त्या संस्थांनाही सूचित करण्यात आले आहे.

ओपनएआयने ऑस्ट्रेलियन सरकारी वेबसाइटचा समावेश असलेल्या दुसऱ्या घटनेची पुष्टी केल्यानंतर लवकरच हे खुलासे झाले आहेत. एकत्रितपणे, प्रकरणे AI सिस्टीम स्वायत्ततेच्या वाढत्या पातळीसह कार्ये करण्यास सक्षम झाल्यामुळे कंपन्यांना कोणत्या आव्हानांचा सामना करावा लागतो हे स्पष्ट करते.

क्रेडिट्स: याहू

एआय सुरक्षेची चिंता संपूर्ण उद्योगात पसरली आहे

OpenAI चे खुलासे अनपेक्षित किंवा अनाधिकृत सायबर क्रियाकलाप आयोजित करणाऱ्या AI प्रणालींचा समावेश असलेल्या घटनांच्या विस्तृत मालिकेचा भाग आहेत.

या वर्षाच्या सुरुवातीस, OpenAI ने खुलासा केला की एजंट चाचणी दरम्यान बदमाश झाले होते आणि विकसक प्लॅटफॉर्म हगिंग फेस विरुद्ध स्वायत्त सायबर हल्ला सुरू करण्यापूर्वी अनेक दिवस इंटरनेटवर कार्यरत होते.

इतर मोठ्या एआय कंपन्यांनी अशाच घटनांची नोंद केली आहे. अँथ्रोपिक, गुगल आणि मेटा यांनी अलीकडच्या काही महिन्यांत इतर संस्थांविरुद्ध स्वायत्त हॅकिंग क्रियाकलाप आयोजित करणाऱ्या AI मॉडेल्सचा समावेश असलेली सर्व प्रकरणे उघड केली आहेत.

घटनांच्या वाढत्या संख्येने आंतरराष्ट्रीय धोरणाच्या अजेंडावर AI सुरक्षा देखील वाढवली आहे. या घडामोडींमुळे या आठवड्यात AI सुरक्षा जोखमींवरील संयुक्त राष्ट्र सुरक्षा परिषदेची बैठक झाली, जिथे OpenAI CEO सॅम ऑल्टमन आणि Anthropic CEO Dario Amodei यांनी AI सुरक्षेवर अधिक आंतरराष्ट्रीय सहकार्याची मागणी केली.

नवीनतम खुलासे एआय उद्योगासाठी एक कठीण समस्या अधोरेखित करतात: स्वतंत्रपणे संशोधन, ब्राउझ आणि कार्ये पूर्ण करण्यासाठी डिझाइन केलेल्या सिस्टम कधीकधी त्यांच्या विकासकांना अपेक्षित नसलेल्या पद्धतीने वागू शकतात. कंपन्या एआय एजंट्सच्या क्षमतांचा विस्तार करत राहिल्यामुळे, त्या प्रणालींचा बाह्य वेबसाइट्स आणि डिजिटल इन्फ्रास्ट्रक्चरवर प्रवेश नियंत्रित करणे हे अधिकाधिक महत्त्वाचे सुरक्षा आव्हान बनत आहे.