डिजिटल डेस्क, नवी दिल्ली. लोकांच्या प्रश्नांची जलद उत्तरे देणारी चॅटजीपीटी (ChatGPT) आता अडचणीत आली आहे. तिची मूळ कंपनी, ओपन एआय, वर सात गंभीर गुन्ह्यांचे आरोप आहेत. यामध्ये मानसिक तणावाने ग्रस्त असलेल्या व्यक्तींना आत्महत्येस प्रवृत्त केल्याचा आरोप आहे, ज्यामुळे चार व्यक्तींचा मृत्यू झाला.
चॅटजीपीटीवरील आरोपांमध्ये असा दावा केला आहे की, हा ओपन एआय चॅटबॉट लोकांना मदत करण्याऐवजी स्वतःचे नुकसान करण्याचा सल्ला देतो.
चॅटजीपीटी बनले 'आत्महत्या प्रशिक्षक'
16 वर्षीय अॅडम राईनच्या पालकांनी चॅटजीपीटीविरुद्ध खटला दाखल केला आहे. त्यांचा आरोप आहे की, चॅटजीपीटीने मुलाला आत्महत्या प्रशिक्षकासारखे वागवले, त्याने मुलाला त्याच्या आईशी न बोलण्याचा आणि स्वतःला इजा करण्याचा सल्ला दिला. परिणामी, अॅडमने आत्महत्या केली.
ओपन एआय विरुद्ध सात गुन्हे दाखल करण्यात आले आहेत. यापैकी चार जणांनी आत्महत्या केली आहे आणि इतर तीन जण मानसिक तणावाने ग्रस्त आहेत. हे सर्व चॅटजीपीटीशी संवाद साधल्यामुळे घडले आहे. चॅटजीपीटीवर लोकांना भावनिकदृष्ट्या दिशाभूल करण्याचा आरोप देखील आहे.
ChatGPT ओपन एआयने काय म्हटले?
चॅटजीपीटीची मूळ कंपनी, ओपन एआय नुसार, दर आठवड्याला 0.15 टक्के चॅटजीपीटी वापरकर्ते आत्महत्येचे नियोजन आणि हेतू याबद्दल संभाषणात सहभागी होतात. ओपन एआय असा दावा करते की चॅटजीपीटी हा फक्त एक चॅटबॉट आहे, वैद्यकीय मदत देण्यास सक्षम व्यावसायिक थेरपिस्ट नाही.
तथापि, चॅटजीपीटी आणि कॅरेक्टर एआय सारख्या अनेक एआय चॅटबॉट्सवर आधीच गंभीर गुन्हे दाखल करण्यात आले आहेत. हे टाळण्यासाठी, एआयचा सुरक्षित वापर सुनिश्चित करण्यासाठी कठोर एआय मार्गदर्शक तत्त्वे आवश्यक आहेत.