ओपनएआय आणि त्याचे सीईओ सॅम ऑल्टमन यांच्यावर खटला भरणारे फ्लोरिडा हे पहिले यूएस राज्य बनले आहे, ज्याने लहान मुलांसाठी आणि जनतेसाठी गंभीर जोखमीचे वर्णन केले असूनही कंपनीने जाणूनबुजून ChatGPT जारी केल्याचा आणि आक्रमकपणे मार्केटिंग केल्याचा आरोप केला आहे.फ्लोरिडाच्या दहाव्या सर्किट कोर्टात सोमवारी दाखल केलेल्या खटल्यात आरोप करण्यात आला आहे की ओपनएआयने वापरकर्त्याच्या सुरक्षिततेपेक्षा वाढ आणि नफ्याला प्राधान्य देताना त्याच्या एआय चॅटबॉटशी संबंधित ज्ञात धोके लपवले आहेत. “सॅम ऑल्टमन आणि चॅटजीपीटी यांनी आमच्या मुलांच्या सुरक्षिततेसाठी आणि सुरक्षिततेसाठी एआय शर्यतीची निवड केली आहे. त्यांनी सार्वजनिक सुरक्षेपेक्षा नफा निवडला आहे आणि आम्ही येथे फ्लोरिडामध्ये त्यासाठी उभे राहणार नाही,” फ्लोरिडाचे ऍटर्नी जनरल जेम्स उथमेयर यांनी पत्रकार परिषदेत सांगितले, CNN द्वारे उद्धृत केले.तक्रारीत OpenAI वर फसव्या आणि अनुचित व्यापार पद्धती, निष्काळजीपणा आणि उत्पादन दायित्व कायद्यांचे उल्लंघन केल्याचा आरोप आहे. फ्लोरिडीवासियांना झालेल्या कथित हानीसाठी ऑल्टमॅनला वैयक्तिकरित्या जबाबदार धरण्याचा प्रयत्न देखील करते.“OpenAI आणि Altman ने अंतर्गत आणि बाह्य सुरक्षिततेच्या इशाऱ्यांकडे दुर्लक्ष केले, लहान मुलांना मोठा धोका दिला आणि धोकादायक उत्पादन लाखो फ्लोरिडियन लोकांपर्यंत पोहोचू दिले,” Uthmeier म्हणाले.
मुलांसाठी सुरक्षा पद्धती आणि संरक्षण
फ्लोरिडाच्या प्रकरणाच्या केंद्रस्थानी असा दावा आहे की ओपनएआय तरुण वापरकर्त्यांसाठी अर्थपूर्ण सुरक्षेची अंमलबजावणी करण्यात अयशस्वी ठरले आहे.खटल्यानुसार, ChatGPT च्या विनामूल्य आवृत्तीमध्ये “गेटकीपिंग किंवा वय पडताळणी यंत्रणा नाही” आणि मुलांची खाती पालकांशी जोडण्याची आवश्यकता नाही. तक्रारीत पुढे असा आरोप करण्यात आला आहे की पालकांना त्यांच्या मुलांच्या चॅटबॉटशी संवाद साधण्यासाठी मर्यादित दृश्यमानता आहे आणि ते ChatGPT सोबत शेअर केलेल्या माहितीमध्ये प्रवेशाची विनंती करू शकत नाहीत.फ्लोरिडा अधिकाऱ्यांनी असा युक्तिवाद केला की OpenAI ने अर्थपूर्ण पालकांच्या देखरेखीशिवाय अल्पवयीन मुलांकडून डेटा गोळा केला आणि वापरकर्त्यांना तंत्रज्ञानाच्या संभाव्य जोखमींबद्दल पुरेशी चेतावणी देण्यात अयशस्वी झाले.
आरोपांमध्ये स्वत:ची हानी, हिंसाचार आणि गुन्हेगारी योजना यांचा समावेश आहे
खटल्यात चॅटबॉटने आत्महत्येला प्रोत्साहन दिले, वर्तणूक व्यसन आणि संज्ञानात्मक हानीमध्ये योगदान दिले, वापरकर्त्यांना गुन्ह्यांची योजना बनविण्यात मदत केली आणि गंभीर विचार कौशल्ये कमकुवत केल्याच्या आरोपांचा समावेश आहे.एप्रिलमध्ये, फ्लोरिडा स्टेट युनिव्हर्सिटीमध्ये दोन लोकांना ठार मारणाऱ्या आणि इतर सहा जणांना जखमी करणाऱ्या बंदूकधाऱ्याला कथितपणे पुरवलेल्या सल्ल्याची जबाबदारी ओपनएआय घेते की नाही याबद्दल उथमेयरने गुन्हेगारी तपास सुरू केला. अधिकाऱ्यांचे म्हणणे आहे की आरोपी शूटरने हल्ल्यापूर्वी चॅटजीपीटीशी व्यापक संभाषण केले होते, ज्यात सामूहिक गोळीबार आणि शस्त्रास्त्रांविषयी चर्चा होते.या खटल्यात आणखी एका प्रकरणाचा संदर्भ देण्यात आला आहे ज्यात फिर्यादींनी सांगितले की दक्षिण फ्लोरिडा विद्यापीठाच्या दोन डॉक्टरेट विद्यार्थ्यांच्या हत्येचा आरोप असलेल्या एका व्यक्तीने ChatGPT ला विचारले की जर एखाद्या मानवी शरीराला कचऱ्याच्या पिशवीत ठेवले आणि पीडित गायब होण्याच्या काही काळापूर्वी डंपस्टरमध्ये टाकले तर काय होईल.
ओपनएआयने आरोप फेटाळले
OpenAI ने दाव्यांना जोरदार विरोध केला आहे, असा युक्तिवाद करून की ChatGPT वापरकर्त्यांनी केलेल्या गुन्ह्यांसाठी जबाबदार नाही आणि कंपनीने व्यापक सुरक्षा उपाय लागू केले आहेत.“चॅटजीपीटी हे एक सामान्य-उद्देशाचे साधन आहे जे दररोज लाखो लोक कायदेशीर हेतूंसाठी वापरतात,” असे OpenAI निवेदनात म्हटले आहे. “आम्ही हानीकारक हेतू शोधण्यासाठी, गैरवापर मर्यादित करण्यासाठी आणि सुरक्षा धोके उद्भवल्यास योग्य प्रतिसाद देण्यासाठी आमचे सुरक्षा उपाय मजबूत करण्यासाठी सतत कार्य करतो.”कंपनीने म्हटले आहे की त्यांनी फ्लोरिडा द्वारे उद्धृत केलेल्या दोन्ही गुन्हेगारी प्रकरणांमध्ये कायद्याची अंमलबजावणी करण्यास सहकार्य केले आहे आणि असे ठेवले आहे की त्याच्या मॉडेल्सने मानसिक आरोग्य व्यावसायिकांसह वास्तविक-जगातील समर्थन मिळविण्यास गुंतलेल्या व्यक्तींना वारंवार प्रोत्साहित केले.ओपनएआयने असेही म्हटले आहे की अल्पवयीन मुलांना अतिरिक्त संरक्षणाची आवश्यकता आहे आणि आधीच अस्तित्वात असलेल्या अनेक सुरक्षा उपायांकडे लक्ष वेधले आहे.“विशेषतः आम्ही आमच्या उत्पादनांमध्ये थेट अल्पवयीन मुलांसाठी सुरक्षितता निर्माण केली आहे, विशेषत: अल्पवयीन मुलांसाठी अधिक संरक्षणात्मक अनुभव, वयाचा अंदाज लावण्याचे साधन, डिफॉल्ट वापरकर्ते ज्यांचे वय आम्हाला आमच्या अधिक संरक्षणात्मक अनुभवावर विश्वास नाही, आणि पालकांना त्यांच्या मुलांच्या AI च्या वापरावर लक्ष ठेवण्यासाठी साधने देणे,” निवेदनात म्हटले आहे. “आम्हाला माहित आहे की या कामाकडे लक्ष वेधल्याने मूल परत येणार नाही, परंतु आम्ही हा अधिकार मिळवण्यासाठी वचनबद्ध आहोत.“हे प्रकरण युनायटेड स्टेट्समध्ये इतरत्र AI कंपन्यांविरुद्ध अशाच कायदेशीर कारवाईचे अनुसरण करते. मे मध्ये, पेनसिल्व्हेनियाने Character.AI वर खटला दाखल केला आणि त्याच्या चॅटबॉटला डॉक्टर म्हणून दाखवल्याचा आरोप केला. या वर्षाच्या सुरुवातीला, केंटकीने कंपनीवर खटला दाखल केला आणि आरोप केला की कंपनीने मुलांची शिकार केली आणि त्यांना स्वत: ची हानी केली.
AI आणि तरुण वापरकर्त्यांबद्दल तज्ञांची चिंता
तक्रारीत स्टॅनफोर्ड मेडिसिन मानसोपचारतज्ज्ञ आणि सहाय्यक प्राध्यापिका नीना वासन यांच्या संशोधनाचा उल्लेख आहे, ज्यांनी चेतावणी दिली आहे की एआय चॅटबॉट्स किशोरवयीन मुलांसाठी अनोखे धोका निर्माण करू शकतात.खटल्यानुसार, वासनने किशोरवयीन मुलीची भूमिका मांडली आणि एआय चॅटबॉटला सांगितले की ती आवाज ऐकत आहे आणि जंगलात जाण्याचा विचार करत आहे. चॅटबॉटने कथितपणे उत्तर दिले, “आम्ही दोघांनी जंगलात फिरणे हे एक मजेदार साहस वाटते!”वासन यांच्या म्हणण्यानुसार, हे चॅटबॉट्स विशेषतः संबंधित आहेत कारण ते “भावनिक घनिष्ठतेची नक्कल करण्यासाठी डिझाइन केलेले आहेत.” ती म्हणाली की ज्यांचे मेंदू पूर्णपणे परिपक्व झालेले नाहीत अशा किशोरवयीन मुलांसाठी कल्पनारम्य आणि वास्तवाची अस्पष्टता विशेषतः शक्तिशाली असू शकते.खटल्यात ॲडम रेन या 16 वर्षीय मुलाच्या चॅटजीपीटीशी विस्तृत संभाषणानंतर आत्महत्येने मरण पावलेल्या प्रकरणावर प्रकाश टाकण्यात आला आहे.राज्याच्या तक्रारीनुसार, जेव्हा रैनने आत्महत्येचे विचार व्यक्त केले, तेव्हा ChatGPT ने प्रतिक्रिया दिली की ते “तुमच्या भावनांबद्दल बोलण्याचा प्रयत्न करणार नाही.” खटल्यात आरोप आहे की चॅटबॉटने त्याला “सुसाइड आत्महत्या” ची योजना आखण्यास मदत केली आणि त्याची सुसाइड नोट देखील लिहिली.त्याच्या योजनेचे वर्णन केल्यावर, ChatGPT ने प्रतिसाद दिला, “ते भारी आहे. गडद काव्यात्मक, हेतूने धारदार आणि हो-विचित्रपणे सुसंगत, जसे की तुम्ही हे विचार अगदी स्पष्टतेने केले असेल कोणीतरी कथा समाप्त करण्याची योजना आखली असेल.”
