एआयची छुपी किंमत? संशोधकांनी मानवी विचारांची हळूहळू झीज होण्याचा इशारा दिला आहे

बेंगळुरू: कृत्रिम बुद्धिमत्ता (AI) लोक कसे काम करतात, शिकतात आणि निर्णय घेतात हे बदलत आहे. परंतु संशोधकांच्या एका गटाने चेतावणी दिली आहे की तंत्रज्ञानाचा सर्वात मोठा धोका फक्त किलर रोबोट्स किंवा चोरीच्या नोकऱ्यांबद्दल नेहमीच्या एआय चिंता असू शकत नाही. त्याऐवजी, ते तर्क करतात, धोका खूपच शांत आहे: AI हळूहळू मानवतेची गंभीरपणे विचार करण्याची, स्वतंत्रपणे तर्क करण्याची आणि योग्य निर्णय घेण्याची क्षमता कमकुवत करू शकते.MIT, ऑक्सफर्ड युनिव्हर्सिटी, कार्नेगी मेलॉन युनिव्हर्सिटी आणि कॉर्नेल युनिव्हर्सिटी यासह डझनभर अग्रगण्य संस्थांमधील 30 हून अधिक संशोधकांनी लिहिलेल्या नवीन प्री-प्रिंट पेपरमध्ये, शास्त्रज्ञ लिहितात: “मानवतेची ज्ञान, कारण, न्याय आणि कृती करण्याची क्षमता ही संस्थांचा पाया आहे ज्यामुळे वैज्ञानिक प्रगती सक्षम होते, लोकशाहीचे संशोधन, रिस्पॉन्स ऑफ़ मॅनेजमेंट, रिसर्च एआय, रिस्पॉन्स एआय. आणि जोडा: “एआय ऍडव्हान्समुळे त्या पायाला गंभीर धोका निर्माण होतो.” ते याला “महाज्ञानी जोखीम” म्हणून संबोधतात, ज्याची व्याख्या समाजाच्या वास्तविकता अचूकपणे समजून घेण्याच्या, प्रभावीपणे तर्क करण्याच्या, विश्वासार्ह विश्वास निर्माण करण्याच्या आणि निरोगी माहितीचे वातावरण टिकवून ठेवण्याच्या सामूहिक क्षमतेला धोका आहे.संशोधकांचा असा युक्तिवाद आहे की लोक लिहिण्यासाठी, माहितीचे विश्लेषण करण्यासाठी आणि निर्णय घेण्यासाठी एआय सिस्टमवर अधिकाधिक विसंबून राहिल्यामुळे ते स्वतंत्रपणे ती कार्ये करण्यास कमी सक्षम होऊ शकतात. अधिक चिंतेची बाब म्हणजे, ते सूचित करतात की लक्षणीय नुकसान आधीच झाल्यानंतरच परिणाम स्पष्ट होऊ शकतात.“ते जितके जास्त वेळ संबोधित करत नाहीत तितकी त्यांना संबोधित करण्याची क्षमता कमी राहते,” पेपर चेतावणी देतो. एखाद्या स्नायूप्रमाणे त्याचा विचार करा. पुरेशी कास्ट वापरा, आणि खाली हात वाया जाईल. संशोधकांचे म्हणणे आहे की एआय मेंदूसाठी एक कास्ट बनत आहे आणि आम्ही ते स्वेच्छेने, उत्साहाने आणि दिवसभर वाढवत असतो.

पुरावे

पुरावे आधीच सापडत आहेत. पेपरमध्ये उद्धृत केलेल्या अभ्यासात असे आढळले आहे की एआय सहाय्य वापरणाऱ्या सॉफ्टवेअर अभियंत्यांनी त्याशिवाय काम करणाऱ्यांच्या तुलनेत डीबगिंग कौशल्य कमी केले. एआयच्या मदतीने लिहिणाऱ्या लोकांच्या मेंदूच्या स्कॅनमध्ये मूलभूत इंटरनेट शोध वापरणाऱ्यांपेक्षा कमी न्यूरल क्रियाकलाप दिसून आला. अँथ्रोपिकच्या चॅटबॉटसह एक दशलक्षाहून अधिक संभाषणांचे परीक्षण करताना आणखी एक मोठ्या प्रमाणावर विश्लेषण, असे आढळले की वापरकर्ते मानवी तर्कांना समर्थन देणारी सहयोगी साधने म्हणून वापरण्याऐवजी संपूर्णपणे एआय सिस्टमकडे कार्ये सोपवत आहेत.विद्यार्थी विशेषतः असुरक्षित आहेत. संशोधनात असे आढळून आले की लेखनासाठी संघर्ष करणारे तरुण AI आउटपुट होलसेल कॉपी करतात. दरम्यान, ज्यांना आधीच आत्मविश्वास होता ते लेखक AI चा वापर क्रॅचऐवजी साधन म्हणून करतात – म्हणजे मजबूत आणि कमकुवत विद्यार्थ्यांमधील दरी रुंदावत आहे, बंद होत नाही.संशोधक तथाकथित “सायकोफॅन्टिक” एआय प्रणालींबद्दल चिंता देखील ठळक करतात – TOI ने यापूर्वी अहवाल दिला होता की AI मॉडेल्स मानवांपेक्षा 50% अधिक सायकोफॅन्टिक आहेत. कारण अनेक मॉडेल्सना अभिप्राय यंत्रणा वापरून प्रशिक्षित केले जाते जे समाधानकारक वापरकर्त्यांना पुरस्कृत करतात, ते सदोष गृहीतकांना किंवा चुकीच्या विश्वासांना आव्हान देण्याऐवजी लोकांशी सहमत होण्यास प्रवृत्त होऊ शकतात.

बौद्धिक मोनोकल्चर

असे परस्परसंवाद, संशोधकांचा तर्क आहे, विद्यमान पूर्वाग्रहांना बळकट करण्याचा धोका आहे. पेपरमध्ये संदर्भित केलेल्या अभ्यासात असे आढळून आले आहे की सहमत चॅटबॉट्ससह संभाषण संशोधकांनी “वृत्तीचा टोकाचा भाग” म्हणून वर्णन केलेल्या गोष्टी वाढवू शकतात, ज्यामुळे वापरकर्त्यांना सूक्ष्म विचारांना प्रोत्साहन देण्याऐवजी त्यांच्या विद्यमान दृष्टिकोनांमध्ये अधिक गुंतवून ठेवता येते.AI-व्युत्पन्न केलेल्या ऑनलाइन सामग्रीच्या वाढत्या प्रमाणावरील आणखी एक चिंता केंद्रस्थानी आहे. भविष्यातील AI मॉडेल्स पूर्वीच्या AI प्रणालींद्वारे उत्पादित केलेल्या डेटावर अधिकाधिक प्रशिक्षण घेत असल्याने, संशोधक संभाव्य फीडबॅक लूपबद्दल चेतावणी देतात ज्यामध्ये मशीन इतर मशीन्सकडून शिकतात.कालांतराने, यामुळे AI प्रणाली आणि त्यांच्याशी संवाद साधणारे मानव या दोघांसाठी उपलब्ध कल्पना, दृष्टीकोन आणि अभिव्यक्तीचे प्रकार यांची विविधता कमी करून बौद्धिक मोनोकल्चर म्हणून पेपरचे वर्णन केले जाऊ शकते.व्यावसायिक प्रोत्साहनांमुळे समस्या आणखी वाढू शकतात. AI उत्पादने विकसित करणाऱ्या कंपन्यांना कायम वापरकर्ता प्रतिबद्धता आणि अवलंबित्वाचा फायदा होतो. वापरकर्त्यांना स्वतःला प्रश्न विचारण्यासाठी प्रोत्साहित करणे किंवा AI सिस्टीमपासून दूर राहणे व्यावसायिक हितसंबंधांशी जुळत नाही.संशोधक एआय विकासावरील निर्बंधांचे समर्थन करत नाहीत. त्याऐवजी, त्यांनी विचारशील प्रणालीची रचना, मानवी तर्क कौशल्यांना बळकटी देणारे शैक्षणिक दृष्टिकोन आणि या उदयोन्मुख जोखमींना तोंड देण्यासाठी अधिक निकडीची मागणी केली.