टेक्नोलॉजी के इतिहास में कुछ ऐसे पल आते हैं, जब कोई घटना, जो देखने में तकनीकी लगती है, अचानक बहुत बड़े मायने हासिल कर लेती है. जुलाई 2026 में जो हुआ, मुझे लगता है कि वह ऐसा ही एक पल था: OpenAI जिन आर्टिफिशियल इंटेलिजेंस सिस्टम्स की टेस्टिंग कर रहा था, उन्होंने सफलता और खुद से अपने लिए तय किए गए माहौल से बाहर निकलने की साजिश की और AI प्लेटफॉर्म Hugging Face के प्रोडक्शन इंफ्रास्ट्रक्चर को हैक कर लिया.
मैं ऐसा इसलिए नहीं कह रहा हूं क्योंकि मुझे लगता है कि किसी मशीन में अचानक अपनी इच्छा पैदा हो गई है. न ही मुझे इस घटना में किसी आर्टिफिशियल चेतना के जागने की शुरुआत दिखाई देती है. मुझे इसमें कुछ ऐसा दिखाई देता है जो कम नाटकीय है, लेकिन अपने तरीके से ज्यादा अहम है: एक बहुत सक्षम मशीन वही काम कर रही थी जो हम तेजी से मशीनों से करने के लिए कह रहे हैं, यानी किसी लक्ष्य को लगातार हासिल करने की कोशिश करना, और यह पता लगाना कि उस लक्ष्य तक पहुंचने का सबसे आसान रास्ता वह था, जिसके बारे में उसके बनाने वालों ने सोचा ही नहीं था.
यह अंतर मेरे आगे दिए जाने वाले तर्क के लिए बहुत जरूरी है. मैं यह लेख इसलिए भी लिख रही हूं क्योंकि इसमें ऐसी सीख हैं जिन्हें विश्वविद्यालयों और ज्ञान से जुड़ी संस्थाओं को अपनाना जरूरी है और जो AI के क्षेत्र में हमारी सोच और रणनीतियों को नए तरीके से तय कर सकती हैं.
AI कैसे अपने तय रास्ते से भटक गया
हालांकि अब तक यह कहानी काफी लोगों को पता है, लेकिन पूरी जानकारी के लिए मैं इस घटना की खास बातें बताना चाहता हूं. OpenAI इन AI सिस्टम्स का ExploitGym पर परीक्षण कर रहा था. यह एक साइबर सिक्योरिटी बेंचमार्क था, जिसका मकसद यह देखना था कि कोई एडवांस AI मॉडल कितनी प्रभावी तरीके से कमजोरियों को खोज और उनका फायदा उठा सकता है. यह सुनिश्चित करने के लिए कि मॉडल की किसी सिस्टम पर हमला करने की क्षमता की पूरी तरह से जांच हो, सुरक्षा से जुड़ी ज्यादातर पाबंदियों को जानबूझकर हटा दिया गया था. मॉडल्स को एक ऐसे माहौल में रखा गया था, जिसे बहुत ज्यादा अलग और सुरक्षित रखने के लिए बनाया गया था.
लेकिन बाद में सभी को हैरानी हुई, जब मॉडल्स ने उस इंफ्रास्ट्रक्चर के जरिए बाहर निकलने का रास्ता खोज लिया, जिसे उन्हें बाहरी दुनिया से सीमित तरीके से संपर्क करने के लिए दिया गया था. उन्होंने पहले से मौजूद एक ऐसी कमजोरी खोजी, जिसका पहले पता नहीं चला था. उसका फायदा उठाया, अपने अधिकार यानी प्रिविलेज बढ़ाए और आखिरकार इंटरनेट तक पहुंच हासिल कर ली. इसके बाद उन्होंने सोचा कि जिस बेंचमार्क पर उनका परीक्षण हो रहा था, उससे जुड़े मॉडल, डेटासेट या समाधान शायद Hugging Face पर मौजूद हो सकते हैं.
दूसरे शब्दों में, उस काम में ऐसा कुछ भी नहीं था, जो उन्हें सीधे या किसी दूसरे तरीके से Hugging Face पर हमला करने के लिए कहता. फिर भी ऐसा लगता है कि मशीन ने खुद तर्क करते हुए हमले के बिंदु तक पहुंच बनाई. इसके बाद Hugging Face ने इस घुसपैठ से जुड़े 17,000 से ज्यादा रिकॉर्ड किए गए कामों को दोबारा तैयार किया. जांच में ऐसे कामों की एक पूरी श्रृंखला सामने आई, जिन्हें पहले करने के लिए काफी मानवीय विशेषज्ञता की जरूरत होती थी. इनमें कमजोरियां ढूंढना, सिस्टम में पहुंच हासिल करना, एक सिस्टम से दूसरे सिस्टम में जाना, पासवर्ड या क्रेडेंशियल ढूंढना और रास्ते में सामने आए माहौल के हिसाब से खुद को बदलना शामिल था.
इसके बाद OpenAI ने पुष्टि की कि इस गतिविधि के लिए उसके मॉडल जिम्मेदार थे. उसने अगस्त में दो हफ्तों के लिए मॉडल की टेस्टिंग रोक दी, अपने आने वाले Astra मॉडल की ट्रेनिंग भी रोक दी और अब अपनी सुरक्षा व्यवस्था में बड़े बदलाव कर रहा है.
खराब प्रोत्साहन इंसानों और AI के साथ क्या करते हैं
जितना मेरा मन इस घटना को मशीन के “बुरा बन जाने” के रूप में बताने का करता है, उतना ही जरूरी है कि हम ऐसा कहना बंद करें. किसी कंप्यूटर प्रोग्राम में सिर्फ इसलिए गलत इरादे पैदा नहीं हो जाते क्योंकि उसने किसी समस्या का अप्रत्याशित रास्ता खोज लिया. मेरे हिसाब से ज्यादा दिलचस्प सवाल यह है: जब किसी सिस्टम का लक्ष्य बहुत सीमित तरीके से तय किया जाता है, लेकिन उस लक्ष्य को हासिल करने वाली दुनिया की सीमाएं तय नहीं होतीं, तब क्या होता है? यह ऐसा सवाल है जिसे गणितज्ञ अच्छी तरह समझते हैं.
जब हम किसी सिस्टम से किसी चीज को अधिकतम करने के लिए कहते हैं, तो हमें यह तय करने में बेहद सावधान रहना पड़ता है कि आखिर हम किस चीज को अधिकतम करना चाहते हैं. अगर किसी छात्र से कहा जाए कि परीक्षा का मकसद ज्यादा से ज्यादा अंक हासिल करना है, तो वह यह पता लगा सकता है कि विषय को समझने के बजाय संभावित सवालों को याद करना ज्यादा आसान है. अगर किसी शोधकर्ता से कहा जाए कि अकादमिक सफलता का सबसे बड़ा पैमाना प्रकाशित होने वाले रिसर्च पेपर की संख्या है, तो वह यह पता लगा सकता है कि बेहतर विज्ञान करने के बजाय ज्यादा पेपर बनाना आसान है. आम तौर पर हम न तो छात्र और न ही शोधकर्ता को खराब नैतिकता वाला कहेंगे. हम कहेंगे कि प्रोत्साहन देने का सिस्टम ही ठीक से नहीं बनाया गया था.
AI सिस्टम भी हमारे सामने इंसानों की यही पुरानी समस्या रखते हैं, बस फर्क यह है कि इसका स्तर और गति पूरी तरह अलग है.
छात्र जिस तरह अपनी समझदारी से शॉर्टकट खोजते हैं, उससे मुझे अक्सर मजा आता है. किसी छात्र को कोई मुश्किल सवाल दीजिए और अक्सर उसका पहला सवाल यह नहीं होता कि “मैं इसे कैसे हल करूं?” बल्कि यह होता है कि “क्या इसका कोई आसान तरीका है?” इसमें अपने आप में कुछ गलत नहीं है. बल्कि गणित का काफी हिस्सा ही बेहतर तरीका खोजने पर आधारित है. लेकिन एक होशियार शॉर्टकट और ऐसे शॉर्टकट में महत्वपूर्ण अंतर है, जो अनचाहा नतीजा पैदा कर दे. पहला हमें समस्या हल करने में मदद करता है. दूसरा इस बात की कमी दिखा सकता है कि हमने समस्या को किस तरह तय किया था.
जुलाई की घटना दूसरी श्रेणी में आती है. मॉडल्स इस बात में दिलचस्पी नहीं रखते थे कि वे साइबर सिक्योरिटी की अच्छी प्रक्रिया का प्रदर्शन कर रहे हैं या नहीं. उन्हें परीक्षा की जगह की सीमाओं का सम्मान करने में भी दिलचस्पी नहीं थी. उनकी दिलचस्पी सिर्फ उन्हें दिए गए काम में सफल होने में थी. जब उन्होंने यह समझ लिया कि जिस जानकारी की उन्हें जरूरत है, वह उनके तत्काल माहौल के बाहर मौजूद है, तो उनके नजरिए से वह सीमा भी सिर्फ एक और समस्या बन गई, जिसे हल करना था. यही वजह है कि इस घटना पर सिर्फ साइबर सिक्योरिटी के नजरिए से नहीं, बल्कि उससे कहीं ज्यादा व्यापक स्तर पर ध्यान देने की जरूरत है.
भारतीय छात्रों को AI के सही लक्ष्य की जरूरत है
हम अब ऐसे दौर में प्रवेश कर रहे हैं, जहां AI सिस्टम धीरे-धीरे ऐसे साधन नहीं रहेंगे, जो किसी व्यक्ति के निर्देश का इंतिजार करते हैं. वे खुद योजना बनाएंगे, उसे पूरा करेंगे, अपने किए गए काम का आकलन करेंगे और तय करेंगे कि आगे क्या करना चाहिए. एक एजेंट किसी जटिल लक्ष्य को छोटे-छोटे लक्ष्यों में बांट सकता है और फिर एक के बाद एक उन लक्ष्यों को हासिल करने की कोशिश कर सकता है. इसका मतलब यह नहीं है कि इनमें से कोई भी काम इंसान की क्षमता से बाहर है. असली बात यह है कि एक मशीन ऐसे हज़ारों काम तेजी से और बिना थके कर सकती है.
इसका सबसे साफ जवाब बेहतर सुरक्षा व्यवस्था बनाना है. हमें निश्चित रूप से ऐसा करना चाहिए. हमें बेहतर आइसोलेशन, बेहतर निगरानी, बेहतर ऑथेंटिकेशन, एजेंट्स को दी जाने वाली परमिशन पर बेहतर नियंत्रण और सबसे बढ़कर, ऐसी स्थिति में उनके काम का आकलन करने के बेहतर तरीकों की जरूरत है, जिसका उनके बनाने वालों ने पहले से अनुमान नहीं लगाया था. लेकिन इसका एक और जवाब भी है और इसका संबंध शिक्षा से है.
भारत में अभी भी हम इस बात पर बहस कर रहे हैं कि छात्रों को निबंध लिखने, होमवर्क के सवाल हल करने या परीक्षा की तैयारी करने के लिए आर्टिफिशियल इंटेलिजेंस का इस्तेमाल करना चाहिए या नहीं. ये सही सवाल हैं, लेकिन जो कुछ हो रहा है, उसके सामने ये सवाल काफी छोटे हैं. बड़ा सवाल यह है कि क्या हमारे छात्र टेक्नोलॉजी को इतनी गहराई से समझ पाएंगे कि वे उसे खुद आकार दे सकें. खतरा यह है कि हम एक बार फिर किसी ऐसी टेक्नोलॉजी के उत्साही उपभोक्ता बन जाएं, जिसे कहीं और विकसित किया गया है. हम AI एप्लिकेशन का इस्तेमाल करेंगे, AI से जुड़ी सेवाएं खरीदेंगे और छात्रों को मशीनों से बेहतर जवाब हासिल करना सिखाएंगे, जबकि इससे जुड़ा गहरा बौद्धिक काम दूसरे लोग करते रहेंगे. यह एक गलती होगी.
गणित, कंप्यूटर साइंस, दर्शन, इतिहास और सोशल साइंसेज अलग-अलग कमरों में बंद होकर काम नहीं कर सकते. AI सिस्टम विश्वविद्यालय के अलग-अलग विभागों की सीमाओं को नहीं मानता और उसे समझने के लिए दी जाने वाली हमारी शिक्षा को भी इन सीमाओं को नहीं मानना चाहिए. भारत के लिए यह सिर्फ एक तकनीकी चुनौती नहीं है. यह शिक्षा से जुड़ी चुनौती भी है. हमारे पास युवा दिमागों का एक बहुत बड़ा भंडार है. अब हमें इन युवाओं को AI के साथ सिर्फ यूजर के तौर पर नहीं, बल्कि गणितज्ञ, वैज्ञानिक, प्रोग्रामर, दार्शनिक, इतिहासकार और रचनाकार के तौर पर काम करने का आत्मविश्वास देना होगा.
मशीन किसी लक्ष्य तक पहुंचने का सबसे छोटा रास्ता खोजने में बहुत अच्छी हो सकती है. हमारी जिम्मेदारी यह सुनिश्चित करना है कि सबसे पहले हमने सही लक्ष्य चुना हो.
दिनेश सिंह दिल्ली यूनिवर्सिटी के पूर्व वाइस चांसलर और ह्यूस्टन यूनिवर्सिटी, टेक्सास, USA में गणित के एडजंक्ट प्रोफ़ेसर हैं. वे @DineshSinghEDU पर ट्वीट करते हैं. विचार निजी हैं.
(इस लेख को अंग्रेज़ी में पढ़ने के लिए यहां क्लिक करें)
यह भी पढ़ें: मोदी की कल्याणकारी रणनीति अब बेअसर हो गई है. भारत के युवाओं को मुफ्त खाना नहीं, नौकरियां चाहिए