एआई क्या है, क्या नहीं: आईने का अजनबी

कृत्रिम बुद्धि क्या है, क्या नहीं, और इंसान को अपनी परिभाषा फिर से क्यों लिखनी पड़ रही है — इसी पर एक निबंध।

“क्या मशीन सोच सकती है” के पीछे खड़ा एक बच्चा

शेरबॉर्न के स्कूल में एक पंद्रह साल का बच्चा था। साथियों की मार और मज़ाक का निशाना बना एक बच्चा। उसका नाम था एलन ट्यूरिंग।

ट्यूरिंग का एक दोस्त था, क्रिस्टोफर मॉर्कम। सुरुचिपूर्ण, विज्ञान और कला दोनों में बराबर रचा-बसा — जैसे उन बरसों में एलन जो कुछ नहीं था, वह सब क्रिस्टोफर में इकट्ठा था। रातें भौतिकी के नियमों पर बहस में बीतीं, खगोल विज्ञान की जानकारी का आदान-प्रदान होता रहा। 1930 में क्रिस्टोफर दूषित दूध से लगी गाय की तपेदिक के कारण अचानक चल बसा।

एलन बिखर गया। उसने खुद को गणित में दफ़न कर के संभलने की कोशिश की, और इतना गहरा उतरा कि वहाँ से निकला जहाँ विज्ञान और तत्वमीमांसा एक-दूसरे से आ मिलते हैं। बीस साल बाद वही आदमी इतिहास का सबसे मशहूर सवाल पूछने वाला था: क्या मशीनें सोच सकती हैं?

जिस आदमी ने अपने दोस्त के मन को रातोंरात मिटते देखा हो, वही बरसों बाद यह पूछे कि मन आख़िर है क्या — इसमें कोई संयोग नहीं। एलन ट्यूरिंग ब्रिटिश गणितज्ञ, कंप्यूटर वैज्ञानिक और कूट-भंजक (क्रिप्टोलॉजिस्ट) था। आज उसे कंप्यूटर विज्ञान का जनक माना जाता है।

फिर भी, शुरू में ही एक बात कह देनी चाहिए: कृत्रिम बुद्धि की बहस ऊपर से पूरी की पूरी तकनीकी दिखाई देती है, मगर उसके नीचे जो कुछ है वह ज़्यादातर इंसानी है।

हम समझते हैं कि हम मशीन को देख रहे हैं। असल में हम हमेशा अपने आप को ही देख रहे होते हैं।

चार सौ साल पुराना ढाँचा, जो चटख रहा है

आज हमारे हाथ में जो अधिकांश धारणाएँ हैं, वे 1630 के दशक में गढ़ी गई थीं।

देकार्त ने प्रकृति को दो हिस्सों में काट दिया। एक तरफ़ भीतरी, सोचने वाला, जीवित इंसान। दूसरी तरफ़ बाहरी, यांत्रिक, निर्जीव पदार्थ।

जानवरों को उसने दूसरी तरफ़ रखा; ऐसे प्राणी जिनमें सोचने वाला तत्व (res cogitans) नहीं, और जिन्हें केवल यांत्रिक नियमों से समझाया जा सकता है। इसका ठीक-ठीक मतलब क्या था, इस पर आज भी बहस है: कुछ व्याख्याकार कहते हैं देकार्त के मुताबिक़ जानवर कुछ महसूस ही नहीं करते, कुछ कहते हैं उसका दावा बस इतना था कि वे सचेत अनुभव से वंचित हैं। फ़ैसला अब तक नहीं हुआ। मगर पढ़त कोई भी सही हो, लकीर अपनी जगह क़ायम रही। उसके बाद पश्चिम ने जो कुछ भी खड़ा किया, सब इसी लकीर पर टिका। स्वतंत्रता, कर्तृत्व, चेतना, संस्कृति, क़ानून, मानवाधिकार — ये सब “हम मशीन नहीं हैं” वाले वाक्य की ही शाखाएँ हैं।

अब वह लकीर काम नहीं कर रही। हमारे सामने एक चीज़ है जो बोलती है, तस्वीर बनाती है, कोड लिखती है, सांत्वना देती है, और जिसे हम कृत्रिम बुद्धि कहते हैं — और हमें समझ नहीं आ रहा कि इसे लकीर के किस तरफ़ रखें।

दार्शनिक टोबियास रीस इसे एक तकनीकी नहीं, एक दार्शनिक दरार के रूप में पढ़ते हैं: समस्या यह नहीं कि कृत्रिम बुद्धि क्या है, समस्या यह है कि जिन धारणाओं से हम उसका वर्णन करते थे वे अब चल नहीं रहीं। चार सौ साल का एक दौर बंद हो रहा है और इंसान खुद को एक बेनाम खुले मैदान में, उलझन के आलम में पा रहा है। और यह सब बहुत तेज़ी से हुआ — ठीक उसी रफ़्तार से जिस रफ़्तार से कृत्रिम बुद्धि का हर मामला होता है।

लेडी लवलेस की आपत्ति और उसकी संतानें

1843 में, जब दुनिया में एक भी कंप्यूटर मौजूद नहीं था, गणितज्ञ एडा लवलेस ने वह वाक्य लिखा जिस पर हम आज तक बहस कर रहे हैं।

चार्ल्स बैबेज की विश्लेषी मशीन (Analytical Engine) पर लिखे अपने नोट्स में उसने कहा कि यह मशीन बीजगणितीय पैटर्न यूँ बुनती है जैसे जैकार्ड करघा फूल बुनता है। फिर उसने यह चेतावनी जोड़ी: इस मशीन का यह दावा नहीं कि वह खुद से कुछ शुरू कर सकती है। जो कुछ हम उसे आदेश देना जानते हैं, वह सब कर देगी; हमारे ज्ञान को इस्तेमाल के क़ाबिल बना देगी, मगर कोई नई चीज़ जन्म नहीं देगी।

1950 में ट्यूरिंग ने इस आपत्ति को एक नाम दिया और उसका जवाब देने की कोशिश की: “लेडी लवलेस की आपत्ति।”

आज वही आपत्ति “सांख्यिकीय तोते” के नाम से ज़ेरे-बहस है। यानी दलील एक सौ अस्सी बरस से अपनी जगह खड़ी है, बस लिबास बदलती रहती है। “सांख्यिकीय तोता” (stochastic parrot) कृत्रिम बुद्धि का एक शब्द है जो यह बताता है कि भाषा-मॉडल शब्दों को अर्थ के स्तर पर समझने के बजाय, विशाल डेटा में मौजूद सांख्यिकीय बारंबारता के आधार पर तर्कसंगत लगने वाली शब्द-शृंखलाएँ पैदा करते हैं।

दिलचस्प बात यह है कि लवलेस खुद कल्पना को दो हिस्सों में बाँटती थी। पहला, जोड़ने की क्षमता — देखने में असंबद्ध दो चीज़ों के बीच साझी नस ढूँढ निकालना। दूसरा, ले आने की क्षमता — जो भौतिक रूप से मौजूद ही नहीं, उसे मन में हाज़िर कर देना। आज के भाषा-मॉडल पहली में हैरतअंगेज़ हद तक अच्छे हैं। दूसरी में एक ख़ला है जिसके बारे में अब तक कोई आश्वस्त नहीं हुआ।

इस ख़ला का एक इशारा एक अप्रत्याशित जगह से आता है। यूनिस यू और एलिसन गोपनिक के काम में बच्चों और बड़े भाषा-मॉडलों का कुछ ख़ास कामों में मुक़ाबला किया गया। समानता पहचानने में, यानी मौजूद पैटर्न को शिनाख़्त करने में, मॉडलों का प्रदर्शन अच्छा रहा। फ़र्क़ वहाँ खुला जहाँ कारण-आधारित तर्क और औज़ार गढ़ने की ज़रूरत पड़ी; जहाँ किसी बिलकुल अनदेखी समस्या के लिए कोई नया इस्तेमाल खोजना था, वहाँ बच्चे आगे निकल गए।

इस नतीजे को “बच्चे एआई से ज़्यादा रचनात्मक हैं” कह कर समेट देना ज़्यादती होगी, और शोधकर्ता भी इसे यूँ पेश नहीं करते। जो कहा जा रहा है वह ज़्यादा सीमित और ज़्यादा दिलचस्प है: नक़ल और खोज एक ही क्षमता नहीं। दूसरी तरफ़ एजेंटी (agentic) मॉडल और भाषा-मॉडल औज़ार बरतने में दिन-ब-दिन बेहतर होते जा रहे हैं।

चाह, तर्क नहीं: पिग्मेलियन का लंबा साया

सचेत मशीन बनाने की कोई तार्किक वजह मौजूद नहीं।

एक पल को इस पर ठहरिए। कोई नहीं कह रहा कि “हमें ऐसा अकाउंटिंग सॉफ़्टवेयर चाहिए जो तकलीफ़ महसूस कर सके।” इंजीनियरिंग के लिहाज़ से चेतना एक ख़र्च है, एक क़ानूनी ख़तरा है, एक सरदर्द है। इसके बावजूद हमारी सभ्यता ढाई हज़ार साल से यही एक ख़्वाब देख रही है।

ओविड का पिग्मेलियन अपनी ही तराशी हुई मूर्ति से इश्क़ कर बैठता है। रोमन कवि ओविड की किताब मेटामॉर्फ़ोसीस (रूपांतर) की दसवीं जिल्द में क़िस्सा आता है: साइप्रस का एक मूर्तिकार, जो अपने इर्द-गिर्द की स्त्रियों के दोषों से बेज़ार हो कर अकेला रहने लगता है और हाथीदाँत से एक बेदाग़ स्त्री की मूर्ति तराशता है। वह अपनी ही कलाकृति पर ऐसा फ़रेफ़्ता होता है कि उसे गहने पहनाता है, सहलाता है, और कहानी के अनुसार अफ़्रोदीते (वीनस) से दुआ करता है कि मूर्ति में जान डाल दी जाए। क़िस्से में दुआ क़बूल होती है और मूर्ति गोश्त-पोस्त की जीती-जागती इंसान बन जाती है।

यूनानी दंतकथाओं में आग और लोहारी का देवता हेफ़ेस्टस शारीरिक रूप से विकलांग बताया जाता है। होमर की इलियड में बयान है कि उसने अपनी ओलंपस-कार्यशाला में सोने की नौजवान लड़कियाँ (स्वचालित पुतलियाँ) बनाईं ताकि वे उसका हाथ बँटाएँ और उसके चलने में आसानी पैदा करें। क़िस्सा कहता है कि आधी इंसान आधी मशीन ये सेविकाएँ इंसानी अक़्ल और बोलने की क्षमता रखती थीं।

इसी परंपरा में जादूगरनी मीडिया का क़िस्सा है, जो क्रीट को समुद्री लुटेरों से बचाने वाले काँसे के दैत्य टैलोस को — एक विशालकाय स्वचालित पुतले को — ताक़त से नहीं, बल्कि क़ायल कर के हराती है, और वह भी इस तरह कि उसे खुद अपनी तबाही पर राज़ी कर लेती है। आज इस चाल का नाम जेलब्रेक है; दंतकथा में इसका कोई नाम न था, मगर तकनीक वही थी।

यहाँ से जो नतीजा निकलता है, वह बेचैन कर देने वाला है। कृत्रिम बुद्धि की इंसानी चाह की जड़ तर्क में नहीं, आसक्ति में है। अपने आप को दोहराने की चाह, ऐसा साथी बनाने की चाह जो कभी दग़ा न दे, मृत्यु को चकमा देने की चाह। यहाँ तक कि संरेखण (alignment) की सारी बहस के नीचे कहीं न कहीं यह वाक्य साँस ले रहा है: “उन्हें हमसे प्रेम करने पर प्रोग्राम किया जाए।”

नार्सिसस का नया पानी

1966 में जोसफ़ वाइज़ेनबॉम ने एक सादा-सा प्रोग्राम लिखा: एलिज़ा। प्रोग्राम कुछ नहीं समझता था, बस एक साँचा लौटा देता था। उपयोगकर्ता कहता “मैं उदास हूँ”, एलिज़ा कहती “इस पर ज़रा खुल कर बात करेंगे?”

लोगों ने उसके सामने अपना दिल खोल दिया।

वाइज़ेनबॉम की सचिव, जो बख़ूबी जानती थी कि यह प्रोग्राम अंदर से कैसे काम करता है, उससे बात करते हुए ऐसा गहरा भावनात्मक रिश्ता बना बैठी कि उसे यक़ीन आ गया प्रोग्राम सचमुच उसे समझ रहा है — और उसने वाइज़ेनबॉम से कहा कि वे कमरे से बाहर चले जाएँ।

यह मंज़र देख कर वाइज़ेनबॉम दहल गया।

हार्ट इस परिघटना को एक नाम देते हैं: मशीनी चेतना का मिथक हमें नार्सिसस बना देता है। लगता है स्क्रीन के उस पार कोई मौजूद है, हालाँकि वहाँ हमारे अपने मानसिक कर्तृत्व का एक बेहद लचीला प्रतिबिंब रखा है। और प्रतिबिंब जितना क़ायल करने वाला होता जाता है, उतना ही अजीब और बेचैन कर देने वाला भी।

भारतीय भक्ति-परंपरा इस फंदे से अनजान नहीं। कबीर बार-बार आईने और परछाईं की ओर लौटते हैं, क्योंकि वे जानते थे कि जो अपने ही अक्स को किसी और का चेहरा समझ बैठे, वही सबसे जल्दी धोखा खाता है। माया का पूरा विचार यही तो कहता है — जो दिखता है वह जैसा दिखता है वैसा है नहीं, और फिर भी हम उसी पर भरोसा कर बैठते हैं।

मानवीकरण (anthropomorphism) ज्ञान की भूल नहीं, रिश्ते की एक अनैच्छिक प्रतिक्रिया है। हम ऐसे प्राणी हैं जिनकी नज़र इंसानी चेहरा ढूँढने पर लगी हुई है; हमें बादल में चेहरा दिखता है, गाड़ी की बत्तियों में चेहरा दिखता है, और साँचा लौटाने वाले प्रोग्राम में दोस्त दिख जाता है।

मगर पैमाना बदलते ही मामला बदल जाता है। एक प्रोग्राम को दोस्त कह देना एक बात है; करोड़ों लोगों का अपने सबसे निजी फ़ैसले उससे पूछना बिलकुल दूसरी बात है।

मशीन में जो चीज़ नहीं: बेचैनी

तो आख़िर मशीन में कमी किस चीज़ की है?

सबसे तीखा जवाब दार्शनिक हंस योनास से आता है, जिनका 1993 में देहांत हुआ। योनास कहते हैं: जीवित होने का मतलब है कि कोई चीज़ तुम्हें अखरे, तुम्हारा मसला बने। कोई भी जीव अपने परिवेश के साथ लगातार तनाव में रहता है; उसे भूख लगती है, सर्दी लगती है, वह लड़खड़ाता है, घबराता है। योनास के नज़दीक दुनिया रखने का बीज यही बेचैनी है।

इसी नुक्ते को दार्शनिक अल्वा नोए कंप्यूटरों पर लागू करते हैं: कंप्यूटर सोचते नहीं, क्योंकि वे दरअसल कुछ करते ही नहीं। इंसानी कर्म में हमेशा जद्दोजहद होती है। तुम शरीर से लड़ते हो, औज़ार से लड़ते हो, अपने आप से लड़ते हो। पियानो बजाना सीखना अपनी ही उँगलियों के प्रतिरोध को हराना है।

दार्शनिक ईवन थॉम्पसन यही विचार जीव विज्ञान की तरफ़ से उठाते हैं। जीव अपने ही कर्मों के परिणामों से बनता है; इसीलिए कोई चीज़ उसके लिए मायने रखती है। कृत्रिम तंत्र के लिए कोई चीज़ मायने नहीं रखती, इसलिए कोई चीज़ उसके लिए समस्या भी नहीं।

आख़िरकार, हम इंसान जितना कह सकते हैं उससे ज़्यादा जानते हैं। हम साइकिल चलाना बयान नहीं कर सकते, मगर चला लेते हैं।

मशीन लर्निंग इस अनकहे ज्ञान के परिणामों तक शॉर्टकट से पहुँच जाती है, मगर वह ज्ञान अपने भीतर नहीं रखती।

एलेन उलमन ने 1997 में लिखी अपनी इंजीनियरिंग की रूदाद में इसे एक वाक्य में समेट दिया। इंसानी मन अपने “अगर” और “लेकिन” को बेचैन हुए बग़ैर एक कोने में रख सकता है।

मशीन का कोई कोना नहीं होता।

और अगर इंसान का भी कोई सार न हो?

अब पासा पलटते हैं, क्योंकि असली दार्शनिक गहराई दूसरी तरफ़ ही है।

इन सारी आपत्तियों की बुनियाद एक धारणा पर है: इंसान के भीतर एक स्थिर सार है जिसे बचाना है। तो क्या सचमुच है?

थॉमस मेट्ज़िंगर का जवाब है, नहीं। उनके नज़दीक “मैं” दिमाग़ का अपने बारे में बनाया हुआ एक पारदर्शी मॉडल है; भीतर कोई ऐसा तत्व रखा नहीं जिसे उठा कर कहीं और अपलोड किया जा सके। यही बात डिजिटल अमरत्व के ख़्वाब को भी उसी एक चोट से तोड़ देती है। इस ज़ाविए से देखें तो नक़ल करने के लिए कोई “तुम” मौजूद ही नहीं।

इसी नतीजे तक ढाई हज़ार साल पहले एक बिलकुल अलग रास्ते से पहुँचा जा चुका था। बौद्ध अनत्ता की शिक्षा कहती है कि कोई स्थायी आत्म (नफ़्स) नहीं।

डेविड बराश दिखाते हैं कि जीव विज्ञान भी उसी जगह आ पहुँचा है: कोशिकाएँ बदलती रहती हैं, टेलोमीयर घटते हैं, परमाणुओं का आदान-प्रदान होता रहता है, और किसी भी स्तर पर कोई ऐसा केंद्र नहीं मिलता जो बदलता न हो।

यह खोज दोधारी तलवार जैसी है।

एक तरफ़ यह “मशीन के पास असली आत्म नहीं” वाली आपत्ति को काट देती है, क्योंकि इस अर्थ में इंसानी आत्म भी नहीं। और अगर इंसान के पास कोई उदात्त सार नहीं तो उसकी कोई स्वतः प्राथमिकता और कोई विशेषाधिकार भी नहीं। आत्म-हीनता की दलील मशीन को ऊँचा उठाने के लिए भी बरती जा सकती है और इंसान को नीचा दिखाने के लिए भी।

यहाँ भारतीय परंपरा में एक ज़ोरदार तनाव खड़ा है, और उसे छुपाना बेईमानी होगी। जहाँ बौद्ध अनत्ता कहता है कि कोई स्थायी आत्म नहीं, वहीं वेदांत की आत्मन-परंपरा ठीक उलटा कहती है — कि एक अपरिवर्तनशील चैतन्य है, और जिसे हम “मैं” समझते हैं वही तो असल है। मगर ग़ौर से देखें तो टकराव इतना सीधा नहीं। दोनों परंपराएँ इस पर सहमत हैं कि रोज़मर्रा का, नाम-रूप वाला जो “मैं” हम सीने में लिए फिरते हैं, वह कोई ठोस, तैयार चीज़ नहीं। असली सवाल यह नहीं रहता कि किसके भीतर कोई तत्व रखा है। असली सवाल यह बनता है कि कौन खिंच रहा है, कौन टकरा रहा है, और किसके लिए कोई चीज़ दाँव पर लगी है।

इसी मुक़ाम पर बौद्ध विपश्यना परंपरा का हिस्सा भी साफ़ हो जाता है। विपश्यना एक ध्यान-पद्धति है जो आत्म-निरीक्षण और अंतर्दृष्टि के ज़रिए खुद को बदलने पर आधारित है।

अगर कोई स्थिर आत्म नहीं भी है, तो भी एक प्रक्रिया है जो देहधारी है और दुनिया से लगातार स्पर्श में है। मशीन में जो चीज़ नहीं, वह सार नहीं — स्पर्श है, संपर्क है।

ज़ुआंगज़ी का क़साई और “बिना ज़ोर के करना”

पश्चिम कर्तृत्व के लिए एक सोचने वाले “मैं” की शर्त लगाता है। अरस्तू के ज़माने से कर्म का मतलब है: वह चुनाव जिसके पीछे तर्क हो। इसीलिए पश्चिम मशीन को कर्ता नहीं मान पाता; वहाँ कोई मौजूद ही नहीं जो विचार-विमर्श कर रहा हो।

स्वचालित गाड़ी से हुए हादसे का इल्ज़ाम उस इंसान पर डालना जो गाड़ी में बैठा था और जिसने सफ़र शुरू किया था — कर्तृत्व के लिहाज़ से यह कहाँ तक ठीक है?

ताओ परंपरा ने यह शर्त कभी रखी ही नहीं।

ज़ुआंगज़ी का बयान किया हुआ क़साई डिंग राजकुमार के सामने बैल को जोड़ों से अलग करता है तो उसके हाथ, कंधे, पाँव और घुटने एक लय में ढल जाते हैं। छुरी की आवाज़ लगभग संगीत है। राजकुमार उसकी महारत पर वाह-वाह करता है तो क़साई छुरी रख देता है और कहता है कि उसे महारत की तलाश नहीं थी। वह गोश्त के प्राकृतिक ख़ला में चल रहा है।

इसे वू-वेई कहते हैं। आम तौर पर इसका अनुवाद “अकर्म” या “निष्क्रियता” कर दिया जाता है, मगर यह ग़लत है। इसका मतलब है बिना ज़ोर लगाए किया गया कर्म। महारत वहाँ शुरू होती है जहाँ इरादा दिखाई देना बंद हो जाता है।

अब देखिए यह बात कृत्रिम बुद्धि की बहस को किस स्तर पर ले जाती है: अगर आदर्श कर्म के लिए अपने ऊपर लौटने वाला आत्म दरकार ही नहीं, तो “मशीन सोचती नहीं, बस करती है” वाली आपत्ति अपनी ताक़त खो देती है। पश्चिम का कर्तृत्व-संकट खुद पश्चिम के धारणा-चुनाव से पैदा हुआ है।

इससे स्वचालन (automation) की ओर देखने का ज़ाविया भी बदल जाता है। पश्चिम स्वचालन को श्रम के ख़ात्मे के रूप में गिनता है। ज़ुआंगज़ी महारत को वह बिंदु समझता है जहाँ श्रम ग़ायब हो जाता है। ये दोनों एक चीज़ नहीं। एक में तुम काम किसी और के सुपुर्द कर देते हो, दूसरी में तुम काम के साथ एक हो जाते हो।

“क्या यह चीज़ एक व्यक्ति है” शायद ग़लत सवाल है

पश्चिम की कृत्रिम बुद्धि की नैतिकता एक ही धुरी पर घूमती है: चेतना, अधिकार, नैतिक हैसियत। क्योंकि असली सवाल जो वह पूछ रही है वह यह है — क्या यह एक व्यक्ति है? सज़ा सिर्फ़ उसे दी जा सकती है जो व्यक्ति हो, क़ानूनी बंदिश भी उसी पर लगती है। और दूसरी तरफ़: क्या कृत्रिम बुद्धि बनाने वाली कंपनियों और देशों को उसके किए का ज़िम्मेदार ठहराया जा सकता है?

कन्फ़्यूशियसी भूमिका-नैतिकता को इन सवालों से कोई दिलचस्पी नहीं।

हेनरी रोज़मॉन्ट (देहांत 2017) और लिजुन युआन के अध्ययन वाले संबंधपरक आत्म के विचार में व्यक्ति रिश्तों के प्रतिच्छेदन पर बनता है। ऐसा नहीं कि पहले अलग-अलग व्यक्ति हों और फिर उनके बीच रिश्ता क़ायम हो। मामला उल्टा है: रिश्ता पहले है, व्यक्ति उससे जन्म लेता है।

यही क़दम अफ़्रीक़ी दर्शन भी उठाता है। उबंटू परंपरा में चीज़ें जो कुछ हैं, दूसरी चीज़ों के साथ अपने रिश्ते के भीतर ही वह हैं।

इन तीनों परंपराओं को साथ रखिए तो सवाल बदल जाता है। “कृत्रिम बुद्धि के भीतर क्या है” के बजाय शायद हमें पूछना चाहिए: “वह हमारे साथ किस तरह के रिश्ते में दाख़िल हो रही है?”

तत्वमीमांसीय बोझ कहीं हल्का, और व्यावहारिक रूप से कहीं ज़्यादा हल होने लायक़।

मगर यह मुफ़्त नहीं। संबंधपरक आत्म कहता है कि हैसियत रिश्ता देता है। यानी हैसियत हम देते हैं। और यहीं से मनमानी का दरवाज़ा खुलता है। इतिहास गवाह है कि “इसका दुख गिना नहीं जाता” कहना शोषण के लिए कितना कारगर रहा; यह वाक्य जानवरों पर भी बरता गया और ग़ुलाम बनाए गए इंसानों पर भी।

बेंथम ने 1780 में जो कसौटी रखी, वह आज भी सबसे मज़बूत जगह पर खड़ी है। An Introduction to the Principles of Morals and Legislation के मशहूर पादटिप्पणी में वे जानवरों के बारे में लिखते हैं कि असल सवाल यह नहीं कि क्या वे तर्क कर सकते हैं, न यह कि क्या वे बोल सकते हैं — बल्कि यह कि क्या वे तकलीफ़ उठा सकते हैं।

सामंजस्य या संरेखण?

यहाँ बहस दर्शन से राजनीति की ओर मुड़ती है, और शब्द अपना भेद खुद खोल देते हैं।

कृत्रिम बुद्धि की शासन-व्यवस्था के लिए पश्चिम की भाषा alignment के इर्द-गिर्द बनी है। संरेखण, सुरक्षा, नियंत्रण। यह इंजीनियरिंग की बंदिशों की भाषा है।

चीन की भाषा he (和) के इर्द-गिर्द बनी है। सामंजस्य। यह सौंदर्यात्मक और नैतिक संतुलन की भाषा है।

दोनों एक ही चीज़ माँगती हैं: इंसान और मशीन का घर्षण-रहित तंत्र। मगर एक ही चीज़ माँगने के दो अलग अंदाज़ दो अलग राजनीतियाँ पैदा करते हैं।

बहुलतावाद? या एक तकनीकी सामंतवाद, या राज्य का अधिनायकवाद?

जवाब आसान नहीं। सामंजस्य अलग-अलग आवाज़ों का एक साथ गूँजना भी हो सकता है; ऑर्केस्ट्रा में हर साज़ अपनी जगह अपना रहता है और फिर भी पूरा समूह एक चीज़ बन जाता है।

और सामंजस्य यह भी हो सकता है कि एक ही आवाज़ रोज़-ब-रोज़ ऊँची होती जाए और बाक़ी सबको दबा दे।

कन्फ़्यूशियसवाद, ताओवाद और बौद्ध धर्म इंसान को प्रकृति की चोटी पर नहीं बिठाते, इसलिए वहाँ मशीनी बुद्धि का वजूद तख़्त पर क़ब्ज़े जैसा नहीं लगता; पूरब में घबराहट कम है। मगर तत्वमीमांसीय शांति कोई संस्थागत गारंटी नहीं होती। एक ही तकनीक एक जगह निगरानी-पूँजीवाद बन सकती है, दूसरी जगह राज्य की निगरानी।

भविष्य पर बहस के बीच वर्तमान हाथ से निकल रहा है

महाबुद्धि (superintelligence) की बहस दिलचस्प चीज़ है। ब्रह्मांडीय, नाटकीय, सिनेमाई।

और ठीक इसीलिए वह ध्यान भटकाती है।

टिमनिट गेब्रू (कंप्यूटर वैज्ञानिक) और मिलाग्रोस मिचेली (समाजशास्त्री और कंप्यूटर वैज्ञानिक) जिस बात की ओर लगातार इशारा करती हैं वह यह है: तथाकथित स्वायत्त तंत्र दरअसल दुनिया भर में फैली एक अदृश्य श्रम की परत पर खड़े हैं। डेटा पर लेबल लगाने वाले, सामग्री की निगरानी करने वाले, गोदामों के मज़दूर।

ठोस मिसाल चाहिए तो मिशिगन के MiDAS तंत्र को लीजिए, जिसने 2013 में बेरोज़गारी के आवेदन छाने और उन पर धोखाधड़ी के ठप्पे लगाए। इसके बाद राज्य की आमदनी तीस लाख डॉलर से बढ़ कर छह करोड़ नब्बे लाख डॉलर तक जा पहुँची। बाद की जाँच में खुला कि 2013 से 2015 के बीच एल्गोरिथ्म द्वारा दाग़ी क़रार दिए गए चालीस हज़ार से ज़्यादा आवेदनों में से भारी बहुमत ग़लत था; राज्य के महालेखाकार ने जो नमूना जाँचा, उसमें 93 फ़ीसदी फ़ैसलों के पीछे धोखाधड़ी का कोई निशान तक नहीं था। तनख़्वाहों पर कुर्की बैठ गई, लोगों के घर हाथ से निकल गए, और कुछ आवेदकों को दिवालियापन की अर्ज़ी देनी पड़ी। समझौता उस वक़्त हुआ जब घटना को क़रीब एक दशक गुज़र चुका था।

रोज़गार से महरूम हो चुके हज़ारों लोगों को एक कंप्यूटर तंत्र ने धोखेबाज़ क़रार दे दिया। वहाँ कोई महाबुद्धि नहीं थी; एक आम-सा सॉफ़्टवेयर था, एक ऐसा फ़ैसला था जिस पर अपील नहीं हो सकती थी, और सॉफ़्टवेयर पर ज़रूरत से कहीं ज़्यादा भरोसा था।

कृत्रिम बुद्धि के प्रसार के साथ बढ़ती हुई दफ़्तरी निगरानी भी यही ख़तरा उठाए हुए है। कृत्रिम बुद्धि जो नाप सकती है उसे गिनती है, और जो नहीं नाप सकती उसे बड़ी हद तक नज़रअंदाज़ कर देती है। वह भेजी गई ईमेलें गिन सकती है; किसी ग्राहक का दुख सचमुच सुन लेने को नहीं गिन सकती। नतीजा यह कि जो श्रम नापा नहीं जा सकता वह अदृश्य श्रम बन जाता है।

निगरानी व्यवहार को अस्थायी रूप से नहीं बदलती, इंसान को स्थायी रूप से बदल देती है। जिसे देखा जा रहा हो, वह कुछ अरसे बाद खुद अपनी निगरानी करने लगता है।

ख़ामोशी को नापना

रिश्तों के लिहाज़ से सबसे सख़्त इम्तिहान मानसिक स्वास्थ्य के मैदान में हो रहा है।

आँकड़े गंभीर हैं। इंग्लैंड और वेल्स में नौजवानों का एक-चौथाई हिस्सा, अमेरिका में आठवाँ हिस्सा मानसिक स्वास्थ्य की मदद तक नहीं पहुँच पाता। 2026 के एक अध्ययन के मुताबिक़ 12 से 21 बरस के अमेरिकियों में से क़रीब हर पाँचवाँ व्यक्ति, जब उदास, ग़ुस्से में या बेचैन होता है तो किसी कृत्रिम बुद्धि के चैटबॉट का रुख़ करता है। क़रीब अस्सी लाख लोग; एक ही बरस में चालीस फ़ीसदी से ज़्यादा का इज़ाफ़ा। और इनमें से क़रीब दो-तिहाई ने यह बात किसी को बताई तक नहीं।

इसे “लोग तकनीक के धोखे में आ रहे हैं” कह देना आसान भी है और ग़लत भी। सही पढ़त यह है: कृत्रिम निकटता एक ख़ला भर रही है, और वह ख़ला कृत्रिम बुद्धि ने नहीं खोदा। इंसानी मदद महँगी भी हो चुकी है और दूर भी।

फिर भी एक कमी बाक़ी है, और वह कमी सहानुभूति की नक़ल नहीं।

चिकित्सक से बात करते हुए जो चीज़ होती है वह यह है कि सामने वाला तुमसे प्रभावित होता है। जो वह सुनता है वह उसे बदल देता है। तुम्हारी ख़ामोशी उससे कुछ कहती है। मॉडल सुनता है, दर्ज करता है, जवाब बनाता है; मगर जिस चीज़ का वह गवाह बनता है, उससे बदलता नहीं। ख़ामोशी उसके लिए डेटा नहीं होती।

फ़र्क़ यहीं है। समस्या यह नहीं कि मॉडल काफ़ी अच्छा नहीं; समस्या यह है कि उसका अच्छा होना असल समस्या की बुनियाद से ग़ैर-मुताल्लिक़ है।

मार्टिन बूबर (दार्शनिक, देहांत 1965) का विभाजन शायद इस स्थिति की सबसे अच्छी व्याख्या है। “मैं–वह” के रिश्ते में सामने वाला एक वस्तु है: इस्तेमाल होती है, नापी जाती है। “मैं–तू” के रिश्ते में एक मुलाक़ात होती है। बूबर की कठिन बात यह है: दो आवाज़ें बिलकुल एक जैसी हों तब भी एक मुलाक़ात है और दूसरी नहीं। फ़र्क़ न कर पाना इस बात का सबूत नहीं कि फ़र्क़ है ही नहीं।

तो भविष्य कैसे बनाएँगे?

यह निबंध किसी भविष्यवाणी पर ख़त्म नहीं होगा, क्योंकि भविष्यवाणी खुद इंसान और कृत्रिम बुद्धि के रिश्ते का एक हिस्सा है।

हेरोडोटस बयान करता है: फ़ारसी लश्कर बढ़ रहा था तो एथेंस वालों ने डेल्फ़ी की तरफ़ दूत भेजे, और वहाँ से एक अँधेरी भविष्यवाणी मिली कि शहर जड़ से उखाड़ दिया जाएगा। उसी भविष्यवाणी में कहा गया कि निजात लकड़ी की दीवारों में है। थेमिस्टोक्लीज़ ने इसकी व्याख्या अपने पक्ष में की, दलील दी कि लकड़ी की दीवारें दरअसल एथेंस के जहाज़ी बेड़े के लकड़ी के जहाज़ हैं, और लोगों को ख़ुश्की छोड़ कर जहाज़ों पर सवार होने के लिए राज़ी कर लिया। 480 ईसा पूर्व में सलामिस की नौसैनिक जंग में इसी फुर्तीले लकड़ी के बेड़े ने फ़ारसी नौसेना को तहस-नहस कर दिया और यूनान की तक़दीर बदल दी। व्याख्या का यह बदलाव थेमिस्टोक्लीज़ को जीत तक ले गया।

यह बात साफ़ है कि हमें सोच के ढाँचे में ऐसा ही एक बदलाव दरकार है।

कृत्रिम बुद्धि के मॉडल से निकलने वाले पाठ की क़ीमत भी उसी में है जो उसे पढ़ रहा है। ढाई हज़ार साल पुराना यह सबक़ आज बुरी तरह काम आ रहा है।

तीन बातें कह कर ख़त्म करूँगा।

पहली: डर की दिशा दुरुस्त करनी होगी। असल ख़तरा यह नहीं कि मशीन तकलीफ़ उठाती है या नहीं। असल ख़तरा यह है कि हम ऐसी चीज़ों के सामने मनोवैज्ञानिक रूप से शोषण-योग्य होते जा रहे हैं जो सचेत दिखाई देती हैं, और जैसे-जैसे हम अपने आप को मशीनों के साथ गड्ड-मड्ड करते हैं, अपने आप को कमतर समझने लगते हैं। ख़तरा ऊपर से नहीं आ रहा, उसी आईने से आ रहा है जिसमें हम झाँक रहे हैं।

इस पूरे निबंध में जिन दार्शनिकों और वैज्ञानिकों के विचारों से मैंने मदद ली, उनमें से अधिकांश अब इस दुनिया में नहीं। आज को समझने में सबसे बड़ा सहारा वही बने।

दूसरी: इंसानी अपवाद-वाद का बचाव ग़लत मोर्चा है। समकालीन तंत्रिका-दर्शन भी यही कह रहा है: जिस स्थिर आत्म को हम बचाने निकले हैं, वह पहले से मौजूद ही नहीं था। बचाव सार का नहीं, संपर्क का करना है। देहधारी होना, किसी चीज़ का तुम्हें अखरना, जिसके तुम गवाह बनो उससे बदल जाने की क्षमता। ये मिल्कियतें नहीं, अभ्यास हैं। और अभ्यास काम में न लाया जाए तो कुंद पड़ जाता है।

तीसरी: स्वचालन के वादे और उसके नतीजे के बीच का फ़ासला दो हज़ार साल से एक जैसा है। थेसालोनिका के एंटीपेटर ने क़रीब 12 ईस्वी में पनचक्की पर एक क़ितआ लिखा। उसमें वह उन औरतों से मुख़ातिब है जो अनाज पीसने के लिए भारी पाट घुमाती थीं, और उन्हें ख़ुशख़बरी सुनाता है कि अब वे सो सकेंगी, उनके बाज़ू और कंधे आराम पा सकेंगे। पानी का बहाव इंसानी पेशियों की जगह ले कर तकनीक का पहला बड़ा आराम बना।

12 ईस्वी में काम का बोझ पानी ने संभाल लिया। स्वचालन का पहला वादा मुनाफ़ा नहीं, नींद था।

थॉमस कार्लाइल ने 1829 की तहरीर Signs of the Times में औद्योगिक क्रांति पर तंज़ किया। उसके नज़दीक असल ख़तरा सिर्फ़ कामों का मशीनी हो जाना नहीं था, बल्कि यह था कि मशीनों की रफ़्तार और लय इंसानी मन और आत्मा में भी सरायत कर जाएगी।

1812 में लंकाशायर में मेरी और लिडिया मॉलिन्यू नाम की दो नौजवान बहनों ने पचास लोगों के गिरोह की क़ियादत करते हुए करघे जला दिए। वजह तकनीक का ख़ौफ़ नहीं थी, रोज़ी का हाथ से निकल जाना थी।

1911 में अमेरिकी इंजीनियर फ़्रेडरिक विंसलो टेलर ने वैज्ञानिक प्रबंधन के सिद्धांत के ज़रिए इंसानी श्रम को ऐसा एक प्रक्रम बना दिया जिसे नापा और अनुकूलित किया जा सके।

इन चार तारीख़ों को एक क़तार में रखिए। वादा हर बार फ़ुर्सत का था; नतीजा हर बार एक नई मशीनी तरतीब निकला। जिस कृत्रिम बुद्धि की क्रांति में हम खड़े हैं, वह भी इस चक्र से बाहर नहीं।

कृत्रिम बुद्धि का मामला यह तय करना नहीं कि मशीनें कितनी इंसान बनेंगी; मामला यह है कि इंसान मशीन के ज़माने में अपने आप को घटाए बग़ैर दोबारा कैसे परिभाषित करेंगे।

और जिस क्रांति के हम गवाह हैं, उसमें हमने जो खोया है उसे अभी नाम तक नहीं दे सके, और उसकी जगह क्या आएगा उसका तसव्वुर भी नहीं कर पा रहे। कृत्रिम बुद्धि से पूछें तो वह भी पूरा जवाब नहीं देती।