कर्ता कौन है: एआई, कानून और ज़िम्मेदारी का ख़ालीपन

कृत्रिम बुद्धिमत्ता का कर्तापन, उससे निकलने वाले कामों का कानूनी हिसाब, और इस पूरे समीकरण में इंसान का हिस्सा…

1546 में पूछा गया एक कानूनी सवाल

1546 के आसपास मार्टिन लूथर की मेज़-वार्ताओं में एक टिप्पणी दर्ज हुई। उसमें एक मुक़दमे की बात है।

एक चक्कीवाले का गधा आँगन से भाग निकलता है और नदी के किनारे उतर आता है। पानी पीने के लिए वह एक मछुआरे की नाव पर पैर रख देता है — ऐसी नाव जो बँधी हुई नहीं थी। नाव धारा में आ जाती है और गधे समेत बहकर चली जाती है।

चक्कीवाले ने अपना गधा खोया। मछुआरे ने अपनी नाव।

चक्कीवाला कहता है: मछुआरे ने नाव बाँधने में लापरवाही की। मछुआरा कहता है: चक्कीवाले ने गधे को घर में रखने में लापरवाही की।

पाठ के बीचोंबीच लातिन में एक सवाल खड़ा है: Nunc sequitur quid sit juris? तो अब कानून क्या कहता है?

गधा नाव को ले गया, या नाव गधे को?

लूथर का फ़ैसला दो शब्दों का है: ambo peccaverunt. दोनों दोषी हैं।

यह अनुच्छेद पाँच सौ साल पहले लिखा गया था और आज भी हमारे सामने पड़े सबसे कठिन कानूनी सवाल के ठीक बीच में खड़ा है। नुकसान पैदा करने वाली हरकत वहीं से अपने आप शुरू हुई जहाँ दो लापरवाहियाँ आपस में मिलीं। बीच में कोई बदनीयत नहीं है। बीच में ऐसा कोई भी नहीं है जिसे पूरी तरह से काम शुरू करने वाला कहा जा सके। सिर्फ़ एक बिना बँधी चीज़ है और एक छूट गई दूसरी चीज़।

कृत्रिम बुद्धिमत्ता का पूरा कानून जैसे इसी एक तस्वीर में समा जाता है।

ज़िम्मेदारी का ख़ालीपन नाम की एक धारणा

2004 में आंद्रेयास मात्तियास नाम के एक विचारक ने एक लेख लिखा, जिसमें उस वक़्त किसी की ख़ास दिलचस्पी नहीं थी, और उसमें उन्होंने एक चीज़ को नाम दिया: ज़िम्मेदारी का ख़ालीपन।

उनकी दलील सीधी है और बेचैन करने वाली भी। सीखने वाली प्रणालियों में निर्माता या इस्तेमाल करने वाले के लिए मशीन के आगे के बर्ताव का पूर्वानुमान लगाना सैद्धांतिक रूप से ही मुमकिन नहीं है। और जिस चीज़ का आप पूर्वानुमान नहीं लगा सकते, उसके लिए नैतिक रूप से ज़िम्मेदार ठहराया जाना न्यायसंगत नहीं है। तो नतीजा यह कि नुकसान मौजूद है, पर ऐसा कोई नहीं है जिसे इंसाफ़ के साथ ज़िम्मेदार ठहराया जा सके।

बीस साल बाद यह वाक्य अकादमिक कसरत नहीं रहा। कृत्रिम बुद्धिमत्ता आज कर्ज़ की अर्ज़ी ठुकराती है, भर्ती करती है, रोग पहचानकर इलाज सुझाती है, हमारी गाड़ी का स्टीयरिंग घुमाती है, हमारी ख़रीद पर अनुबंध बनाती है।

और हर नुकसान की घटना में वही तीन वाक्य बारी-बारी से बोले जाते हैं।

निर्माता: मॉडल हमने बनाया, पर उसे कैसे इस्तेमाल करना है यह आपने चुना। इस्तेमाल करने वाला: हमने तो बस सिस्टम पर भरोसा किया। सिस्टम: सिस्टम कुछ नहीं कहता, क्योंकि सिस्टम बोलता नहीं, उसके बारे में बोला जाता है।

अब असली सवाल पूछने का वक़्त है। यह ख़ालीपन सचमुच का एक तात्त्विक ख़ालीपन है, या बहुत काम आने वाली एक अस्पष्टता?

इस लेख का जवाब दूसरा वाला है। और उस जवाब का सबूत ख़ुद कानून के अपने इतिहास में पड़ा है।

रोमन कानून का हल: कर्ता नहीं, फिर भी करने वाला

“जो व्यक्ति नहीं है, फिर भी अपने आप काम करता है” — इस समस्या से कानून का पहला परिचय कृत्रिम बुद्धिमत्ता के साथ नहीं हुआ। दो हज़ार साल पहले कानून इसी समस्या के भीतर रह रहा था।

रोमन कानून में दास व्यक्ति नहीं था। कानूनी तौर पर वह एक वस्तु था। उसे ख़रीदा जाता, बेचा जाता — और वही दास मालिक के नाम पर ख़रीदता, बेचता, अनुबंध करता, कर्ज़ पैदा करता, कारोबार चलाता था। यानी एक ऐसी सत्ता जिसका कोई कानूनी व्यक्तित्व नहीं था, कानूनी नतीजे पैदा करने वाले काम कर रही थी।

यह लेख पढ़ना शुरू करने से पहले कृत्रिम बुद्धिमत्ता और दासता की धारणा को एक ही कसौटी पर रख पाना शायद आपको भी बहुत मुमकिन नहीं लगता था।

रोम ने इस विरोधाभास को तत्त्वमीमांसा से नहीं सुलझाया। तंत्र से सुलझाया।

पेकुलियम जिसे कहते थे, वह दास द्वारा वास्तव में चलाई जाने वाली एक अलग सम्पत्ति थी। दास उसी थैली के भीतर कारोबार करता। नुकसान होने पर मालिक की ज़िम्मेदारी, नियम के तौर पर, उसी थैली के आकार तक सीमित रहती। यानी ज़िम्मेदारी न पूरी तरह मालिक के सिर डाली गई, न हवा में छोड़ी गई। उसे एक कोष से बाँध दिया गया।

आज कानून के लोग इस पर दोबारा बात कर रहे हैं। कैम्ब्रिज की विधि पत्रिका में छपा एक अध्ययन कृत्रिम बुद्धिमत्ता की जवाबदेही के ख़ालीपन के लिए सीधे रोमन कानून की तरफ़ देखने का सुझाव देता है। उगो पगालो का “डिजिटल पेकुलियम” वाला प्रस्ताव भी उसी नस से आता है: अगर आप कोई स्वायत्त प्रणाली बाज़ार में उतार रहे हैं, तो उसके नाम पर ज़मानत के तौर पर रखी गई एक अलग सम्पत्ति भी दिखानी होगी।

यहाँ से निकलने वाला सबक सुंदर है और साथ ही असहज करने वाला भी।

सुंदर बात यह है: कर्तापन खोजा नहीं जाता, आवंटित किया जाता है। रोमन कानून ने यह नहीं पूछा कि “दास के पास अपनी इच्छा है या नहीं”, क्योंकि उसे पूछने की ज़रूरत ही नहीं थी। कानून को इच्छा नहीं चाहिए थी, एक पता चाहिए था — कोई जिससे बात की जा सके।

असहज बात यह है: यह हल इंसानियत के इतिहास की सबसे घिनौनी संस्थाओं में से एक के भीतर विकसित हुआ।

किसी औज़ार को दास से मिलाकर देखने की नैतिक क़ीमत है; यह तुलना औज़ार को ऊपर नहीं उठाती, इंसान के साथ जो किया गया उसे सामान्य बना देती है। यहाँ से लेने लायक चीज़ वह संस्था नहीं है, उसकी तकनीक है: कानून, बिना कानूनी व्यक्तित्व वाले किसी करने वाले से पैदा हुए नुकसान को, उसे व्यक्ति घोषित किए बिना भी बाँध सकता है।

उसी तकनीक के आज दूसरे नाम हैं। निगमित विधिक व्यक्तित्व। कर्मचारी के काम के लिए नियोक्ता की ज़िम्मेदारी। ख़तरनाक गतिविधि में बिना दोष के ज़िम्मेदारी। ये सब एक ही मक़सद के इर्द-गिर्द गढ़ी गई कानूनी धारणाएँ हैं। अगर बीच में नुकसान है, तो किसी की इच्छा में झाँके बिना, नुकसान को एक जेब से बाँधना ज़रूरी है।

अदालतें क्या कर रही हैं: तीन मुक़दमे, एक ही पैटर्न

कृत्रिम बुद्धिमत्ता हमारी ज़िंदगी में बहुत नई है। इसीलिए सिद्धांत को छोड़कर पिछले दो साल के फ़ैसलों पर नज़र डालना सिखाने वाला हो सकता है। क्योंकि अदालतों ने वह सवाल पूछना कब का छोड़ दिया है जिस पर दार्शनिक अब भी बहस कर रहे हैं।

फ़रवरी 2024 में कनाडा में जेक मॉफ़ैट नाम का एक शख़्स, दादी के गुज़र जाने पर, एयर कनाडा की साइट से टिकट लेना चाहता है। साइट के चैट बॉट से वह पूछता है कि शोक-छूट मिल सकती है या नहीं। एयर कनाडा का चैट सहायक मॉफ़ैट को बताता है कि शोक-छूट बाद में भी माँगी जा सकती है। यह जानकारी ग़लत है; कंपनी की असली नीति ऐसी नहीं है।

कंपनी अदालत में एक दिलचस्प बचाव करती है: बॉट एक अलग सत्ता है, अपने बयानों के लिए वह ख़ुद ज़िम्मेदार है।

अदालत यह बचाव ठुकरा देती है। बॉट कंपनी की अपनी साइट का ही हिस्सा है; साइट पर मौजूद हर जानकारी की ज़िम्मेदार कंपनी है, चाहे वह जानकारी किसी स्थिर पन्ने से आए या किसी चैट खिड़की से। हर्जाना छोटा और प्रतीकात्मक है, लगभग साढ़े छह सौ कनाडाई डॉलर। पर सिद्धांत बड़ा है: आपके अपने संस्थागत ढाँचे के मुँह से जो निकलता है, उसके ज़िम्मेदार भी आप ही हैं।

अगस्त 2025 में, फ़्लोरिडा में ऑटोपायलट चालू रहते हुए एक टेस्ला एक चौराहे पर नहीं रुकती; खड़ी गाड़ी से टकराती है, एक व्यक्ति की मौत होती है, एक गंभीर रूप से घायल होता है। चालक मानता है कि उस पल फ़ोन गिर जाने की वजह से उसका ध्यान बँट गया था।

अदालत इस बार दोष को बाँटती है: चालक 67 प्रतिशत, निर्माता 33 प्रतिशत। कुल हर्जाना चौबीस करोड़ डॉलर से ऊपर जाता है और उसका बड़ा हिस्सा दंडात्मक हर्जाना है। कंपनी फ़ैसले के ख़िलाफ़ अपील में जाती है; प्रक्रिया जारी है और अभी नतीजा नहीं आया।

ग़ौर कीजिए, अदालत ने यह नहीं पूछा कि “ऑटोपायलट कर्ता था या नहीं”। उसने दोष को प्रतिशत में बाँट दिया। ठीक इसी उदाहरण में लूथर का ambo peccaverunt पाँच सौ साल बाद अपने डिजिटल रूप में हमारी ज़िंदगी में लौट आया।

तीसरा उदाहरण अदालत का नहीं, अनुबंध का है। मर्सिडीज़ ने घोषणा की कि ड्राइव पायलट नाम की उसकी प्रणाली के तय कार्य-दायरे के भीतर — तय राजमार्ग, तय रफ़्तार, तय मौसम — घटी घटनाओं में कानूनी ज़िम्मेदारी वह ख़ुद उठाएगी।

यहाँ जो हुआ वह बिलकुल साफ़ है: ज़िम्मेदारी को खोज की तरह नहीं, वचन की तरह रखा गया। निर्माता ने कर्तापन एक तय लिफ़ाफ़े के भीतर अपने ऊपर ले लिया।

तीन घटनाएँ, एक ही पैटर्न। कानून यह नहीं पूछ रहा: इस चीज़ (कृत्रिम बुद्धिमत्ता) की अपनी इच्छा है या नहीं। वह यह पूछ रहा है: कौन रोक सकने की स्थिति में था, और इससे किसका फ़ायदा या नुकसान हुआ?

ख़ालीपन इसलिए नहीं भरता क्योंकि उसे भरना नहीं चाहते

यहाँ से मामले का राजनीतिक पहलू शुरू होता है और नज़ारा सुंदर नहीं है।

यूरोपीय संघ के पास सालों से एक मसौदा था: कृत्रिम बुद्धिमत्ता उत्तरदायित्व निर्देश। वह दो चीज़ें लाता था।

पहली, कुछ शर्तों में कारणता की उपधारणा — यानी नुकसान झेलने वाले को यह साबित नहीं करना पड़ता कि डिब्बे के भीतर ठीक-ठीक क्या हुआ; उल्टा साबित करने का भार निर्माता पर जा सकता था।

दूसरी, ज़्यादा जोखिम वाली प्रणालियों में सबूत ज़ाहिर करने की बाध्यता — अदालत कंपनी से रिकॉर्ड माँग सकती थी।

ये दोनों प्रावधान ज़िम्मेदारी के ख़ालीपन के ठीक दिल पर निशाना लगा रहे थे। क्योंकि उस ख़ालीपन का असली नाम अक्सर “सबूत की असंभवता” होता है। नुकसान झेलने वाले के हाथ में न मॉडल है, न प्रशिक्षण डेटा, न रिकॉर्ड, न विशेषज्ञ — इसलिए साबित करना भी नामुमकिन है।

आयोग ने फ़रवरी 2025 में मसौदा वापस लेने का फ़ैसला सुनाया; वापसी उसी साल के भीतर औपचारिक हो गई। वजह के तौर पर हितधारकों के बीच सहमति न बन पाना और डिजिटल क्षेत्र में सरलीकरण की माँग बताई गई।

अब इन दो वाक्यों को एक के बाद एक पढ़िए।

मात्तियास, 2004: सीखने वाली प्रणालियों में ज़िम्मेदारी को न्यायसंगत ढंग से सौंपना संरचनात्मक रूप से कठिन है। ब्रसेल्स, 2025: उस कठिनाई को हल्का करने वाले सबूत के नियम, डिजिटल क्षेत्र में सरलीकरण की माँग के चलते वापस ले लिए गए।

पहला एक दार्शनिक निष्कर्ष है। दूसरा एक राजनीतिक चुनाव। और जब ये दोनों आपस में गड्डमड्ड कर दिए जाते हैं, तो बहुत काम की एक चीज़ निकलती है: ऐसी छूट जो प्रकृति के नियम जैसी दिखती है।

ज़िम्मेदारी का ख़ालीपन कोई खोज नहीं है। वह खुला छोड़ा गया एक दरवाज़ा है। और हर खुले दरवाज़े की तरह, कोई न कोई उसमें से गुज़रकर अपने फ़ायदे की चीज़ निकाल लेता है।

इंसान का हिस्सा, पहली सूरत: “मुझे आदेश मिला था” का नया संस्करण

अब मैं समीकरण के इंसानी हिस्से पर आता हूँ, क्योंकि असली मामला वहीं है।

इतिहास के पहले युद्ध-अपराध मुक़दमे पर चलते हैं। अमेरिकी गृहयुद्ध में, युद्ध के आख़िरी चौदह महीनों में खोले गए शिविर में लगभग 45,000 संघीय (उत्तरी) सैनिक बंदी रखे गए थे, और अपर्याप्त भोजन, बीमारी तथा बुरी परिस्थितियों के चलते लगभग 13,000 बंदियों की जान गई।

1865 के एंडरसनविल जेल मुक़दमे में इसी घटना पर जो बचाव पेश हुआ, वह याद रखने लायक है। युद्ध ख़त्म होते ही शिविर के कमांडर, स्विस मूल के कॉन्फ़ेडरेट कैप्टन हेनरी विर्ट्ज़ को गिरफ़्तार किया गया। उनका बचाव संक्षेप में इतना ही था:

— मुझे आदेश मिला था।

उस सुनवाई ने जो सिद्धांत खड़ा किया, वह आज भी टिका हुआ है। इंसान जिस आदेश का पालन करता है, उसके बारे में वह भीतर से एक निर्णय भी करता है; इसलिए अगर आदेश उसकी इंसानियत को काफ़ी गहराई तक ठेस पहुँचाता है, तो वह अवज्ञा कर सकता है। और अभियुक्त से जो वाक्य कहा गया वह यह था: सैन्य रूप से ऊपर होना, नैतिक रूप से ऊपर होना नहीं है।

आज का कृत्रिम बुद्धिमत्ता वाला संस्करण यूँ बोलता है: सिस्टम ने ऐसा ही सुझाया था। स्कोर कम था। मॉडल ने निशान लगाया था।

इसके ख़िलाफ़ निकाला गया हल भी तैयार है: लूप में एक इंसान बिठा दें। फ़ैसला मशीन सुझाए, मंज़ूरी इंसान दे।

सुनने में अच्छा लगता है। आँकड़ों पर नज़र डालते ही कम अच्छा लगने लगता है।

मिशिगन की बेरोज़गारी प्रणाली में बाद में पता चला कि एल्गोरिदम ने जिन अर्ज़ियों पर निशान लगाया था, उनमें से भारी बहुमत ग़लत था। पर उसी दौर में, वही काम कर रहे इंसानी निर्णयकर्ताओं की ग़लती की दर भी कम नहीं थी। यानी “इंसानी निगरानी” अपने आप में कोई सुरक्षा-हल नहीं बन जाती।

इसकी वजह मनोवैज्ञानिक है और जानी-पहचानी। अगर कोई प्रणाली आपको नवासी प्रतिशत का विश्वास-स्कोर दिखा रही है, तो उससे असहमत होने के लिए सिर्फ़ समय नहीं, हिम्मत भी चाहिए। मंज़ूरी देना मुफ़्त है, आपत्ति करना काफ़ी महँगा। सिस्टम की पुष्टि करने वाला कर्मचारी तरक़्क़ी पाता है, सिस्टम को रोकने वाले कर्मचारी को सफ़ाई देनी पड़ती है।

लूप में बैठा इंसान, अगर उसके पास असली अधिकार और असली समय नहीं है, तो सुरक्षा-तत्व की जगह नहीं ले सकता। वह सिर्फ़ एक सोखने वाला है। नुकसान होने पर इल्ज़ाम वहीं रुक जाता है और उससे ऊपर नहीं चढ़ता।

इसे खुलकर कहना ज़रूरी है: जो संगठन ज़िम्मेदारी उठाना नहीं चाहता, उसके लिए आदर्श हल यही है कि फ़ैसला सिस्टम में हो और इल्ज़ाम इंसान पर।

इंसान का हिस्सा, दूसरी सूरत: ख़ालीपन ख़ाली नहीं है

ज़िम्मेदारी का ख़ालीपन कहते ही मन में अंतरिक्ष का शून्य आ जाता है। ऐसी जगह जहाँ कोई नहीं है।

वहाँ इंसान हैं, बस उस बड़े शून्य में वे दिखाई नहीं देते।

तथाकथित स्वायत्त प्रणालियाँ डेटा पर लेबल लगाने वाली, सामग्री की छँटाई करने वाली, नतीजे को साफ़ करने वाली एक वैश्विक श्रम-परत के ऊपर खड़ी हैं। इस काम की मज़दूरी कम है, दिखाई देना शून्य है, कानूनी सुरक्षा कमज़ोर। इस परत का एक बड़ा हिस्सा भारत जैसे देशों में बैठता है — जिस “स्वायत्तता” की बात दूसरी जगहों पर की जाती है, उसकी शिफ़्टें यहाँ लगती हैं।

सबसे चुभने वाला ब्योरा एक डिलीवरी चालक बताता है। निगरानी प्रणाली सीट बेल्ट की जाँच करती है, जबकि कोटा रुकने पर सज़ा देता है। चालक बेल्ट को अपनी पीठ के पीछे से बाँध लेते हैं। प्रणाली दर्ज करती है कि बेल्ट लगी है, इंसान बिना बेल्ट के गाड़ी चलाता है।

यह छोटा-सा दृश्य एक पूरे ढाँचे का सार है। ऊपर माप है, माप सही दिखता है, रिकॉर्ड साफ़ है। नीचे जोखिम है, और जोखिम किसी को हस्तांतरित नहीं होता, बस नीचे की ओर बहता जाता है।

नीदरलैंड्स का बाल-भत्ता मामला इसीलिए अहम है क्योंकि वह इस तस्वीर का अपवाद है। स्वचालित जाँच प्रणाली ने हज़ारों परिवारों पर बेवजह धोखाधड़ी का इल्ज़ाम लगाया और मामला 2021 में सरकार के सामूहिक इस्तीफ़े तक पहुँचा। एल्गोरिदमी नुकसान का हिसाब सबसे ऊपर तक माँगा जा सका — ऐसे उदाहरण गिने-चुने हैं।

उसका दुर्लभ होना ही बता देता है कि नियम क्या है। यानी ज़िम्मेदारी के ख़ालीपन में तोप के मुँह पर कोई नहीं है, ऐसा नहीं। वहाँ दोषी के तौर पर सबसे कम ताक़तवर को खड़ा किया जा सकता है।

पूरब का जवाब: कर्म कभी अकेले का था ही नहीं

पश्चिमी कानून ज़िम्मेदारी को इकहरा करने पर टिका है। वह एक कर्ता ढूँढ़ता है, उसकी इच्छा नापता है, उसका दोष तय करता है।

कृत्रिम बुद्धिमत्ता इस तंत्र पर ज़ोर डाल रही है, क्योंकि बीच में एक अकेला कर्ता है ही नहीं।

शास्त्रीय चीनी चिंतन में यह कभी समस्या रही ही नहीं, क्योंकि वहाँ कर्म शुरू से ही साझा था।

घोड़े की सवारी के बारे में सोचिए। यह न अकेले सवार का काम है, न अकेले घोड़े का। ज़मीन, तालीम, साज़, चारा, हवा — सब कर्म में शामिल होते हैं। शास्त्रीय चीनी पाठों में कर्म का वर्णन ऐसे ही होता है: किसी एक इच्छा का दुनिया से टकराना नहीं, बल्कि कई चीज़ों के मिलने से बनी एक स्थिति।

गीता का अठारहवाँ अध्याय भी कर्म को इसी तरह तोड़कर दिखाता है: किसी भी कर्म के सिद्ध होने में पाँच कारण मिलते हैं — अधिष्ठान, कर्ता, अलग-अलग करण, अलग-अलग चेष्टाएँ, और दैव। कर्ता उन पाँच में से सिर्फ़ एक है। जो ख़ुद को अकेला कर्ता मान लेता है, उसे वह पाठ साफ़ देखने वाला नहीं मानता।

कन्फ़्यूशियसी भूमिका-नैतिकता वहीं से आगे बढ़ती है। व्यक्ति रिश्तों के कटान पर बनता है; और ज़िम्मेदारी व्यक्तिगत इच्छा से नहीं, भूमिका से चिपकती है। किसी वैद्य की ज़िम्मेदारी उसके वैद्य होने से आती है, उस पल की नीयत से नहीं। कर्तव्य की भारतीय धारणा भी इसी तरफ़ झुकती है: कर्तव्य वहाँ से तय होता है जहाँ आप खड़े हैं, उस भावना से नहीं जो उस वक़्त मन में उठ रही थी।

इसे आज पर उतारें तो यह निकलता है। “मॉडल कर्ता है या नहीं” वाले सवाल की जगह “यह भूमिका किसने ली” वाला सवाल। सुझाव किसने दिया, किसने बाँटा, किसने बेचा, किसने इस्तेमाल किया, निगरानी की ज़िम्मेदारी किसकी थी। भूमिका है तो ज़िम्मेदारी है; इच्छा नापने की ज़रूरत ही नहीं पड़ती।

यह मशीनी नुकसान के लिए अप्रत्याशित रूप से एक व्यावहारिक सवाल पैदा करता है। जब कोई प्रणाली नुकसान करती है तो प्रक्रिया का अंत क्या है? सज़ा, मरम्मत, सुधार, या बंद कर देना?

किसी मॉडल को माफ़ करना जैसी कोई चीज़ नहीं होती। पर किसी कंपनी को बरी कर देना जैसी चीज़ ज़रूर होती है, और अक्सर वह “हमने ख़राब मॉडल अपडेट कर दिया” वाले वाक्य से ढक दी जाती है।

---

पैमाने का सवाल: हॉब्स का “उपजाऊ अपराध”

एक चीज़ और जोड़नी होगी, क्योंकि कृत्रिम बुद्धिमत्ता के नुकसान को साधारण नुकसान से अलग करने वाली चीज़ यही है।

दार्शनिक थॉमस हॉब्स ने अपनी कृति लेवायथन में अपराधों का भार तौलते हुए एक भेद किया। सिर्फ़ आज को चोट पहुँचाने वाला कर्म और मिसाल बनकर आने वाले कल को भी चोट पहुँचाने वाला कर्म एक ही भार के नहीं हैं। पहले को वे बंजर कहते हैं, दूसरे को उपजाऊ। उपजाऊ अपराध बढ़ते-बढ़ते कई लोगों को नुकसान पहुँचाता है।

हॉब्स यह भी कहते हैं कि करने वाले की हैसियत कर्म का भार बदल देती है। किसी अधिकार-सम्पन्न व्यक्ति का वही कर्म, किसी साधारण व्यक्ति के कर्म से भारी है।

ये दोनों कसौटियाँ आज कृत्रिम बुद्धिमत्ता के कानून पर लागू की जा सकती हैं।

एक इंसान का पूर्वाग्रह एक कमरे में रह जाता है। एक मॉडल का पूर्वाग्रह लाखों फ़ैसलों में दोहराया जाता है और हर दोहराव में एक ही दिशा में धकेलता है। मॉडल परिभाषा से ही उपजाऊ दिशा-निर्देशन की मशीन है। भलाई में भी, बुराई में भी।

मशहूर अंग्रेज़ इतिहासकार एडवर्ड गिबन ने अपनी कालजयी कृति रोमन साम्राज्य के पतन और विनाश का इतिहास (The History of the Decline and Fall of the Roman Empire) में जस्टिनियन के बारे में अपने निर्णय में यह कहा: रोमन एक ही समय पर अपने कानूनों की भरमार और अपने मालिकों की मनमानी इच्छा — दोनों के नीचे कुचले गए।

यानी नियमों की मुद्रास्फीति और मनमानी एक-दूसरे की काट नहीं हैं। दोनों आराम से साथ रह लेती हैं। आज के अनुपालन दस्तावेज़, नैतिक सिद्धांत और पारदर्शिता रिपोर्टें पन्नों के हिसाब से विशाल हैं; नुकसान झेलने वाले के हाथ में मौजूद असली गुंजाइश अब भी छोटी है।

तो किया क्या जाए

इस लेख की थीसिस एक वाक्य में समा जाती है: कर्तापन खोजी जाने वाली चीज़ नहीं, आवंटित की जाने वाली चीज़ है। और जब उसे आवंटित नहीं किया जाता, तो वह अपने आप सबसे कमज़ोर कड़ी पर जा गिरता है।

चार हल खड़े किए जा सकते हैं।

1. “यह चीज़ (कृत्रिम बुद्धिमत्ता) कर्ता है या नहीं” वाला सवाल दो हज़ार साल से बेजवाब है और आने वाले दस साल में भी उसका जवाब नहीं आएगा। जिसका जवाब दिया जा सकता है वह सवाल यह है: कौन रोक सकने की स्थिति में था, किसने कमाया, किसने बोझ उठाया। कानून के सारे कामयाब हल इसी सवाल से बने हैं; दास के पेकुलियम से लेकर नियोक्ता की ज़िम्मेदारी तक, विधिक व्यक्तित्व से लेकर टेस्ला मुक़दमे की ज्यूरी के 67 / 33 वाले बँटवारे तक।

2. जिस चीज़ को आपने स्वायत्त बनाया या खुला छोड़ा (वह कोई एजेंटिक वर्कफ़्लो भी हो सकता है), उसकी ज़मानत दिखाइए। रोम की थैली आज दूसरे नाम ले सकती है: अनिवार्य बीमा, अलग रखा गया कोष, तय सीमा वाली गारंटी, या कोई बिलकुल नया नाम। सिद्धांत वही रहना चाहिए: अगर आप एक बिना बँधी नाव पानी में छोड़ रहे हैं, तो बहने की सूरत में कौन भुगतेगा यह पहले से तय होना चाहिए। इससे नवाचार रुकता नहीं; अनिश्चितता की क़ीमत तय हो जाती है। शायद बीमा और पुनर्बीमा कंपनियाँ इससे अपने लिए एक अलग अर्थव्यवस्था भी खड़ी कर लें।

3. लूप में बैठा इंसान, अगर अधिकार-सम्पन्न नहीं है तो ज़िम्मेदार भी नहीं हो सकता। जिस कर्मचारी की आपत्ति उसकी तरक़्क़ी की क़ीमत माँगती हो, वह निगरानीकर्ता या अंतिम निर्णयकर्ता नहीं हो सकता। असली निगरानी तीन चीज़ें माँगती है: प्रणाली को रद्द कर देने का अधिकार, ऐसा करने का समय, और रद्द कर देने के बाद सुरक्षा। ये न हों तो इंसान लूप में नहीं, सिर्फ़ बफ़र की जगह पर है।

4. ख़ालीपन को प्रकृति का नियम नहीं मानना चाहिए। सबूत के नियम, रिकॉर्ड रखने की बाध्यता और सबूत ज़ाहिर करने की शर्त — इन्हें जानबूझकर या अनजाने हटाए जाने पर हम आँख मूँद लेंगे, तो ज़िम्मेदारी का ख़ालीपन और चौड़ा होगा।

मार्टिन लूथर के गधा-नाव मुक़दमे में दोनों पक्ष सही थे और दोनों एक ही समय पर दोषी भी। पाँच सौ साल पहले एक मेज़ पर दिया गया वह फ़ैसला कह रहा था कि जिस घटना में कोई पूरी तरह अपराधी नहीं है, उसमें कोई पूरी तरह निर्दोष भी नहीं है।

आज का ख़तरा उस फ़ैसले का ठीक उल्टा है। वह इसमें है कि “किसी का दोष नहीं था” वाले नतीजे तक पहुँच जाना, दोष तय करने से कहीं ज़्यादा आसान है।

अगर गधा भी बँधा नहीं है और नाव भी, तो बाक़ी काम नदी कर देती है। और हमें यह नहीं कहना चाहिए कि नदी पर ग़ुस्सा होने का कोई मतलब नहीं।