अध्ययन भारतीय न्यायपालिका में पूर्वाग्रह की जांच के लिए नाम-विश्लेषण को अपनाता है

वैश्विक विकास केंद्र से एक अध्ययन, ‘भारतीय न्यायपालिका में इन-ग्रुप बायस’ (2023) भारत की अदालतों में पक्षपात की जांच की, जांच की कि क्या न्यायाधीश समान पृष्ठभूमि या पहचान वाले प्रतिवादियों को अधिक अनुकूल उपचार देते हैं। कम आय वाले देशों की अदालतों में इस मुद्दे का अभी व्यापक अध्ययन किया जाना बाकी है। अनुसंधान समूह ने भारत की निचली अदालतों में लिंग, धर्म और जाति पर ध्यान केंद्रित किया, यह जांच की कि क्या असमान प्रतिनिधित्व का महिलाओं, मुसलमानों और निचली जातियों के न्यायिक परिणामों पर सीधा प्रभाव पड़ता है, 2010 से 2018 तक 5 मिलियन आपराधिक अदालती मामलों के अज्ञात डेटासेट में .

विश्लेषण का तरीका

ई-न्यायालय मंच न्यायाधीशों और प्रतिवादियों पर जनसांख्यिकीय मेटाडेटा प्रदान नहीं करता है, लेकिन शोध समूह उनके नाम से रुचि की विशेषताओं, अर्थात् लिंग और धर्म का निर्धारण करने में सक्षम था। विश्लेषण करने के लिए, अनुसंधान समूह ने नामों के पाठ के आधार पर लिंग और धर्म को असाइन करने के लिए एक न्यूरल नेट क्लासिफायरियर को प्रशिक्षित किया और जजों, प्रतिवादियों और पीड़ितों को पहचान विशेषताओं को असाइन करने के लिए इसे हमारे केस डेटासेट पर लागू किया।

वे लिंग और धर्म (मुस्लिम और गैर-मुस्लिम) को वर्गीकृत करने के लिए संबद्ध जनसांख्यिकीय लेबल वाले नामों के दो डेटाबेस का उपयोग करते हैं। फिर उन्होंने एक बिडरेक्शनल लॉन्ग शॉर्ट-टर्म मेमोरी (LSTM) मॉडल का उपयोग करके पूर्व-संसाधित नाम स्ट्रिंग्स के लिए संबंधित पहचान लेबल की भविष्यवाणी करने के लिए एक न्यूरल नेट क्लासिफायरियर को प्रशिक्षित किया।

LSTM क्लासिफायरियर संदर्भ के भीतर एक पाठ खंड को समझने में सक्षम था, जो मानक फ़ज़ी स्ट्रिंग मिलान विधियों पर सटीकता में सुधार करता है। उदाहरण के लिए, LSTM क्लासिफायर शब्द के संदर्भ के आधार पर किसी नाम के धार्मिक वर्गीकरण की सटीक पहचान कर सकता है। लेबल किए गए डेटाबेस का उपयोग करके LSTM क्लासिफायर को लिंग और धर्म के लिए प्रशिक्षित किया गया था, और प्रशिक्षित क्लासिफायर को ई-कोर्ट केस रिकॉर्ड पर लागू किया गया था।

न्यायाधीश और प्रतिवादी के नाम तब पूर्व-संसाधित थे और लिंग और धर्म के लिए अनुमानित संभावना बनाने के लिए प्रशिक्षित क्लासिफायरियर पर लागू होते थे। परिणाम 97% सटीक थे।

जाति की पहचान भारत में सबसे महत्वपूर्ण सामाजिक भेदों में से एक है, इसलिए यह पता लगाना महत्वपूर्ण है कि पूर्वाग्रह विभिन्न समूहों को कैसे प्रभावित करता है। दुर्भाग्य से, जाति भी बहुत जटिल और श्रेणीबद्ध है, जिससे समूहों के भीतर और बाहर के समूहों को बाइनरी निर्दिष्ट करना मुश्किल हो जाता है। नतीजतन, नामों के आधार पर जाति की पहचान करना काफी चुनौती भरा है, और शोधकर्ता नामों और विशिष्ट जातियों के बीच एक पत्राचार विकसित करने में सक्षम नहीं थे। ऐसा इसलिए है, क्योंकि शोधकर्ताओं के अनुसार, व्यक्तिगत नाम जाति की ठीक उसी तरह पहचान नहीं करते हैं जैसे वे धार्मिक या लैंगिक पहचान की पहचान करते हैं; नामों का जातीय महत्व भी क्षेत्रों में भिन्न हो सकता है। इस प्रकार, अनुसंधान समूह ने एक जाति पहचान मिलान को एक ऐसे मामले के रूप में परिभाषित करने का निर्णय लिया जहां प्रतिवादी का अंतिम नाम न्यायाधीश के अंतिम नाम से मेल खाता है, यह जांच करते हुए कि क्या न्यायाधीश प्रतिवादियों के लिए अधिक अनुकूल परिणाम प्रदान करते हैं जो अपना अंतिम नाम साझा करते हैं।

परिणाम

अध्ययन में भारत में आपराधिक मामलों में कोई लिंग-आधारित या धर्म-आधारित पूर्वाग्रह नहीं पाया गया, लेकिन उन्होंने साझा असामान्य अंतिम नामों वाले सामाजिक समूहों के बीच कुछ इन-ग्रुप पूर्वाग्रह पाए। उन्हें नस्ल/जातीयता, लिंग या धर्म के संदर्भ में न्यायाधीशों के बीच इन-ग्रुप पूर्वाग्रह का कोई सबूत नहीं मिला। यह अन्य न्यायालयों में अध्ययनों के विपरीत है, जहां शोधकर्ताओं ने बड़े प्रभाव खोजने की कोशिश की है।

जातिगत पूर्वाग्रह के लिए, इसका विश्लेषण करने की कठिनाइयों पर विचार करते हुए, रिपोर्ट में पाया गया कि एक न्यायाधीश-प्रतिवादी नाम के मिलान से बरी होने की संभावना 1.2-1.4 प्रतिशत अंक बढ़ जाती है। इस परिणाम से पता चलता है कि कम सामान्य नाम वाले व्यक्तियों से बने समूहों में जाति-आधारित इन-ग्रुप पूर्वाग्रह है।

नेम्सोर ने भारतीय नामों के वर्गीकरण के लिए नया सॉफ्टवेयर लॉन्च किया

यह रिपोर्ट उन स्थितियों में पूर्वाग्रह का विश्लेषण करने के लिए नाम विश्लेषण की प्रासंगिकता को दर्शाती है जहां संवेदनशील डेटा जैसे लिंग, जाति और धर्म प्रदान नहीं किया जाता है। जबकि नमसोर का उपयोग अकादमिक अध्ययन ‘इन-ग्रुप बायस इन द इंडियन ज्यूडिशियरी’ (2023) में नहीं किया गया था, जिसमें एक कस्टम एआई मॉडल का प्रशिक्षण शामिल था, नेम्सोर ने एक समान दृष्टिकोण का उपयोग किया और एक लॉन्च किया भारतीय नाम वर्गीकरण के लिए एआई मॉडल भूगोल (राज्य या केंद्र शासित प्रदेश) द्वारा, धर्म द्वारा और जाति समूह द्वारा। मॉडल का एक लाभ यह है कि इसे केवल दिल्ली ही नहीं, बल्कि भारत के किसी भी राज्य या केंद्र शासित प्रदेश में लागू किया जा सकता है। नामसोर विशिष्ट जातियों को नाम नहीं दे सकते थे लेकिन जाति समूहों (अनुसूचित जाति, अनुसूचित जनजाति, अन्य पिछड़ा वर्ग, सामान्य) को पहचानने के लिए एक मॉडल को प्रशिक्षित करने में सक्षम थे। प्रौद्योगिकी के लिए एक महत्वपूर्ण उपयोग मामला अन्य एआई एल्गोरिदम में पक्षपात को मापना है।

(उपर्युक्त लेख एक उपभोक्ता कनेक्ट पहल है, यह लेख एक भुगतान प्रकाशन है और इसमें आईडीपीएल की पत्रकारिता/संपादकीय भागीदारी नहीं है, और आईडीपीएल किसी भी तरह की जिम्मेदारी का दावा नहीं करता है।)