एआई भी कर सकता है इंसानों जैसा भेदभाव?

नई दिल्ली। यह सच है कि आर्टिफिशियल इंटेलिजेंस (एआई) का इस्तेमाल अब बैंकिंग, शिक्षा, रोजगार और अन्य कई क्षेत्रों में तेजी से बढ़ रहा है। ऐसे में आम धारणा के विपरीत, विशेषज्ञ चेतावनी भी दे रहे हैं कि एआई भी इंसानों की तरह पक्षपाती हो सकता है। इंटरनेट और ऐतिहासिक डेटा पर आधारित प्रशिक्षण के कारण एआई के फैसलों में जेंडर, जाति, भाषा और धर्म आधारित भेदभाव देखने को मिल सकता है। 

इस मामले में उदाहरण देते हुए बताया जा रहा, कि जिस प्रकार जॉब रिक्रूटमेंट टूल में यदि प्रशिक्षण डेटा में पुरुषों का वर्चस्व रहा हो, तो एआई महिलाओं के रिज्यूमे को कम अंक दे सकता है। इसी तरह बैंकिंग सेक्टर में, लोन या क्रेडिट स्कोरिंग सिस्टम में अगर पिछड़ी जातियों के पुराने डेटा में कम आय या अस्थिरता दिखाई गई हो, तो एआई उन्हें डिफॉल्टर मानकर लोन देने से मना कर सकता है या ब्याज दरें बढ़ा सकता है। इसी प्रकार भाषाई पक्षपात भी एक गंभीर चुनौती है। अधिकांश एआई मॉडल अंग्रेज़ी डेटा पर आधारित और प्रशिक्षित होते हैं। इसलिए हिंदी या अन्य क्षेत्रीय भाषाओं में पूछे जाने वाले सवालों के जवाब गलत या भ्रामक हो सकते हैं। इसके अलावा, सोशल मीडिया एल्गोरिद्म ज्यादा मुखर और विवादित विचारों को बढ़ावा देते हैं, जिससे एआई किसी धर्म या समूह के प्रति बनी गलत और भ्रामक धारणाओं को सच मानकर उन्हें ही पेश कर सकता है।

इस स्थिति में विशेषज्ञों का कहना है कि इस समस्या से निपटने का सबसे असरदार तरीका है विविध और समावेशी डेटा एकत्र किया जाए। मीडिया रिपोर्ट में यूएनएफपीए की एंड्रिया वोगनर के बयान को प्रमुखता प्रदान की गई है, जिनके अनुसार, एआई को पक्षपात से बचाने के लिए हमें समावेशी प्लेटफॉर्म से डेटा जुटाना होगा। किसी एक स्रोत पर निर्भरता जोखिम भरी है। इसके साथ ही स्थानीय एआई टूल्स का विकास भी आवश्यक हो गया है। विशेषज्ञ का कहना है, कि अमेरिकी डेटा पर आधारित चौटबॉट भारतीय मरीजों के लिए खतरनाक भी हो सकते हैं। इसलिए भारत के खान-पान, सांस्कृतिक और भाषाई विविधता को ध्यान में रखते हुए स्थानीय स्तर पर एआई सिस्टम विकसित करना बहुत जरुरी है। यही नहीं न्यायपालिका जैसे संवेदनशील क्षेत्रों में एआई के उपयोग के लिए पारदर्शिता और विश्वसनीयता बेहद जरुरी हैं। विषय विशेषज्ञ तो यही कहते हैं कि जब तक न्यायिक डेटा तक सबकी पहुंच नहीं होगी और सिस्टम पारदर्शी नहीं होगा, तब तक भेदभाव मिटाना संभव नहीं है। ऐसे में एआई की शक्ति समाज के लिए फायदेमंद जरुर हो सकती है, लेकिन इसके निष्पक्ष और भरोसेमंद निर्णय के लिए प्रशिक्षण डेटा का विविध, समावेशी और पारदर्शी होना भी उतना ही अनिवार्य है।