जैसे-जैसे कृत्रिम बुद्धिमत्ता प्रणाली हमारे रोजमर्रा के जीवन में महत्वपूर्ण निर्णय लेने की प्रक्रियाओं में तेजी से प्रवेश कर रही है, एआई विकास में नैतिक ढांचे का एकीकरण एक अनुसंधान प्राथमिकता बनता जा रहा है। मैरीलैंड विश्वविद्यालय (यूएमडी) में, अंतःविषय टीमें मानक तर्क, मशीन लर्निंग एल्गोरिदम और सामाजिक-तकनीकी प्रणालियों के बीच जटिल परस्पर क्रिया से निपटें।
के साथ हाल ही में एक साक्षात्कार में आर्टिफिशियल इंटेलिजेंस समाचारपोस्टडॉक्टोरल शोधकर्ता इलारिया कैनावोटो और वैष्णव कामेश्वरन एआई नैतिकता में गंभीर चुनौतियों का समाधान करने के लिए दर्शनशास्त्र, कंप्यूटर विज्ञान और मानव-कंप्यूटर संपर्क में विशेषज्ञता को संयोजित करें। उनका काम एआई आर्किटेक्चर में नैतिक सिद्धांतों को शामिल करने की सैद्धांतिक नींव और रोजगार जैसे उच्च जोखिम वाले डोमेन में एआई तैनाती के व्यावहारिक निहितार्थों तक फैला हुआ है।
एआई सिस्टम की मानक समझ
यूएमडी के वैल्यू-सेंटर्ड आर्टिफिशियल इंटेलिजेंस (वीसीएआई) पहल के एक शोधकर्ता इलारिया कैनावोटो, उन्नत कंप्यूटर अध्ययन संस्थान और दर्शनशास्त्र विभाग से संबद्ध हैं। वह एक बुनियादी सवाल से निपट रही है: हम एआई सिस्टम को मानक समझ के साथ कैसे जोड़ सकते हैं? जैसे-जैसे एआई मानव अधिकारों और कल्याण को प्रभावित करने वाले निर्णयों को तेजी से प्रभावित कर रहा है, सिस्टम को नैतिक और कानूनी मानदंडों को समझना होगा।
“मैं जिस सवाल की जांच कर रहा हूं वह यह है कि हम इस तरह की जानकारी, दुनिया की यह मानक समझ, एक मशीन में कैसे प्राप्त करते हैं जो एक रोबोट, एक चैटबॉट, ऐसा कुछ भी हो सकता है?” कैनावोट्टो कहते हैं।
उनका शोध दो दृष्टिकोणों को जोड़ता है:
शीर्ष पाद उपागम: इस पारंपरिक पद्धति में सिस्टम में स्पष्ट रूप से प्रोग्रामिंग नियम और मानदंड शामिल हैं। हालाँकि, कैनावोटो बताते हैं, “इन्हें इतनी आसानी से लिखना असंभव है। हमेशा नई परिस्थितियाँ सामने आती रहती हैं।”
नीचे से ऊपर का दृष्टिकोण: एक नई विधि जो डेटा से नियम निकालने के लिए मशीन लर्निंग का उपयोग करती है। अधिक लचीले होने के बावजूद, इसमें पारदर्शिता का अभाव है: “इस दृष्टिकोण के साथ समस्या यह है कि हम वास्तव में नहीं जानते कि सिस्टम क्या सीखता है, और इसके निर्णय को समझाना बहुत मुश्किल है,” कैनावोटो कहते हैं।
कैनावोटो और उनके सहयोगी, जेफ़ हॉर्टी और एरिक पैकिट, दोनों दृष्टिकोणों के सर्वोत्तम संयोजन के लिए एक हाइब्रिड दृष्टिकोण विकसित कर रहे हैं। उनका लक्ष्य एआई सिस्टम बनाना है जो कानूनी और मानक तर्क के आधार पर व्याख्या करने योग्य निर्णय लेने की प्रक्रियाओं को बनाए रखते हुए डेटा से नियम सीख सके।
“[Our] दृष्टिकोण […] एक ऐसे क्षेत्र पर आधारित है जिसे कृत्रिम बुद्धिमत्ता और कानून कहा जाता है। इसलिए, इस क्षेत्र में, उन्होंने डेटा से जानकारी निकालने के लिए एल्गोरिदम विकसित किया। इसलिए हम इनमें से कुछ एल्गोरिदम को सामान्य बनाना चाहेंगे और फिर एक ऐसी प्रणाली बनाएंगे जो आम तौर पर कानूनी तर्क और मानक तर्क पर आधारित जानकारी निकाल सकती है, ”वह बताती हैं।
नियुक्ति प्रथाओं और विकलांगता समावेशन पर एआई का प्रभाव
जबकि कैनावोटो सैद्धांतिक नींव पर ध्यान केंद्रित करता है, यूएमडी के एनएसएफ इंस्टीट्यूट फॉर ट्रस्टवर्थी एआई और लॉ एंड सोसाइटी से संबद्ध वैष्णव कामेश्वरन, एआई के वास्तविक दुनिया के निहितार्थों की जांच करते हैं, विशेष रूप से विकलांग लोगों पर इसके प्रभाव की।
कामेश्वरन का शोध भर्ती प्रक्रियाओं में एआई के उपयोग पर गौर करता है, जिससे पता चलता है कि कैसे सिस्टम अनजाने में विकलांग उम्मीदवारों के साथ भेदभाव कर सकता है। वह बताते हैं, “हम काम कर रहे हैं… ब्लैक बॉक्स को थोड़ा खोलें, यह समझने की कोशिश करें कि ये एल्गोरिदम बैक एंड पर क्या करते हैं, और वे उम्मीदवारों का आकलन कैसे करना शुरू करते हैं।”
उनके निष्कर्षों से पता चलता है कि कई एआई-संचालित हायरिंग प्लेटफॉर्म उम्मीदवारों का आकलन करने के लिए आंखों के संपर्क और चेहरे के भाव जैसे मानक व्यवहार संबंधी संकेतों पर बहुत अधिक भरोसा करते हैं। यह दृष्टिकोण विशिष्ट विकलांगता वाले व्यक्तियों को काफी नुकसान पहुंचा सकता है। उदाहरण के लिए, दृष्टिबाधित उम्मीदवारों को आंखों का संपर्क बनाए रखने में कठिनाई हो सकती है, एक संकेत जिसे एआई सिस्टम अक्सर जुड़ाव की कमी के रूप में व्याख्या करते हैं।
कामेश्वरन चेतावनी देते हैं, “उनमें से कुछ गुणों पर ध्यान केंद्रित करने और उन गुणों के आधार पर उम्मीदवारों का मूल्यांकन करने से, ये प्लेटफ़ॉर्म मौजूदा सामाजिक असमानताओं को बढ़ाते हैं।” उनका तर्क है कि यह प्रवृत्ति कार्यबल में विकलांग लोगों को और अधिक हाशिये पर धकेल सकती है, एक समूह जो पहले से ही महत्वपूर्ण रोजगार चुनौतियों का सामना कर रहा है।
व्यापक नैतिक परिदृश्य
दोनों शोधकर्ता इस बात पर जोर देते हैं कि एआई से जुड़ी नैतिक चिंताएं उनके अध्ययन के विशिष्ट क्षेत्रों से कहीं आगे तक फैली हुई हैं। वे कई प्रमुख मुद्दों पर बात करते हैं:
- डेटा गोपनीयता और सहमति:शोधकर्ता वर्तमान सहमति तंत्र की अपर्याप्तता पर प्रकाश डालते हैं, विशेष रूप से एआई प्रशिक्षण के लिए डेटा संग्रह के संबंध में। कामेश्वरन भारत में अपने काम का उदाहरण देते हैं, जहां कमजोर आबादी ने अनजाने में सीओवीआईडी -19 महामारी के दौरान एआई-संचालित ऋण प्लेटफार्मों को व्यापक व्यक्तिगत डेटा सौंप दिया।
- पारदर्शिता और व्याख्यात्मकता:दोनों शोधकर्ता यह समझने के महत्व पर जोर देते हैं कि एआई सिस्टम कैसे निर्णय लेते हैं, खासकर जब ये निर्णय लोगों के जीवन को महत्वपूर्ण रूप से प्रभावित करते हैं।
- सामाजिक दृष्टिकोण और पूर्वाग्रह: कामेश्वरन बताते हैं कि अकेले तकनीकी समाधान भेदभाव के मुद्दों को हल नहीं कर सकते। विकलांग लोगों सहित हाशिये पर मौजूद समूहों के प्रति दृष्टिकोण में व्यापक सामाजिक बदलाव की आवश्यकता है।
- अंतःविषय सहयोग: यूएमडी में शोधकर्ताओं का काम एआई नैतिकता को संबोधित करने में दर्शनशास्त्र, कंप्यूटर विज्ञान और अन्य विषयों के बीच सहयोग के महत्व का उदाहरण देता है।
आगे की ओर देखें: समाधान और चुनौतियाँ
हालाँकि चुनौतियाँ महत्वपूर्ण हैं, दोनों शोधकर्ता समाधान की दिशा में काम कर रहे हैं:
- मानक एआई के प्रति कैनावोटो का हाइब्रिड दृष्टिकोण अधिक नैतिक रूप से जागरूक और समझाने योग्य एआई सिस्टम को जन्म दे सकता है।
- कामेश्वरन संभावित भेदभाव के लिए एआई भर्ती प्लेटफार्मों का आकलन करने के लिए वकालत समूहों के लिए ऑडिट टूल विकसित करने का सुझाव देते हैं।
- दोनों नीतिगत बदलावों की आवश्यकता पर जोर देते हैं, जैसे कि एआई से संबंधित भेदभाव को दूर करने के लिए अमेरिकी विकलांगता अधिनियम को अद्यतन करना।
हालाँकि, वे मुद्दों की जटिलता को भी स्वीकार करते हैं। जैसा कि कामेश्वरन कहते हैं, “दुर्भाग्य से, मुझे नहीं लगता कि कुछ प्रकार के डेटा और ऑडिटिंग टूल के साथ एआई को प्रशिक्षित करने का तकनीकी समाधान अपने आप में किसी समस्या का समाधान करने वाला है। इसलिए इसके लिए बहु-आयामी दृष्टिकोण की आवश्यकता है।”
शोधकर्ताओं के काम से एक मुख्य बात यह है कि हमारे जीवन पर एआई के प्रभाव के बारे में अधिक सार्वजनिक जागरूकता की आवश्यकता है। लोगों को यह जानना होगा कि वे कितना डेटा साझा करते हैं या इसका उपयोग कैसे किया जा रहा है। जैसा कि कैनावोट्टो बताते हैं, कंपनियों को अक्सर इस जानकारी को अस्पष्ट करने के लिए प्रोत्साहन मिलता है, उन्हें इस प्रकार परिभाषित किया जाता है “कंपनियां जो आपको यह बताने की कोशिश करती हैं कि यदि आप मुझे डेटा देंगे तो मेरी सेवा आपके लिए बेहतर होगी।”
शोधकर्ताओं का तर्क है कि जनता को शिक्षित करने और कंपनियों को जवाबदेह बनाने के लिए बहुत कुछ करने की जरूरत है। अंततः, कैनावोटो और कामेश्वरन का अंतःविषय दृष्टिकोण, दार्शनिक जांच को व्यावहारिक अनुप्रयोग के साथ जोड़कर, सही दिशा में आगे बढ़ने का एक मार्ग है, जो यह सुनिश्चित करता है कि एआई सिस्टम शक्तिशाली होने के साथ-साथ नैतिक और न्यायसंगत भी हैं।
यह भी देखें:मदद या बाधा डालने वाले नियम: क्लाउडफ्लेयर की राय
क्या आप उद्योग जगत के नेताओं से एआई और बड़े डेटा के बारे में अधिक जानना चाहते हैं? चेक आउट एआई और बिग डेटा एक्सपो एम्स्टर्डम, कैलिफ़ोर्निया और लंदन में हो रहा है। व्यापक कार्यक्रम अन्य प्रमुख कार्यक्रमों के साथ सह-स्थित है इंटेलिजेंट ऑटोमेशन सम्मेलन, ब्लॉकएक्स, डिजिटल परिवर्तन सप्ताहऔर साइबर सुरक्षा और क्लाउड एक्सपो.
TechForge द्वारा संचालित अन्य आगामी उद्यम प्रौद्योगिकी कार्यक्रमों और वेबिनार का अन्वेषण करें यहाँ.
ब्रिजिंग कोड और विवेक: नैतिक और समावेशी एआई के लिए यूएमडी की खोज पहली बार एआई न्यूज पर दिखाई दी।