OASI, सरकारों और कंपनियों द्वारा नागरिकों पर उपयोग किए जाने वाले एल्गोरिदम को खोजने वाला पहला खोज इंजन है

• Eticas Foundation द्वारा निर्मित, सामाजिक प्रभाव के साथ एल्गोरिदम की वेधशाला, OASI, दुनिया भर के सार्वजनिक प्रशासनों और कंपनियों द्वारा उनके सामाजिक प्रभाव के बारे में अधिक जानने के लिए उपयोग किए जाने वाले दर्जनों एल्गोरिदम से जानकारी एकत्र करती है।
• इसका उद्देश्य सरकारों और कंपनी एल्गोरिदम दोनों के बारे में जानकारी के लिए सार्वजनिक पहुंच प्रदान करना है, और यह जानना है कि उनका उपयोग कौन करता है, उन्हें कौन विकसित करता है, वे किन खतरों का प्रतिनिधित्व करते हैं और यदि उनका ऑडिट किया गया है, तो अन्य विशेषताओं के साथ।

• एल्गोरिथम पूर्वाग्रह और भेदभाव आमतौर पर उम्र, लिंग, जाति या विकलांगता के आधार पर अन्य मूल्यों के आधार पर होता है, लेकिन पारदर्शिता की सामान्य कमी के कारण, प्रभावित समूहों पर इसके सभी परिणामों को जानना अभी भी संभव नहीं है।

एल्गोरिथम और आर्टिफिशियल इंटेलिजेंस (एआई) सिस्टम के जिम्मेदार उपयोग को बढ़ावा देने वाले गैर-लाभकारी संगठन एटिकास फाउंडेशन ने सोशल इंपैक्ट (ओएएसआई) के साथ एल्गोरिदम की वेधशाला बनाई है। यह वेधशाला दुनिया भर के नागरिकों, उपभोक्ताओं और उपयोगकर्ताओं पर महत्वपूर्ण स्वचालित निर्णय लेने वाले उपकरणों के बारे में अधिक जानने के लिए एक खोज इंजन पेश करती है।

वर्तमान में, कंपनियां और लोक प्रशासन दोनों ही एल्गोरिदम की बदौलत निर्णयों को स्वचालित करते हैं। तथापि, इसका विकास और कमीशनिंग बाहरी गुणवत्ता नियंत्रणों का पालन नहीं करता है, न ही यह उतना पारदर्शी है जितना होना चाहिए, जो आबादी को असुरक्षित छोड़ देता है। इस खोज इंजन के साथ, कोई भी इन एल्गोरिदम के बारे में अधिक जानकारी प्राप्त कर सकता है: उन्हें किसने विकसित किया है, उनका उपयोग कौन करता है, उनके आवेदन का दायरा, चाहे उनका ऑडिट किया गया हो, उनके उद्देश्य या उनके सामाजिक प्रभाव और वे जो खतरों का प्रतिनिधित्व करते हैं।

इस समय, OASI 57 एल्गोरिदम एकत्र करता है, लेकिन अगले महीनों में 100 तक पहुंचने की उम्मीद करता है। उनमें से, 24 सरकार और बिग टेक कंपनियों द्वारा संयुक्त राज्य अमेरिका में पहले से ही आवेदन किया जा रहा है। उदाहरण के लिए, शॉटस्पॉटर, ध्वनि-निगरानी माइक्रोफोन के माध्यम से बंदूक हिंसा से लड़ने और कम करने के लिए ओकलैंड पुलिस विभाग द्वारा तैनात एक एल्गोरिदम उपकरण, और एलेघेनी काउंटी, पेंसिल्वेनिया द्वारा उपयोग किए जाने वाले संभावित बाल दुर्व्यवहार और उपेक्षा की भविष्यवाणी करने के लिए एक एल्गोरिदम। एक कॉर्पोरेट से एक और उदाहरण रेकॉग्निशन, अमेज़ॅन की चेहरे की पहचान प्रणाली है, जिसे 2019 की शुरुआत में एमआईटी मीडिया लैब द्वारा ऑडिट किया गया था, और किसी व्यक्ति के लिंग की पहचान करते समय काफी खराब प्रदर्शन पाया गया यदि वे महिला या गहरे रंग की थीं।

विज्ञापन

सबसे आम भेदभाव उम्र, लिंग, नस्ल या विकलांगता के आधार पर होता है, डेवलपर्स द्वारा अनजाने में उत्पादित, जिनके पास इस तकनीक के प्रभाव को समझने के लिए सामाजिक आर्थिक कौशल की कमी है। इस अर्थ में, ये इंजीनियर केवल तकनीकी कौशल के आधार पर एल्गोरिदम को डिजाइन करते हैं, और चूंकि कोई बाहरी नियंत्रण नहीं है और यह अपेक्षा के अनुरूप काम कर रहा है, इसलिए एल्गोरिदम कम डेटा से सीखता रहता है।

इनमें से कुछ एल्गोरिदम के कामकाज के बारे में पारदर्शिता की कमी को देखते हुए, OASI के लॉन्च के अलावा, Eticas Foundation बाहरी ऑडिट की एक परियोजना विकसित कर रहा है। पहला है VioGén, स्पेन के गृह मंत्रालय द्वारा इस्तेमाल किया जाने वाला एल्गोरिथम घरेलू हिंसा के पीड़ित मामलों के बाद सुरक्षा चाहने वाली महिलाओं को जोखिम सौंपने के लिए। Eticas बड़े पैमाने पर परिणाम एकत्र करने के लिए रिवर्स इंजीनियरिंग और प्रशासनिक डेटा, साक्षात्कार, रिपोर्ट या डिजाइन स्क्रिप्ट के माध्यम से एक बाहरी ऑडिट करेगा। यह सब इन महिलाओं की सुरक्षा में सुधार के अवसरों का पता लगाने के उद्देश्य से किया जा रहा है।

“एल्गोरिथम नियंत्रण और ऑडिट विधियों के अस्तित्व के बावजूद यह सुनिश्चित करने के लिए कि प्रौद्योगिकी वर्तमान नियमों और मौलिक अधिकारों का सम्मान करती है, प्रशासन और कई कंपनियां नागरिकों और संस्थानों से पारदर्शिता के अनुरोधों के लिए एक बहरा कान चालू करना जारी रखती हैं,” एटिकास फाउंडेशन के संस्थापक जेम्मा गैल्डन ने घोषित किया। . “ओएएसआई के अलावा, कई वर्षों के बाद, जिसमें हमने अल्फा टेलीफोनिका, संयुक्त राष्ट्र, कोआ हेल्थ या इंटर-अमेरिकन डेवलपमेंट बैंक जैसी कंपनियों के लिए एक दर्जन से अधिक ऑडिट विकसित किए हैं, हमने एल्गोरिथम ऑडिट के लिए एक गाइड भी प्रकाशित किया है। कि कोई भी उनका प्रदर्शन कर सके। उद्देश्य हमेशा जागरूकता बढ़ाना, पारदर्शिता प्रदान करना और प्रौद्योगिकी में विश्वास बहाल करना है, जो अपने आप में हानिकारक नहीं है। ”

विज्ञापन

इस अर्थ में, एल्गोरिदम जो मशीन लर्निंग तकनीकों के साथ प्रशिक्षित होते हैं, उन्हें पिछले निर्णयों के आधार पर चुनने के लिए “सिखाने” के लिए बड़ी मात्रा में ऐतिहासिक डेटा का उपयोग किया जाता है। आमतौर पर ये आंकड़े सामाजिक-आर्थिक और सांस्कृतिक वास्तविकता का प्रतिनिधित्व नहीं करते हैं, जिस पर उन्हें लागू किया जाता है, लेकिन कई मौकों पर वे एक अनुचित स्थिति को दर्शाते हैं जिसका उद्देश्य स्थायी नहीं होना है। इस तरह, एल्गोरिथ्म तकनीकी रूप से अपने प्रशिक्षण के अनुसार “सही” निर्णय ले रहा होगा, भले ही वास्तविकता यह है कि इसकी सिफारिशें या भविष्यवाणियां पक्षपाती या भेदभावपूर्ण हैं।

एटिकास फाउंडेशन के बारे में

Eticas Foundation तकनीकी विशिष्टताओं में उन सिद्धांतों का अनुवाद करने के लिए काम करता है जो समाज का मार्गदर्शन करते हैं, जैसे समान अवसर, पारदर्शिता और गैर-भेदभाव जो प्रौद्योगिकियों में हैं जो हमारे जीवन के बारे में स्वचालित निर्णय लेते हैं। यह बदलते सामाजिक मूल्यों, नवीनतम प्रगति की तकनीकी संभावनाओं और कानूनी ढांचे के बीच संतुलन चाहता है। यह अंत करने के लिए, यह एल्गोरिदम का ऑडिट करता है, यह सत्यापित करता है कि कानूनी गारंटी डिजिटल दुनिया पर लागू होती है, विशेष रूप से आर्टिफिशियल इंटेलिजेंस के लिए, और जागरूकता बढ़ाने और जिम्मेदार, गुणवत्ता प्रौद्योगिकी की आवश्यकता को प्रसारित करने के लिए गहन कार्य करता है।