अमेज़ॅन की चेहरे की पहचान गलती से 26 कैलिफोर्निया के अपराधियों को अपराधी के रूप में लेबल करती है



चूंकि सरकारी एजेंसियां ​​चेहरे की पहचान प्रणाली की तैनाती के लिए जोर लगाना जारी रखती हैं, इसलिए आपको यह देखने की जरूरत नहीं है कि यह बुरी खबर क्यों है। इस बिंदु को स्पष्ट करने के लिए, ACLU ने अमेजन के रिकॉग्निशन सॉफ्टवेयर का एक परीक्षण किया – चेहरे की पहचान तकनीक जो वर्तमान में अमेरिकी कानून प्रवर्तन द्वारा उपयोग की जा रही है – जिसमें उसने गलत तरीके से एक आपराधिक डेटाबेस में 26 कैलिफ़ोर्निया सांसदों की पहचान की।

जब आप "राजनेताओं" से टकराएंगे तो हम रोक देंगे कर रहे हैं अपराधियों "मजाक आपके सिर के माध्यम से चल रहा है।

यह दूसरी बार है जब ACLU ने इस प्रकार का परीक्षण चलाया है। पहले में, पिछले साल आयोजित एक परीक्षण, Rekognition बेतहाशा गलत था, गलत और नस्लीय पक्षपाती परिणामों का मंथन जब कांग्रेस के सदस्यों से मिलान करने का प्रयास किया गया।

विस्तृत आज, नवीनतम ACLU परीक्षण ने कैलिफोर्निया के सांसदों की 120 छवियों को 25,000 mugshots के डेटाबेस के खिलाफ चलाया। अमेज़ॅन के रिकॉग्निशन सॉफ़्टवेयर ने लगभग 20 प्रतिशत समय में झूठी सकारात्मकता उत्पन्न की।

फिल टिंग, एक सैन फ्रांसिस्को विधानसभा सदस्य और गलत मैचों में से एक, ने पुलिस बॉडी कैमरों में प्रौद्योगिकी के उपयोग पर प्रतिबंध लगाने वाले बिल के समर्थन के लिए परिणामों का उपयोग किया। टिंग ने एक प्रेस कॉन्फ्रेंस के दौरान कहा, "हम इसे एक प्रदर्शन के रूप में चलाना चाहते थे कि कैसे यह सॉफ्टवेयर प्राइम टाइम के लिए बिल्कुल तैयार नहीं है।" "जब हम विधायकों के रूप में इसके बारे में हंस सकते हैं, तो नौकरी पाने की कोशिश करने वाले व्यक्ति के लिए यह कोई हंसी की बात नहीं है, अगर आप एक व्यक्ति को घर दिलाने की कोशिश कर रहे हैं।"

अमेज़न के प्रवक्ता ने बताया TNW:

ACLU एक बार फिर जानबूझकर दुरुपयोग कर रहा है और सुर्खियों में लाने के लिए Amazon Rekognition का गलत इस्तेमाल कर रहा है। जैसा कि हमने पूर्व में कई बार कहा है, जब अनुशंसित 99% आत्मविश्वास सीमा के साथ उपयोग किया जाता है और मानव चालित निर्णय के एक भाग के रूप में, चेहरे की पहचान तकनीक का उपयोग लाभकारी उद्देश्यों की लंबी सूची के लिए किया जा सकता है, पहचान में सहायता करने से अपराधियों को मानव तस्करी को रोकने के लिए लापता बच्चों को खोजने में मदद करने के लिए। हम जिम्मेदार उपयोग सुनिश्चित करने के लिए चेहरे की पहचान तकनीक के संघीय कानून की वकालत करना जारी रखते हैं, और हमने नीति निर्माताओं और निजी तौर पर हमारे ब्लॉग पर दोनों के लिए अपने विशिष्ट सुझाव साझा किए हैं।

ACLU के वकील मैट कैगल, जिन्होंने यूसी बर्कले के साथ मिलकर आलोचना के खिलाफ उठे परिणामों को स्वतंत्र रूप से सत्यापित करने का काम किया। को एक टिप्पणी में Gizmodo, कैगल ने कहा कि ACLU ने 99 प्रतिशत विश्वास सीमा का उपयोग नहीं किया क्योंकि यह अमेज़न के सॉफ्टवेयर में डिफ़ॉल्ट सेटिंग्स के साथ अटक गया – जो कि 80 प्रतिशत आत्मविश्वास स्कोर है।

अमेज़ॅन ने एक ब्लॉग पोस्ट की ओर इशारा करते हुए दावे का खंडन किया, जिसमें यह ध्यान दिया गया है कि 99% से कम विश्वास स्तर के साथ रेकग्निशन का उपयोग नहीं किया जाना चाहिए। बेशक, यह केवल अधिक प्रश्नों की ओर जाता है। विशेष रूप से, 99 प्रतिशत सॉफ़्टवेयर की डिफ़ॉल्ट सेटिंग क्यों नहीं है?