YouTube के फीडबैक लूप की विषाक्त क्षमता


2010 से 2011, मैंने YouTube के कृत्रिम बुद्धिमत्ता अनुशंसा इंजन पर काम किया- एल्गोरिदम जो आपके पिछले देखने की आदतों और खोजों के आधार पर आपके द्वारा देखे जाने वाले निर्देशों को निर्देशित करता है। मेरा एक मुख्य कार्य YouTube पर लोगों के खर्च की मात्रा को बढ़ाना था। उस समय, यह खोज हानिरहित लग रहा था। लेकिन लगभग एक दशक बाद, मैं देख सकता हूं कि हमारा काम अनायास ही हो गया था – लेकिन अप्रत्याशित-परिणाम नहीं। कुछ मामलों में, AI बहुत गलत हो गया।

आर्टिफिशियल इंटेलिजेंस एक बड़े हिस्से को नियंत्रित करता है कि हम आज जानकारी का कैसे उपभोग करते हैं। YouTube के मामले में, उपयोगकर्ता एल्गोरिथम द्वारा अनुशंसित वीडियो देखने के लिए प्रत्येक दिन 700,000,000 घंटे बिताते हैं। इसी तरह, फेसबुक के समाचार फ़ीड के लिए सिफारिश इंजन प्रति दिन लगभग 950,000,000 घंटे का समय देखता है।

फरवरी में, मैट वॉटसन नामक एक YouTube उपयोगकर्ता ने पाया कि साइट की सिफारिश एल्गोरिथ्म कुछ वीडियो के टिप्पणी अनुभागों में बाल पोर्न को कनेक्ट करने और साझा करने के लिए पीडोफाइल के लिए आसान बना रही थी। यह खोज कई कारणों से भयावह थी। न केवल YouTube इन वीडियो का मुद्रीकरण कर रहा था, इसकी अनुशंसा एल्गोरिदम थी सक्रिय रूप से धक्का हजारों उपयोगकर्ता बच्चों के विचारोत्तेजक वीडियो की ओर।

जब खबर टूटी, तो डिज्नी और नेस्ले ने अपने विज्ञापनों को मंच से खींच लिया। YouTube ने हजारों वीडियो हटा दिए और कई और कमेंट करने की क्षमताओं को अवरुद्ध कर दिया।

दुर्भाग्य से, यह हाल के वर्षों में YouTube पर हमला करने वाला पहला घोटाला नहीं था। मंच ने आतंकवादी सामग्री, विदेशी राज्य-प्रायोजित प्रचार, अत्यधिक घृणा, सॉफ्टकोर ज़ोफ़िलिया, अनुचित बच्चों की सामग्री और असंख्य षड्यंत्र के सिद्धांतों को बढ़ावा दिया है।

सिफारिश इंजन पर काम करने के बाद, मैं यह अनुमान लगा सकता था कि एआई इन घोटालों में से प्रत्येक के पीछे हानिकारक वीडियो को जानबूझकर बढ़ावा देगा। कैसे? सगाई के मेट्रिक्स को देखकर।

एआई डिजास्टर का एनाटॉमी

अनुशंसा एल्गोरिदम का उपयोग करके, YouTube का AI उस समय को बढ़ाने के लिए डिज़ाइन किया गया है जो लोग ऑनलाइन खर्च करते हैं। वे एल्गोरिदम उपयोगकर्ता के पिछले देखने की आदतों को ट्रैक करते हैं और मापते हैं – और उपयोगकर्ताओं को वे पसंद करते हैं – वे उन अन्य वीडियो को खोजने और अनुशंसा करने के लिए जिन्हें वे संलग्न करेंगे।

पीडोफाइल घोटाले के मामले में, YouTube का AI सक्रिय रूप से उन उपयोगकर्ताओं के लिए बच्चों के विचारोत्तेजक वीडियो की सिफारिश कर रहा था, जो उन वीडियो के साथ जुड़ने की सबसे अधिक संभावना रखते थे। AI जितना मजबूत हो जाता है, यानी जितना अधिक डेटा होता है- उतना ही कुशल वह विशिष्ट उपयोगकर्ता-लक्षित सामग्री की सिफारिश करने में सक्षम हो जाएगा।

यहां यह खतरनाक हो जाता है: जैसे ही एआई में सुधार होता है, यह अधिक सटीक भविष्यवाणी कर सकेगा कि इस सामग्री में कौन रुचि रखता है; इस प्रकार, यह उन लोगों के लिए ऐसी सामग्री की सिफारिश करने की संभावना भी कम है जो नहीं हैं। उस स्तर पर, एल्गोरिथ्म के साथ समस्याएं तेजी से नोटिस करना मुश्किल हो जाती हैं, क्योंकि सामग्री को झंडी दिखाने या रिपोर्ट करने की संभावना नहीं है। पीडोफिलिया सिफारिश श्रृंखला के मामले में, YouTube को उस उपयोगकर्ता के लिए आभारी होना चाहिए जिसने इसे पाया और उजागर किया। उसके बिना, चक्र वर्षों तक जारी रह सकता था।

लेकिन यह घटना एक बड़े मुद्दे का सिर्फ एक उदाहरण है।

कैसे हाइपर-एंगेज्ड यूजर शेप AI

इस साल की शुरुआत में, Google के डीप माइंड के शोधकर्ताओं ने अनुशंसाकर्ता प्रणालियों के प्रभाव की जांच की, जैसे कि YouTube और अन्य प्लेटफार्मों द्वारा उपयोग की जाने वाली। वे निष्कर्ष निकाला "अनुशंसा प्रणालियों में फीडबैक लूप्स 'इको चैंबर्स' और 'फिल्टर बबल' को जन्म दे सकते हैं, जो उपयोगकर्ता की सामग्री के जोखिम को कम कर सकते हैं और अंततः उनके विश्वदृष्टि को बदल सकते हैं।"

मॉडल ने इस बात पर ध्यान नहीं दिया कि अनुशंसा प्रणाली किस प्रकार की सामग्री को प्रभावित करती है। वास्तविक दुनिया में, AI, सामग्री निर्माता और उपयोगकर्ता एक दूसरे को बहुत प्रभावित करते हैं। क्योंकि AI का लक्ष्य अधिकतम जुड़ाव रखना है, अति-व्यस्त उपयोगकर्ताओं को "पुन: पेश किए जाने वाले मॉडल" के रूप में देखा जाता है। AI एल्गोरिदम फिर ऐसे उपयोगकर्ताओं की सामग्री का पक्ष लेंगे।

फीडबैक लूप इस तरह से काम करता है: (1) जो लोग प्लेटफार्मों पर अधिक समय बिताते हैं, वे अनुशंसा प्रणालियों पर अधिक प्रभाव डालते हैं। (2) वे जिस सामग्री से जुड़ते हैं, उसे अधिक दृश्य / पसंद मिलेंगे। (3) सामग्री निर्माता नोटिस करेंगे और इसे अधिक बनाएंगे। (४) लोग उस सामग्री पर और भी अधिक समय व्यतीत करेंगे। इसलिए यह जानना महत्वपूर्ण है कि प्लेटफ़ॉर्म के अति-व्यस्त उपयोगकर्ता कौन हैं: वे वही हैं जो हम अनुमान लगाने के लिए जांच कर सकते हैं कि AI दुनिया को किस दिशा में झुका रहा है।

आम तौर पर, सिफारिश इंजन को कम करने वाली प्रोत्साहन संरचना की जांच करना महत्वपूर्ण है। अनुशंसा एल्गोरिदम को नियुक्त करने वाली कंपनियां चाहती हैं कि उपयोगकर्ता अपने प्लेटफार्मों के साथ और जितनी बार संभव हो सके, क्योंकि यह उनके व्यावसायिक हितों में हो। यह कभी-कभी उपयोगकर्ता के हित में होता है कि वह एक मंच पर यथासंभव लंबे समय तक रह सकता है – जब संगीत सुनता है, उदाहरण के लिए- लेकिन हमेशा नहीं।

हम जानते हैं कि गलत सूचना, अफवाहें, और अपमानजनक या विभाजनकारी सामग्री महत्वपूर्ण जुड़ाव को बढ़ाती है। यहां तक ​​कि अगर कोई उपयोगकर्ता सामग्री के भ्रामक स्वरूप को नोटिस करता है और इसे चिह्नित करता है, तो अक्सर ऐसा तब होता है जब वे इसके साथ लगे होते हैं। तब तक बहुत देर हो चुकी होती है; उन्होंने एल्गोरिथ्म को एक सकारात्मक संकेत दिया है। अब चूंकि यह सामग्री किसी तरह से पसंदीदा हो गई है, इसलिए इसे बढ़ावा मिलता है, जो रचनाकारों को इसका अधिक अपलोड करने का कारण बनता है। एआई एल्गोरिदम द्वारा प्रेरित उन लक्षणों को मजबूत करने के लिए प्रोत्साहित किया जाता है जो सगाई के लिए सकारात्मक हैं, उस सामग्री का अधिक हिस्सा सिफारिश प्रणालियों में फ़िल्टर करता है। इसके अलावा, जैसे ही एआई को पता चलता है कि यह एक व्यक्ति से कैसे जुड़ा है, यह हजारों उपयोगकर्ताओं पर एक ही तंत्र को पुन: पेश कर सकता है।

यहां तक ​​कि दुनिया का सबसे अच्छा AI- YouTube और फेसबुक जैसी संसाधन-संपन्न कंपनियों द्वारा लिखी गई प्रणालियां – सगाई की खोज में सक्रिय रूप से परेशान, झूठे और बेकार सामग्री को बढ़ावा दे सकती हैं। उपयोगकर्ताओं को एआई के आधार को समझने और सावधानी के साथ सिफारिश इंजन देखने की आवश्यकता है। लेकिन ऐसी जागरूकता केवल उपयोगकर्ताओं पर नहीं पड़नी चाहिए।

पिछले एक वर्ष में, कंपनियां तेजी से सक्रिय हो गई हैं: फेसबुक और यूट्यूब दोनों ने घोषणा की कि वे हानिकारक सामग्री का पता लगाने और उन्हें गिराने के लिए शुरू करेंगे।

लेकिन अगर हम विभाजन और विघटन से भरे भविष्य से बचना चाहते हैं, तो बहुत अधिक काम किया जाना है। उपयोगकर्ताओं को यह समझने की आवश्यकता है कि कौन से एआई एल्गोरिदम उनके लिए काम कर रहे हैं, और जो उनके खिलाफ काम कर रहे हैं।

वार ओपिनियन बाहरी योगदानकर्ताओं द्वारा लिखे गए टुकड़ों को प्रकाशित करता है और व्यापक दृष्टिकोण का प्रतिनिधित्व करता है। अधिक राय यहां पढ़ें Op@wired.com पर एक ऑप-एड जमा करें


अधिक महान WIRED कहानियां