याहू के समाचार लेखों में इंटरनेट के बाकी हिस्सों की तरह बहुत सारी बेहूदा टिप्पणियां हैं, इसलिए याहू टीम ने एक एल्गोरिथम विकसित करने के लिए अपने टिप्पणी अनुभाग का उपयोग करने का फैसला किया जो सबसे खराब अपराधियों की सफलतापूर्वक पहचान कर सके। जो अपने नया दुरुपयोग-पता लगाने वाला एल्गोरिदम 90 प्रतिशत समय काम करता है, जो वे कहते हैं कि यह अन्य संगठनों के समान कारनामों को लेने के प्रयासों की तुलना में अधिक प्रभावी बनाता है, और इसे क्षेत्र में एक प्रमुख कदम के रूप में वर्णित किया गया है। 90 प्रतिशत कर देता है बहुत अच्छा लग रहा है, मैं मानता हूँ।
वायर्ड रिपोर्ट करता है कि याहू दुरुपयोग से निपटने के लिए अपनी परियोजना के हिस्से के रूप में ऑनलाइन अभद्र भाषा का पहला सार्वजनिक रूप से उपलब्ध क्यूरेटेड डेटाबेस भी जारी कर रहा है। इसका मतलब यह है कि अन्य साइटें अपने स्वयं के एल्गोरिदम को डिजाइन करने के लिए याहू के टिप्पणियों के डेटाबेस का उपयोग करने में सक्षम होंगी। Yahoo का एल्गोरिथम मशीन लर्निंग के आधार पर विकसित किया गया था और साथ ही उनके कमेंट सेक्शन के बारे में उपयोगकर्ता द्वारा रिपोर्ट किए गए डेटा पर भी।
किसी भी टिप्पणी-मॉडरेटिंग एल्गोरिदम का सबसे कठिन हिस्सा झूठी सकारात्मकता से निपट रहा है। कई दुर्व्यवहार-पहचान करने वाले एल्गोरिदम विशिष्ट शब्दों या वाक्यांशों की तलाश करते हैं, जैसे गालियां या सामान्य अपमान, और मॉडरेशन के लिए टिप्पणियों को स्वचालित रूप से फ़्लैग करते हैं। हालाँकि, इसके परिणामस्वरूप टिप्पणियों को फ़्लैग किया जाता है, भले ही वे यह कहने के संदर्भ में एक गाली का संदर्भ देते हैं कि यह उचित नहीं है, उदाहरण के लिए, या यदि टिप्पणी एक ट्रोल की व्यंग्यात्मक नकल है। याहू का एल्गोरिदम स्पष्ट रूप से कुछ भाषण पैटर्न का पता लगा सकता है, और इसे जोकी कटाक्ष और वास्तविक दुरुपयोग के बीच अंतर बताने में सक्षम होने के लिए डिज़ाइन किया गया है। (बेशक, यदि आपकी प्रफुल्लित करने वाली टिप्पणी वास्तविक दुरुपयोग से अप्रभेद्य है, तो मुझे पूरा यकीन है कि एल्गोरिथ्म अभी भी इसे ध्वजांकित करेगा, लेकिन मैं निश्चित रूप से यह नहीं कह सकता कि एआई का वह हिस्सा कैसे काम करता है।)
याहू ने एल्गोरिथम को सही करने में मदद करने के लिए प्रशिक्षित टिप्पणी मॉडरेटरों को शामिल किया, और उन्होंने कुछ अप्रशिक्षित मॉडरेटरों को भी भुगतान किया, और उन्होंने पाया कि प्रशिक्षित मॉडरेटर यह पता लगाने में पूरी तरह से बेहतर थे कि कौन सी टिप्पणियां उपयुक्त थीं (एक तरह का दिमाग नहीं, लेकिन हे)। एआई बनाने के दौरान, याहू ने पाया कि इन प्रशिक्षित मानव मध्यस्थों का काम एल्गोरिथम की प्रभावकारिता को बनाए रखने और इसकी पहचान तकनीकों को पूर्ण करने के लिए आवश्यक था।
बेशक, एल्गोरिदम में अभी भी पूर्वाग्रह हैं , जो टिप्पणियों को वर्गीकृत करने के लिए उपयोग की जाने वाली पद्धतियों पर पुनरावृति जारी रखने के लिए मानव मध्यस्थों की एक (उम्मीद से विविध) टीम की आवश्यकता होगी। एक कठिन काम की तरह लगता है, लेकिन कम से कम याहू अब प्रशिक्षण के महत्व को समझता है और अपने अच्छी तरह से प्रशिक्षित मानव मध्यस्थों और उनके नए एआई सहयोगी दोनों की भूमिकाओं को महत्व देता है।
हंटर एस थॉम्पसन वेंचर ब्रोस
(के जरिए अगला वेब , छवि के माध्यम से माइकल कॉर्डेडा / फ़्लिकर )
