Photo: IANS

राष्ट्रीय मानवाधिकार आयोग (एनएचआरसी) ने इंस्टाग्राम पर बच्चों के यौन शोषण से जुड़ी सामग्री (सीएसएएम) को कथित तौर पर बढ़ावा देने वाले भुगतान किए गए विज्ञापनों के मामले में केंद्र सरकार और दिल्ली पुलिस से विस्तृत कार्रवाई रिपोर्ट मांगी है। आयोग ने इस मामले में मेटा की कृत्रिम बुद्धिमत्ता (एआई) और एल्गोरिदमिक प्रणालियों की बढ़ती भूमिका पर भी गंभीर सवाल उठाए हैं।

एनएचआरसी ने इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई), सूचना एवं प्रसारण मंत्रालय (एमआईबी) और दिल्ली पुलिस को दो सप्ताह के भीतर अलग-अलग, बिंदुवार कार्रवाई रिपोर्ट पेश करने का निर्देश दिया है।

आयोग के समक्ष शिकायत में आरोप लगाया गया था कि इंस्टाग्राम पर भुगतान किए गए कुछ विज्ञापनों के जरिए ‘रेप वीडियो’ और ‘चाइल्ड वीडियो’ जैसे शब्दों का इस्तेमाल कर उपयोगकर्ताओं को टेलीग्राम चैनलों तक पहुंचाया गया, जहां बच्चों के यौन शोषण से जुड़ी सामग्री कथित तौर पर बिक्री के लिए उपलब्ध कराई जा रही थी। बीबीसी वर्ल्ड सर्विस की मीडिया रिपोर्टों के आधार पर एनएचआरसी के सदस्य प्रियंक कानूनगो की अध्यक्षता वाली पीठ ने पहले ही इस मामले का स्वत: संज्ञान लिया था।

एनएचआरसी ने इससे पहले दिल्ली पुलिस से कार्रवाई रिपोर्ट मांगी थी। निर्धारित समय में रिपोर्ट नहीं मिलने के बाद आयोग ने दिल्ली पुलिस आयुक्त को समन जारी कर 7 सितंबर को व्यक्तिगत रूप से पेश होने का निर्देश दिया था। हालांकि, बाद में यह व्यक्तिगत उपस्थिति 31 अगस्त तक आवश्यक रिपोर्ट मिलने की शर्त से जोड़ दी गई।

अब आयोग ने दिल्ली पुलिस आयुक्त को दो सप्ताह का अतिरिक्त समय देते हुए अद्यतन कार्रवाई रिपोर्ट पेश करने को कहा है। इसमें मामले में की गई कार्रवाई के साथ-साथ टेलीग्राम से मांगी गई या प्राप्त की गई जानकारी और उसके आधार पर की गई आगे की कार्रवाई का विवरण भी देना होगा।

एनएचआरसी ने कहा कि यदि आरोप सही पाए जाते हैं तो यह मामला केवल आपत्तिजनक ऑनलाइन सामग्री तक सीमित नहीं रहेगा। इसमें बच्चों के ऑनलाइन यौन शोषण, ऐसी सामग्री के प्रसार और उससे कमाई, संभावित संगठित अपराध तथा मध्यस्थ प्लेटफॉर्म की उचित सावधानी, विज्ञापन समीक्षा, सामग्री निगरानी और बाल सुरक्षा व्यवस्था में गंभीर खामियों जैसे पहलू सामने आते हैं।

आयोग ने कहा कि मामले की जांच यौन अपराधों से बच्चों का संरक्षण अधिनियम, 2012 (पॉक्सो), सूचना प्रौद्योगिकी अधिनियम, 2000 और लागू मध्यस्थ संबंधी नियमों के तहत की जानी चाहिए। इसके तहत इलेक्ट्रॉनिक साक्ष्यों को सुरक्षित रखना और उनकी फोरेंसिक जांच, विज्ञापन देने वालों और लाभार्थियों की पहचान, वित्तीय लेनदेन की पड़ताल तथा संभावित पीड़ित बच्चों की पहचान, बचाव और पुनर्वास जैसे कदम महत्वपूर्ण होंगे।

एनएचआरसी ने पॉक्सो अधिनियम की धारा 19 का भी उल्लेख किया। इस धारा के तहत किसी अपराध की जानकारी होने या उसके होने की आशंका होने पर विशेष किशोर पुलिस इकाई या स्थानीय पुलिस को सूचना देना अनिवार्य है। आयोग ने स्पष्ट किया कि बच्चों के यौन शोषण या ऐसी सामग्री के प्रसार और व्यावसायिक इस्तेमाल से जुड़े मामलों में इस कानूनी जिम्मेदारी को केवल आंतरिक पत्राचार, शिकायत निवारण या नियामकीय बातचीत के जरिए पूरा नहीं माना जा सकता।

आयोग ने सुप्रीम कोर्ट के ‘जस्ट राइट्स फॉर चिल्ड्रेन अलायंस बनाम एस. हरिश’ मामले के फैसले का भी हवाला दिया। एनएचआरसी के अनुसार, अदालत ने स्पष्ट किया है कि सूचना प्रौद्योगिकी अधिनियम की धारा 79 अपने आप किसी मध्यस्थ प्लेटफॉर्म को पॉक्सो अधिनियम और उसके नियमों के तहत जिम्मेदारियों से मुक्त नहीं करती।

एमईआईटीवाई से आयोग ने विशेष रूप से पूछा है कि आरोपों की जानकारी मिलने के बाद क्या केंद्र ने पॉक्सो की धारा 19 के तहत मामले की सूचना विशेष किशोर पुलिस इकाई या स्थानीय पुलिस को दी थी। यदि ऐसा नहीं किया गया, तो मंत्रालय को यह बताना होगा कि अनिवार्य सूचना देने की जिम्मेदारी सुनिश्चित करने वाला अधिकारी या प्राधिकरण कौन था और सूचना नहीं देने की स्थिति में क्या कार्रवाई की गई।

मामले का एक अन्य महत्वपूर्ण पहलू मेटा की एआई आधारित प्रणालियों की बदलती भूमिका से जुड़ा है। एनएचआरसी ने केंद्र से यह जांचने को कहा है कि यदि मेटा की तकनीकी प्रणालियां केवल सामग्री को होस्ट या प्रसारित करने तक सीमित न रहकर उसे तैयार करने, बदलने, चुनने, सुझाने, प्रचारित करने या उससे कमाई में भूमिका निभाती हैं, तो क्या ऐसी भूमिका के कारण उसे सूचना प्रौद्योगिकी नियम, 2021 के तहत ऑनलाइन सामग्री के क्यूरेटर या प्रकाशक के रूप में अलग नियामकीय दायरे में देखा जाना चाहिए।

सूचना एवं प्रसारण मंत्रालय से भी इसी पहलू पर स्पष्ट राय मांगी गई है। आयोग ने पूछा है कि यदि मेटा की एआई या एल्गोरिदमिक प्रणालियां सामग्री तैयार, संशोधित, क्यूरेट, अनुशंसित, प्रकाशित या बड़े पैमाने पर प्रसारित करती हैं, तो क्या ऐसी गतिविधियां उसे सूचना प्रौद्योगिकी नियम, 2021 के तहत प्रकाशक या ऑनलाइन क्यूरेटेड सामग्री के प्रकाशक के रूप में नियामकीय दायरे में ला सकती हैं।

ये सवाल नेटवर्क फॉर एक्सेस टू जस्टिस एंड मल्टीडिसिप्लिनरी आउटरीच फाउंडेशन की ओर से दी गई पूरक प्रस्तुति के बाद सामने आए। संगठन ने एमईआईटीवाई को मेटा की ओर से दिए गए जवाब का हवाला देते हुए डिजिटल प्लेटफॉर्म की बदलती भूमिका पर आयोग का ध्यान आकर्षित किया।

संगठन के अनुसार, मेटा के एआई आधारित उपकरण सामग्री के विचार, प्रारूप, स्लाइड क्रम, कैप्शन, उपयोगकर्ताओं से प्रतिक्रिया लेने के तरीके, पोस्ट करने का समय और कमाई की रणनीति जैसे सुझाव दे सकते हैं। संगठन ने दावा किया कि एक छात्र-संबंधी हालिया मुद्दे और नीट से जुड़े मामले पर उपकरण का परीक्षण करने पर उसने इंस्टाग्राम और फेसबुक के लिए पोस्ट की संरचना, ‘अपने अधिकार जानें’ जैसे सूचना आधारित पोस्ट, उपयोगकर्ताओं से कार्रवाई की अपील, पोस्टिंग समय और कमाई के विकल्पों सहित विस्तृत रणनीति सुझाई।

एनएचआरसी ने कहा कि इससे एक अलग नियामकीय सवाल पैदा होता है। यदि कोई डिजिटल मंच केवल सामग्री उपलब्ध कराने या पहुंचाने के बजाय अपने तकनीकी तंत्र के जरिए सामग्री तैयार करने, बदलने, चुनने, सुझाने, बढ़ावा देने या उसका व्यावसायीकरण करने में सक्रिय भूमिका निभाता है, तो उसकी कानूनी स्थिति का अलग से मूल्यांकन आवश्यक हो सकता है।

आयोग ने हालांकि यह भी स्पष्ट किया कि इस संबंध में फैसला केवल इस आधार पर नहीं होना चाहिए कि किसी मंच पर ऐसी तकनीक उपलब्ध है। वास्तविक भूमिका, मंच के हस्तक्षेप और नियंत्रण की सीमा तथा संबंधित कानूनों के आधार पर यह तय किया जाना चाहिए कि उस पर कौन से नियामकीय दायित्व लागू होते हैं।

एनएचआरसी ने कहा कि बच्चों के यौन शोषण से जुड़ी सामग्री के मामलों में यह प्रश्न और अधिक महत्वपूर्ण हो जाता है, क्योंकि एआई से तैयार या बदली गई सामग्री, एल्गोरिदमिक सिफारिशें, लक्षित प्रचार और विज्ञापन या मंच स्तर की सामग्री क्यूरेशन बच्चों की सुरक्षा के लिए अलग तरह के जोखिम पैदा कर सकते हैं।

आयोग ने जोर देकर कहा कि यह मामला केवल इंटरनेट पर उपलब्ध किसी ‘आपत्तिजनक सामग्री’ की शिकायत नहीं है। इसके केंद्र में कथित रूप से एक बच्चे के खिलाफ यौन अपराध, उसका रिकॉर्ड किया जाना, सामग्री का प्रसार, प्रचार और भुगतान किए गए विज्ञापनों के माध्यम से उसका कथित व्यावसायीकरण शामिल है।

एनएचआरसी ने कहा कि ऐसे मामलों में सबसे महत्वपूर्ण बात संभावित बाल पीड़ित की पहचान, सुरक्षा, बचाव और पुनर्वास होनी चाहिए। साथ ही, डिजिटल प्लेटफॉर्म और संबंधित एजेंसियों की जवाबदेही तथा उपलब्ध इलेक्ट्रॉनिक साक्ष्यों की वैज्ञानिक जांच भी मामले की तह तक पहुंचने के लिए महत्वपूर्ण होगी।