सरकार ने सोशल मीडिया पर बच्चों के यौन शोषण से जुड़ी सामग्री के खिलाफ सख्त कार्रवाई करके बच्चों के लिए ऑनलाइन सुरक्षा को मजबूत किया

सरकार की नीति का उद्देश्‍य महिलाओं और बच्चों समेत इंटरनेट यूजर के लिए एक खुला, सुरक्षित, भरोसेमंद और जवाबदेह इंटरनेट सुनिश्चित करना है। सूचना प्रौद्योगिकी अधिनियम और सूचना प्रौद्योगिकी (मध्‍यवर्ती मार्गनिर्देश और डिजिटल मीडिया आचार संहिता) नियमावली, 2021 ने मिलकर डिजिटल स्पेस में गैर-कानूनी और नुकसानदायक कंटेंट से निपटने के लिए एक सख्त ढांचा बनाया है।

सोशल मीडिया पर सीएसएएम सामग्री:

भारत सरकार ने सोशल मीडिया प्लेटफॉर्म पर बाल यौन शोषण सामग्री (सीएसएएम) से जुड़े विज्ञापन के फैलने की खबरों को गंभीरता से लिया है और संबंधित मध्‍यवर्ती संगठन से विस्‍तृत रिपोर्ट मांगी है। राष्‍ट्रीय बाल अधिकार संरक्षण आयोग (एनसीपीसीआर) ने भी संबंधित सोशल मीडिया प्लेटफॉर्म को नोटिस जारी किया है।

सूचना प्रौद्योगिकी (आईटी) अधिनियम, 2000 (आईटी अधिनियम)

आईटी अधिनियम में अलग-अलग साइबर अपराधों के लिए सज़ा का प्रावधान है, जैसे पहचान की चोरी (धारा 66सी), किसी और की नकल करना (धारा 66डी), निजता का उल्लंघन (धारा 66ई), अश्लील या यौन कृत्‍यों को स्‍पष्‍ट तौर पर कंटेंट का प्रकाशन या प्रसारण (सेक्शन 67, 67ए, 67बी)। यह पुलिस को अपराधों की जांच करने का अधिकार भी देता है (सेक्शन 78 और 80)।

आईटी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमावली, 2021 (आईटी नियमावली)

आईटी नियमावली में मध्‍यवर्ती संगठनों पर खास ज़िम्मेदारी डाली गई है कि वे अपनी ड्यूटी करते समय पूरी सावधानी बरतें और कंप्यूटर रिसोर्स के यूजर्स को बताएं कि वे ऐसी कोई भी जानकारी होस्ट, डिस्प्ले, अपलोड, मॉडिफाई, पब्लिश, ट्रांसमिट, अपडेट या शेयर न करें जो बच्चों के लिए नुकसानदायक हो, अश्लील हो, यौन-क्रिया आधारित हो, किसी दूसरे की निजता में दखल दे, जेंडर के आधार पर बेइज्ज़ती करे या परेशान करे या जो उस समय लागू किसी कानून का उल्लंघन करती हो।

किसी व्यक्ति या उसकी ओर से किसी और व्यक्ति की शिकायत मिलने के दो घंटे के अंदर, मध्‍यवर्ती संगठन को ऐसे कंटेंट के बारे में, जिसमें पूरी/थोड़ी नग्‍नता, किसी व्यक्ति के प्राइवेट पार्ट को दिखाना और आर्टिफिशियली मॉर्फ्ड इमेज शामिल हों, ऐसे कंटेंट को हटाने या उस तक एक्सेस डिसेबल करने के लिए सभी सही और व्‍यवहारिक कदम उठाने चाहिए, जिसे उसने होस्ट, स्टोर, प्रकाशन या प्रसारण किया है।

आईटी नियमों में हाल के संशोधन:

आईटी नियमों में हाल के बदलावों के मुताबिक, सोशल मीडिया प्लेटफॉर्म और दूसरे मध्‍यवर्ती संगठन को, सही कोर्ट का ऑर्डर मिलने या सही सरकार या उसकी एजेंसी से सही जानकारी मिलने के तीन घंटे के अंदर गैर-कानूनी कंटेंट हटाना होगा।

ऐसे मामलों में जहां उल्लंघन में किसी मौजूदा कानून के तहत अपराध शामिल है - जैसे कि भारतीय न्याय संहिता, 2023 को भारतीय नागरिक सुरक्षा संहिता, 2023 के साथ पढ़ें, या यौन अपराधों से बच्चों का संरक्षण अधिनियम, 2012, जो रिपोर्टिंग को अनिवार्य करता है, बिचौलियों को ऐसे अपराध की रिपोर्ट लागू कानून के प्रावधानों के अनुसार उचित प्राधिकारी को करनी चाहिए।

एआई जनरेटेड कंटेंट से होने वाले नुकसान के विरूद्ध कदम:

सरकार ने डीपफेक और एआई - जनरेटेड कंटेंट समेत सिंथेटिक तरीके से बनाई गई जानकारी (एसजीआई) से होने वाले नुकसान को दूर करने के लिए आईटी नियमावली, 2021 में बदलाव करके नियामक ढांचे को और मज़बूत किया है।

संशोधन से जुड़े मुख्य बिंदु इस प्रकार हैं:-

बिचौलियों को स्‍वीकृत एआई-जनरेटेड कंटेंट के लिए साफ लेबलिंग और ट्रेस करने लायक मेटाडेटा पक्का करना जरूरी है, ताकि यूजर आसानी से सिंथेटिक तरीके से जनरेटेड कंटेंट को पहचान सकें और धोखे या गलत इस्तेमाल को रोक सकें।

यह उपयोगकर्ता की जवाबदेही और प्लेटफॉर्म की उचित सावधानी को और मजबूत करता है, जिसमें गैरकानूनी एआई-जनरेटेड सामग्री के कानूनी परिणामों के बारे में अनिवार्य उपयोगकर्ता जागरूकता और सोशल मीडिया बिचौलियों के लिए मजबूत अनुपालन दायित्व शामिल हैं।

महत्वपूर्ण रूप से, दिशानिर्देश स्पष्ट रूप से बाल यौन शोषण सामग्री, गैर-सहमति वाली अंतरंग तस्वीरें, प्रतिरूपण और अन्य हानिकारक एआई-जनरेटेड सामग्री को कवर करते हैं, जिसके लिए प्लेटफॉर्म को ऐसी सामग्री को रोकने और पता चलने पर तुरंत कार्रवाई करने की आवश्यकता होती है।

उपयुक्‍त सरकार या अदालत के आदेश से वैध तर्कसंगत सूचना पर वास्तविक जानकारी होने पर गैरकानूनी सूचनाओं को हटाने के लिए समयसीमा को कम करने सहित अनुपालन के लिए समय-सीमा को मजबूत करना (समयसीमा 36 घंटे से घटाकर 3 घंटे करना) और शिकायत निवारण के लिए (विशेष श्रेणियों जैसे नग्नता/प्रतिरूपण आदि सहित) (संवेदनशील मामलों के लिए समय-सीमा क्रमशः 72 घंटे से घटाकर 36 घंटे और 24 घंटे से घटाकर 2 घंटे करना)।

मध्‍यवर्ती संगठनों को स्वचालित उपकरणों या अन्य उपयुक्त तंत्रों सहित उचित और उचित तकनीकी उपायों को तैनात करने के लिए बाध्य किया जाता है, ताकि किसी भी उपयोगकर्ता को किसी भी कृत्रिम रूप से उत्पन्न जानकारी को बनाने, उत्पन्न करने, संशोधित करने, बदलने, प्रकाशित करने, प्रसारित करने, साझा करने या प्रसारित करने की अनुमति न दी जा सके, जैसा भी मामला हो, जो उस समय लागू किसी भी कानून का उल्लंघन करता हो।

आईटी नियमावली के मुताबिक, महत्‍वपूर्ण सोशल मीडिया मध्‍यवर्ती संगठन (एसएसएमआई) को ऑटोमेटेड टूल्स या दूसरे सही तरीकों समेत सही टेक्निकल उपाय करने के लिए सही कोशिशें करनी होंगी। इससे ऐसी जानकारी को पहले से पहचाना जा सकेगा जो किसी भी तरह से रेप, बच्चों का यौन शोषण या कोई भी हरकत या दिखावा दिखाती हो, चाहे वह साफ़ हो या छिपा हुआ, या ऐसी कोई भी जानकारी जिसका कंटेंट पहले हटाई गई जानकारी जैसा ही हो।

एक जरूरी सोशल मीडिया मध्‍यवर्ती संगठन जो मुख्य रूप से मैसेजिंग के तौर पर सर्विस देता है, उसे अपने कंप्यूटर रिसोर्स पर जानकारी के पहले ओरिजिनेटर की पहचान करने में मदद करनी चाहिए। इसका मकसद भारत की सम्‍प्रभुता और एकता, देश की सुरक्षा, दूसरे देशों के साथ दोस्ताना रिश्ते, या पब्लिक ऑर्डर से जुड़े किसी अपराध को रोकना, पता लगाना, जांच करना, मुकदमा चलाना या सजा देना है। साथ ही, यह अपराध ऊपर बताए गए या रेप, यौन कृत्‍य को स्‍पष्‍ट करने वाली सामग्री या बाल यौन शोषण सामग्री से जुड़े किसी अपराध के लिए उकसाने के लिए भी होना चाहिए, जिसकी सजा कम से कम पांच साल की जेल हो सकती है।

अगर मध्‍यवर्ती संगठन आईटी नियमावली में दी गई कानूनी जिम्मेदारियों को नहीं मानते हैं, तो वे आईटी अधिनियम की धारा 79 के तहत दी गई थर्ड पार्टी जानकारी से अपनी छूट खो देते हैं। वे किसी भी मौजूदा कानून के तहत कार्रवाई या मुकदमे के लिए ज़िम्मेदार हैं।

सलाह और मानक संचालन प्रक्रिया (एसओपी):

सरकार ने सोशल मीडिया मध्‍यवर्ती संगठनों समेत अन्‍य मध्‍यवर्ती संगठनों को कई सलाह जारी की हैं, जिसमें आईटी अधिनियम और आईटी नियमावली के तहत आवश्‍यक तत्‍परता की जिम्मेदारियों को मानने पर जोर दिया गया है। जारी की गई एडवाइजरी और बनाए गए एसओपी का विवरण निम्‍नानुसार है:

29.12.2025 की सलाह में, सरकार ने मध्‍यवर्ती संगठनों को आईटी अधिनियम और आईटी नियमावली के तहत कानूनी आवश्‍यक तत्‍परता संबंधी जिम्मेदारियों का पालन करने के बारे में दोहराया, ताकि उनके प्लेटफॉर्म पर अश्लील, अभद्र, अश्लील, पोर्नोग्राफ़िक और दूसरे गैर-कानूनी कंटेंट की होस्टिंग, पब्लिकेशन, ट्रांसमिशन, शेयरिंग या अपलोडिंग को रोका जा सके। इसने मध्‍यवर्ती संगठन को अपने आंतरिक अनुपालन ढांचा, कंटेंट मॉडरेशन प्रैक्टिस और यूजर एनफोर्समेंट मैकेनिज्म का तुरंत रिव्यू करने और आईटी एक्ट और आईटी नियमावली के प्रावधानों का सख्ती से और लगातार पालन सुनिश्चित करने की भी सलाह दी।

दिनांक 16.03.2026 को एक सलाह मध्यस्थों को अपमानजनक, आपत्तिजनक और भ्रामक कृत्रिम रूप से उत्पन्न सूचना के उत्पादन, होस्टिंग, प्रकाशन, प्रसारण, साझा या अपलोड करने के संबंध में जारी की गई थी।

ऑनलाइन प्लेटफॉर्म पर बिना सहमति के इंटिमेट इमेजरी (एनसीआईआई) कंटेंट के फैलने को रोकने के लिए एक स्टैंडर्ड ऑपरेटिंग प्रोसीजर (एसओपी) बनाया गया है और 11.11.2025 को जारी किया गया है। एसओपी पीड़ितों, मध्‍यवर्ती संगठनों और कानून लागू करने वाली एजेंसियों को विस्‍तृत मार्गनिर्देश देता है ताकि बिना सहमति के शेयर की गई इंटिमेट या मॉर्फ्ड इमेज सहित एनसीआईआई कंटेंट के ऑनलाइन फैलने के खिलाफ तुरंत और एक जैसी कार्रवाई हो सके।

केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी राज्य मंत्री श्री जितिन प्रसाद ने आज लोकसभा में यह जानकारी दी।