भारत सरकार ने कृत्रिम बुद्धिमत्ता से उत्पन्न सामग्री की निगरानी के लिए नए नियम लागू किए

आजकल AI की मदद से किसी की भी नकली फोटो, वीडियो या आवाज तैयार करना आसान हो गया है. ऐसे फर्जी कंटेंट यानी Deepfake का इस्तेमाल लोगों को बदनाम करने, धोखा देने, अफवाह फैलाने और साइबर अपराध के लिए किया जा रहा है. इसी खतरे को देखते हुए केंद्र सरकार ने AI से बने कंटेंट पर निगरानी और सोशल मीडिया कंपनियों की जिम्मेदारी बढ़ा दी है. इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने बताया है कि 10 फरवरी 2026 से आईटी नियमों में किये बदलाव लागू कर दिए गए हैं. सरकार के नए नियमों के मुताबिक अगर कोई AI से फोटो, वीडियो, ऑडियो या अन्य कंटेंट बनाता है और वह कानूनी रूप से स्वीकार्य है तो उस पर साफ बताया जाना चाहिए कि यह AI से तैयार किया गया कंटेंट है. इसके साथ ऐसा तकनीकी डेटा - Metadata भी रखना होगा, जिससे उसकी पहचान की जा सके. इसका मकसद लोगों को धोखे से बचाना है. सरकार ने सबसे बड़ा बदलाव कंटेंट हटाने की समय-सीमा में किया है. अगर किसी अदालत या सरकार की ओर से किसी गैरकानूनी कंटेंट को हटाने का आदेश मिलता है तो सोशल मीडिया प्लेटफॉर्म को अब 36 घंटे नहीं बल्कि सिर्फ 3 घंटे के भीतर कार्रवाई करनी होगी. वहीं शिकायतों के निपटारे की समय-सीमा भी घटा दी गई है. खास मामलों जैसे अश्लीलता, फर्जी पहचान या निजी तस्वीरों के दुरुपयोग से जुड़ी शिकायतों पर और तेज़ कार्रवाई करनी होगी. सरकार ने साफ किया है कि इन मामलों में AI से बना कंटेंट बर्दाश्त नहीं किया जाएगा. किसी की फर्जी पहचान बनाना, डीपफेक वीडियो या ऑडियो, बिना अनुमति निजी तस्वीरें या वीडियो फैलाना, बच्चों के यौन शोषण से जुड़ा कंटेंट, भ्रामक या झूठी जानकारी फैलाना, देश की सुरक्षा या कानून-व्यवस्था को प्रभावित करने वाला कंटेंट, शामिल है. सरकार ने सोशल मीडिया कंपनियों से कहा है कि वे सिर्फ शिकायत का इंतजार न करें. उन्हें AI और दूसरे तकनीकी टूल की मदद से ऐसे कंटेंट की पहचान करने और उसे रोकने की कोशिश करनी होगी. साथ ही यूज़र्स को यह भी बताना होगा कि गैरकानूनी कंटेंट पोस्ट करने पर उनका अकाउंट हटाया जा सकता है और कानूनी कार्रवाई भी हो सकती है. अगर कोई सोशल मीडिया कंपनी आईटी नियमों का पालन नहीं करती तो उसे आईटी एक्ट की धारा 79 के तहत मिलने वाली कानूनी सुरक्षा -Safe Harbour खोनी पड़ सकती है. इसके बाद कंपनी के खिलाफ कानून के तहत कार्रवाई की जा सकती है. अगर किसी ने आपकी फर्जी फोटो, वीडियो या आवाज़ बनाकर सोशल मीडिया पर डाली है तो आप संबंधित सोशल मीडिया प्लेटफॉर्म पर शिकायत करें. प्लेटफॉर्म की शिकायत का समाधान न होने पर Grievance Appellate Committee में अपील कर सकते हैं. National Cyber Crime Reporting Portal पर शिकायत दर्ज करा सकते हैं. साइबर हेल्पलाइन 1930 पर भी संपर्क कर सकते हैं. गंभीर मामलों में पुलिस में एफआईआर भी दर्ज कराई जा सकती है. सरकार का कहना है कि उसका उद्देश्य AI के विकास को रोकना नहीं बल्कि उसका जिम्मेदारी से इस्तेमाल सुनिश्चित करना है. इसी दिशा में India AI Mission के तहत IIT जोधपुर, IIT मद्रास और IIT खड़गपुर जैसे संस्थानों में डीपफेक पहचानने वाली तकनीक पर काम किया जा रहा है. अगर आपको सोशल मीडिया पर कोई ऐसा वीडियो या ऑडियो दिखे जो किसी नेता, अभिनेता या आम व्यक्ति का हो तो उसे तुरंत सच न मानें. आने वाले समय में AI से बने कंटेंट पर लेबल दिखेंगे और फर्जी या गैरकानूनी डीपफेक पर पहले के मुकाबले कहीं तेज कार्रवाई हो सकेगी. सरकार का मानना है कि इससे ऑनलाइन धोखाधड़ी, बदनामी और फर्जी खबरों पर लगाम लगाने में मदद मिलेगी. वरुण भसीन एबीपी न्यूज़ में प्रिंसिपल कॉरेस्पॉन्डेंट हैं. पिछले 9 साल से पत्रकारिता कर रहे हैं. वे एयरलाइंस, रेलवे और सड़क-परिवहन से जुड़ी खबरें कवर करते हैं. इससे पहले वे कई संस्थानों में काम कर चुके हैं. वरुण न्यूज जगत से जुड़ी डॉक्यूमेंट्री फिल्में भी बनाते आए हैं. वरुण ने MBM यूनिविर्सिटी जोधपुर से पढ़ाई की है. संपर्क करने के लिए मेल आईडी है- varunb@abpnetwork.com