आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते दुरुपयोग और डीपफेक कंटेंट की चुनौती को देखते हुए सरकार ने नए और कड़े नियम लागू किए हैं। इन नियमों का उद्देश्य एआई की मदद से तैयार किए जाने वाले भ्रामक, आपत्तिजनक और अतिसंवेदनशील कंटेंट के प्रसार पर रोक लगाना है। डीपफेक तकनीक के जरिए फर्जी वीडियो, तस्वीरें और ऑडियो तैयार किए जाने की घटनाओं में बढ़ोतरी के बाद भारत समेत दुनिया के कई देशों ने इस दिशा में सख्त कदम उठाए हैं। यूरोपीय देशों ने भी एआई के उपयोग को नियंत्रित करने और इसके संभावित खतरों से निपटने के लिए कड़े दिशानिर्देश जारी किए हैं।
क्या है AI डीपफेक के नए नियम?
• सरकार ने एआई की मदद से तैयार किए गए डीपफेक ऑडियो, वीडियो और टेक्स्ट कंटेंट के लिए स्पष्ट पहचान (लेबलिंग) और ट्रेस किए जा सकने वाले मेटाडेटा को अनिवार्य बना दिया है।
- सोशल मीडिया प्लेटफॉर्म्स को अब कोर्ट या सरकारी आदेश मिलने के बाद किसी भी गैरकानूनी डीपफेक कंटेंट को अधिकतम 3 घंटे के भीतर हटाना होगा। पहले इसके लिए 36 घंटे का समय दिया जाता था।
- न्यूडिटी, पहचान की नकल (इम्पर्सनेशन) और अन्य संवेदनशील डीपफेक सामग्री को 2 घंटे के अंदर हटाना अनिवार्य कर दिया गया है। इससे पहले यह सीमा 24 घंटे थी।
- अवैध एआई-जनित कंटेंट की पहचान और उसके प्रसार को रोकने के लिए सोशल मीडिया कंपनियों को उन्नत ऑटोमेटेड मॉनिटरिंग सिस्टम और तकनीकी उपाय अपनाने होंगे।
- नए नियमों की अनदेखी करने वाले प्लेटफॉर्म्स की IT Act के तहत मिलने वाली ‘सेफ हार्बर’ सुरक्षा समाप्त की जा सकती है। इसके अलावा उनके खिलाफ कानूनी और नियामकीय कार्रवाई भी की जा सकती है।
क्या AI डीपफेक पर लगेगा पूर्ण विराम?
सरकार के नए नियमों ने सोशल मीडिया प्लेटफॉर्म्स की जवाबदेही को पहले से कहीं अधिक बढ़ा दिया है। अब उन्हें डीपफेक और अन्य अवैध एआई-जनित कंटेंट के खिलाफ कहीं अधिक तेजी से कार्रवाई करनी होगी। दुनियाभर में डीपफेक के बढ़ते दुरुपयोग को देखते हुए सरकार ने ऐसे कंटेंट के प्रसार को रोकने के लिए कड़े दिशा-निर्देश जारी किए हैं। इसके तहत प्लेटफॉर्म्स को पहले की तुलना में कहीं अधिक प्रभावी और त्वरित निगरानी व्यवस्था अपनानी होगी।
नए नियमों के अनुसार, सोशल मीडिया कंपनियों को ऑटोमेटेड तकनीकी सिस्टम का इस्तेमाल करना होगा, जिससे एआई-जनित डीपफेक कंटेंट की पहचान अपलोड होते ही की जा सके। ऐसे सिस्टम संदिग्ध सामग्री को चिन्हित कर उसके प्रसार को रोकने में मदद करेंगे। इसके अलावा, एआई से तैयार किए गए कंटेंट के लिए स्पष्ट लेबलिंग और ट्रेसेबल मेटाडेटा अनिवार्य किया गया है, ताकि यूजर्स को उसकी वास्तविक प्रकृति की जानकारी मिल सके।
सरकार ने नियमों के उल्लंघन की स्थिति में सख्त कानूनी कार्रवाई का भी प्रावधान रखा है। यदि कोई सोशल मीडिया प्लेटफॉर्म इन निर्देशों का पालन करने में विफल रहता है या लापरवाही बरतता है, तो उसे IT Act के तहत मिलने वाली ‘सेफ हार्बर’ सुरक्षा से वंचित किया जा सकता है। इसके अलावा, संबंधित प्लेटफॉर्म के खिलाफ नए आईटी नियमों के तहत कानूनी और नियामकीय कार्रवाई भी की जा सकती है।
क्या है ‘सेफ हार्बर’?
आईटी एक्ट 2000 की धारा 79 के तहत सोशल मीडिया प्लेटफॉर्म्स को ‘सेफ हार्बर’ सुरक्षा प्रदान की गई है। इस प्रावधान के अनुसार, किसी पोस्ट, वीडियो, फोटो या अन्य सामग्री की प्राथमिक जिम्मेदारी उस यूजर की होती है जिसने उसे प्लेटफॉर्म पर साझा किया है। सोशल मीडिया कंपनियों को केवल एक इंटरमीडियरी (मध्यस्थ) के रूप में देखा जाता है।
यही वजह है कि सामान्य परिस्थितियों में यदि कोई व्यक्ति सोशल मीडिया पर भ्रामक, आपत्तिजनक या गैरकानूनी कंटेंट पोस्ट करता है, तो कानूनी जवाबदेही सीधे उस यूजर की होती है। ऐसे मामलों में कार्रवाई का मुख्य लक्ष्य कंटेंट अपलोड करने वाला व्यक्ति होता है, न कि संबंधित सोशल मीडिया प्लेटफॉर्म।
हालांकि, डीपफेक और एआई-जनित अवैध सामग्री के मामलों में सरकार ने सख्त रुख अपनाया है। यदि कोई प्लेटफॉर्म तय समयसीमा के भीतर ऐसे कंटेंट को हटाने में विफल रहता है, तो उसकी ‘सेफ हार्बर’ सुरक्षा समाप्त की जा सकती है। इसके बाद संबंधित कंपनी को भी कंटेंट के लिए जिम्मेदार माना जाएगा और उसके खिलाफ कानूनी कार्रवाई की जा सकेगी। साथ ही, सभी प्लेटफॉर्म्स को सरकार की कंटेंट मॉडरेशन गाइडलाइंस और नए नियमों का सख्ती से पालन करना होगा।