डिजिटल माध्यमों पर बढ़ते डीपफेक और एआई (AI) जनित भ्रामक सामग्री के खतरे को देखते हुए गुजरात हाईकोर्ट ने एक बड़ा कदम उठाया है। एक जनहित याचिका (PIL) पर सुनवाई करते हुए हाईकोर्ट ने मेटा इंडिया, गूगल, X (पूर्व में ट्विटर), रेडिट और स्क्रिब्ड जैसी दिग्गज तकनीकी कंपनियों को नोटिस जारी किया है। यह याचिका एआई के जरिए बनाए गए फर्जी वीडियो और तस्वीरों के प्रसार को रोकने के लिए एक मजबूत नियामक तंत्र बनाने की मांग को लेकर दायर की गई है।
चीफ जस्टिस सुनीता अग्रवाल और जस्टिस डी.एन. राय की खंडपीठ ने इन कंपनियों को नोटिस जारी करते हुए 8 मई तक जवाब मांगा है। इसके साथ ही, हाईकोर्ट ने निर्देश दिया है कि ये सभी मध्यस्थ (Intermediaries) अनिवार्य रूप से ‘सहयोग’ (Sahyog) पोर्टल से जुड़ें। यह पोर्टल केंद्र सरकार द्वारा कानून प्रवर्तन एजेंसियों और तकनीकी कंपनियों के बीच बेहतर तालमेल और अवैध सामग्री को समय सीमा के भीतर हटाने के लिए बनाया गया है।
हाईकोर्ट ने अपने आदेश में स्पष्ट किया कि इन कंपनियों द्वारा दिया गया जवाब और उनकी सक्रियता ही यह तय करेगी कि वे कानून के तहत अपनी जिम्मेदारियों का पालन कर रही हैं या नहीं। कोर्ट की यह टिप्पणी केंद्र और राज्य सरकारों द्वारा दाखिल हलफनामों के बाद आई है, जिनमें सोशल मीडिया प्लेटफॉर्म्स के असहयोगात्मक रवैये की शिकायत की गई थी।
केंद्रीय गृह मंत्रालय (MHA) ने कोर्ट को बताया कि विशेष रूप से प्लेटफॉर्म ‘X’ से सहयोग नहीं मिल रहा है। मंत्रालय के अनुसार, 2024 से 2026 के बीच X को अवैध और एआई जनित सामग्री के संबंध में 94 सूचनाएं भेजी गईं, लेकिन कंपनी ने केवल 13 मामलों में ही औपचारिक जवाब दिया। सरकार का तर्क है कि यह व्यवहार आईटी नियमों के संशोधित प्रावधानों का उल्लंघन है और इससे जांच एजेंसियों के काम में बाधा आ रही है।
केंद्र सरकार ने हाईकोर्ट को जानकारी दी कि अक्टूबर 2024 में ‘सहयोग’ पोर्टल की शुरुआत की गई थी। इस पोर्टल का उद्देश्य है:
- भ्रामक एआई सामग्री को तुरंत हटाना।
- संबंधित यूजर्स की जानकारी और लॉग्स तक तेजी से पहुंच बनाना।
- दोषियों की पहचान के लिए न्यायिक साक्ष्य जुटाने में मदद करना।
सरकार ने बताया कि जहां मेटा और गूगल ने अपनी कार्यप्रणाली में सुधार किया है, वहीं अन्य प्लेटफॉर्म अभी भी इस सिस्टम के साथ पूरी तरह नहीं जुड़े हैं।
याचिकाकर्ता विकास नायर ने अपनी दलील में कहा कि वर्तमान आईटी एक्ट, 2000 और भारतीय न्याय संहिता के प्रावधान एआई की तेज रफ्तार को नियंत्रित करने में अपर्याप्त हैं। उन्होंने चेतावनी दी कि डीपफेक सार्वजनिक व्यवस्था और स्वस्थ लोकतंत्र के लिए गंभीर खतरा हैं, क्योंकि इनसे ऐसी स्थितियां पैदा हो सकती हैं जिन्हें सुधारना भविष्य में असंभव होगा।
गुजरात सरकार ने भी एक सख्त नियामक ढांचे की आवश्यकता का समर्थन किया है, जिसमें जांच एजेंसियों और डिजिटल सेवा प्रदाताओं के बीच रीयल-टाइम तालमेल और त्वरित प्रतिक्रिया की समय-सीमा निर्धारित हो।
