एक महत्वपूर्ण कदम उठाते हुए, दिल्ली हाईकोर्ट ने केंद्र सरकार से डीपफेक प्रौद्योगिकी द्वारा उत्पन्न बढ़ते खतरे के विरुद्ध अपने कार्यों पर एक विस्तृत रिपोर्ट प्रदान करने को कहा है। गुरुवार को एक सत्र के दौरान, मुख्य न्यायाधीश मनमोहन और न्यायमूर्ति तुषार राव गेडेला ने इस बढ़ते मुद्दे को संबोधित करने की तत्काल आवश्यकता पर प्रकाश डाला, जो कृत्रिम बुद्धिमत्ता के संभावित दुरुपयोग पर गहरी न्यायिक चिंता को दर्शाता है।
न्यायालय सक्रिय रूप से दो याचिकाओं पर सुनवाई कर रहा है, जो डीपफेक के अनियंत्रित प्रसार के बारे में चिंता व्यक्त करती हैं – ऐसी तकनीकें जो ऑडियो और वीडियो में हेरफेर करके पुख्ता तौर पर गलत बयान देती हैं। ये तकनीकें व्यक्तियों की उपस्थिति और कार्यों को विकृत कर सकती हैं, जिससे गलत सूचना फैलती है और संभावित रूप से व्यक्तिगत और सार्वजनिक डोमेन में महत्वपूर्ण नुकसान होता है।
पीठ ने डीपफेक के खतरों को कम करने के लिए मौजूदा और नियोजित उपायों पर अंतर्दृष्टि के लिए दबाव डाला, जिसमें यह भी शामिल है कि क्या दीर्घकालिक समाधान तैयार करने के लिए एक उच्चस्तरीय समिति स्थापित की जाएगी। कार्यवाही के दौरान न्यायाधीशों ने टिप्पणी की, “आप क्या कर रहे हैं? हर दिन डीपफेक बढ़ रहे हैं… मुझे खुशी है कि उद्योग के लोगों ने कुछ पहल करनी शुरू कर दी है और उपभोक्ताओं के बीच इसके बारे में जागरूकता फैला रहे हैं।”*
जवाब में, केंद्र का प्रतिनिधित्व करने वाले अतिरिक्त सॉलिसिटर जनरल ने संकेत दिया कि इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) वर्तमान में इस मुद्दे की जांच कर रहा है। इस बीच, याचिकाकर्ताओं के एक वकील ने तर्क दिया कि भारत उन अन्य देशों से पीछे है, जिन्होंने पहले से ही डीपफेक के हानिकारक प्रभावों के खिलाफ कानून बनाए हैं, जिनमें से कई महिलाओं को असंगत रूप से लक्षित करते हैं।
अदालत ने ऐसी तकनीकों द्वारा सुगम बनाए गए होक्स बम खतरों के बढ़ने पर भी अपनी चिंता व्यक्त की, सरकार द्वारा बुलाए गए किसी भी विशेषज्ञ समूह की संरचना और प्रभावकारिता पर सवाल उठाया।
जैसा कि अभी है, केंद्र को स्थिति रिपोर्ट संकलित करने और प्रस्तुत करने के लिए तीन सप्ताह की अवधि दी गई है, जिसकी अगली सुनवाई 21 नवंबर को निर्धारित है। दिल्ली हाईकोर्ट ने इस बात पर जोर दिया कि जबकि एआई तकनीक को इसके महत्वपूर्ण लाभों के कारण प्रतिबंधित नहीं किया जा सकता है, लेकिन “तकनीक के नकारात्मक हिस्से” को कम करने की आवश्यकता है।
इससे पहले, MeitY ने ऑनलाइन सामग्री की सक्रिय निगरानी में अपनी सीमाओं के बारे में बताया था, लेकिन यह भी कहा था कि हानिकारक सामग्री को रोकने के लिए स्थापित कानूनी प्रोटोकॉल का पालन किया जाएगा।
पत्रकार रजत शर्मा और अधिवक्ता चैतन्य रोहिल्ला की याचिकाओं में डीपफेक बनाने में मदद करने वाले एप्लिकेशन और प्लेटफॉर्म तक पहुंच को रोकने के लिए कड़े कदम उठाने की मांग की गई है। वे शिकायत मिलने पर ऐसी सामग्री को हटाने के लिए सोशल मीडिया बिचौलियों द्वारा तत्काल कार्रवाई की वकालत करते हैं, सार्वजनिक चर्चा और लोकतांत्रिक प्रक्रिया की अखंडता को बनाए रखने के लिए मजबूत विनियमन की आवश्यकता पर जोर देते हैं।
