दिल्ली हाईकोर्ट ने इंटरनेट पर डीपफेक के प्रसार को नियंत्रित करने और विनियमित करने की तत्काल आवश्यकता पर जोर दिया, साथ ही सूचना की प्रामाणिकता के लिए बढ़ते खतरे को उजागर किया। कार्यवाहक मुख्य न्यायाधीश मनमोहन और न्यायमूर्ति तुषार राव गेडेला की खंडपीठ ने बुधवार को यह टिप्पणी की। “आज, आप जो देख और सुन रहे हैं, उस पर आप विश्वास नहीं कर सकते। मैं अपनी आँखों से जो देख रहा हूँ और अपने कानों से जो सुन रहा हूँ, उस पर मुझे विश्वास नहीं हो रहा। यह कुछ ऐसा है जो वाकई चौंकाने वाला है। आप जो कुछ भी देख या सुन रहे हैं, वह सब नकली है। ऐसा नहीं हो सकता,” पीठ ने कहा, समाज में डीपफेक द्वारा फैलाए गए व्यापक अविश्वास को रेखांकित करते हुए।
डीपफेक, एआई-जनरेटेड मीडिया जो एक व्यक्ति की समानता को दूसरे पर आरोपित करता है, तेजी से परिष्कृत हो गया है, जिससे वास्तविक और हेरफेर की गई सामग्री के बीच अंतर करना मुश्किल हो गया है। इस तकनीक का इस्तेमाल गलत सूचना फैलाने, मानहानि और धोखाधड़ी सहित विभिन्न दुर्भावनापूर्ण उद्देश्यों के लिए किया गया है।
कार्यवाहक मुख्य न्यायाधीश मनमोहन ने चेतावनी दी कि यदि तुरंत विनियमित नहीं किया गया तो डीपफेक एक महत्वपूर्ण सामाजिक खतरा बन सकता है। पीठ ने मौजूदा सूचना प्रौद्योगिकी कानूनों के तहत डीपफेक-जनरेटिंग प्लेटफॉर्म को बिचौलियों के रूप में वर्गीकृत करने की संभावित जटिलताओं को भी नोट किया, और अधिक अनुरूप कानून की आवश्यकता का सुझाव दिया।
केंद्र सरकार को संबोधित करते हुए, कार्यवाहक मुख्य न्यायाधीश मनमोहन ने डीपफेक को विनियमित करने के लिए तत्काल कार्रवाई का आग्रह किया। उन्होंने कहा, “डीपफेक समाज के लिए खतरा बनने जा रहे हैं और सरकार को उन्हें विनियमित करने के लिए काम करना शुरू कर देना चाहिए।”*
केंद्र सरकार का प्रतिनिधित्व करने वाले अतिरिक्त सॉलिसिटर जनरल (ASG) चेतन शर्मा ने इस मुद्दे की गंभीरता को स्वीकार करते हुए इसे “अस्वस्थता” बताया। उन्होंने आगे कहा कि इसका समाधान AI-जनरेटेड फेक के उदय का मुकाबला करने के लिए काउंटर-टेक्नोलॉजी विकसित करने में निहित हो सकता है।
कोर्ट की यह टिप्पणी पत्रकार रजत शर्मा और अधिवक्ता चैतन्य रोहिल्ला द्वारा दायर दो याचिकाओं की सुनवाई के दौरान आई, जो डीपफेक के खिलाफ नियामक उपायों की मांग कर रहे हैं। कोर्ट ने याचिकाओं पर केंद्र सरकार की प्रतिक्रिया की समीक्षा की और याचिकाकर्ताओं से संभावित नियामक ढांचे पर सुझाव आमंत्रित किए।
कोर्ट ने सिफारिश की कि याचिकाकर्ता यूरोपीय संघ और संयुक्त राज्य अमेरिका द्वारा पेश किए गए कानूनों के साथ-साथ टेनेसी राज्य के एल्विस अधिनियम जैसे विशिष्ट कानूनों की भी जांच करें, जो किसी व्यक्ति की समानता के अनधिकृत उपयोग को संबोधित करते हैं। याचिकाकर्ताओं को अपने निष्कर्षों और सुझावों का विवरण देते हुए एक हलफनामा दायर करने के लिए कहा गया।
