गुजरात हाईकोर्ट ने कृत्रिम बुद्धिमत्ता (AI) के दुरुपयोग से संवैधानिक एवं वैधानिक प्राधिकारियों के खिलाफ डीपफेक और सिंथेटिक सामग्री तैयार किए जाने संबंधी जनहित याचिका पर मंगलवार को केंद्र और राज्य सरकार को नोटिस जारी किया।
मुख्य न्यायाधीश सुनीता अग्रवाल और न्यायमूर्ति डी.एन. रे की खंडपीठ ने गुजरात के पुलिस महानिदेशक (DGP) को भी जवाब दाखिल करने का निर्देश दिया। अदालत ने कहा कि मेटा, गूगल, एक्स, रेडिट और स्क्रिब्ड जैसे इंटरमीडियरी प्लेटफॉर्म को नोटिस जारी करने के प्रश्न पर सरकारों के जवाब मिलने के बाद विचार किया जाएगा।
अधिवक्ता विकास विजय नायर द्वारा दायर याचिका में एआई-जनित फर्जी वीडियो और फोटो के प्रसार पर नियंत्रण के लिए कानूनी सुधार और नियामक दिशानिर्देश बनाने की मांग की गई है।
याचिकाकर्ता ने अदालत से निम्नलिखित निर्देश देने का अनुरोध किया है:
- संवैधानिक प्राधिकारियों से संबंधित सभी एआई-जनित फोटो, वीडियो और डिजिटल सामग्री के प्रकाशन, प्रसारण और संचार पर तत्काल रोक
- ऐसी सामग्री पर अनिवार्य रूप से “AI-generated data” वॉटरमार्क लगाने का निर्देश
- रियल-टाइम प्रतिबंध और त्वरित हटाने (टेकडाउन) की व्यवस्था
- गुजरात के सभी थानों और विशेष साइबर इकाइयों के लिए एआई-जनित सामग्री से निपटने हेतु मानक संचालन प्रक्रिया (SOP) तैयार करना
- इंटरमीडियरी प्लेटफॉर्म द्वारा वैधानिक ड्यू डिलिजेंस, कंटेंट लेबलिंग और ट्रेसबिलिटी संबंधी दायित्वों का कड़ाई से पालन
याचिका में कहा गया है कि डीपफेक तकनीक वास्तविक आवाज, चेहरे के भाव और शारीरिक गतिविधियों की अत्यंत सटीक नकल कर सकती है, जिससे आम जनता के लिए वास्तविक और फर्जी सामग्री में अंतर करना कठिन हो जाता है। इससे प्रतिष्ठा को नुकसान होता है और सार्वजनिक संस्थाओं में विश्वास कमजोर पड़ता है।
राज्य की ओर से पेश महाधिवक्ता कमल त्रिवेदी ने अदालत को बताया कि यह गंभीर मुद्दा है और डीपफेक तथा सिंथेटिक ऑनलाइन सामग्री का व्यापक दुरुपयोग हुआ है, जिससे “व्यापक और अपूरणीय क्षति” हुई है। उन्होंने यह भी कहा कि कई देशों ने एआई और डीपफेक के दुरुपयोग को नियंत्रित करने के लिए कड़े कानून बनाए हैं।
हाईकोर्ट ने मामले को आगे की सुनवाई के लिए 20 मार्च को सूचीबद्ध किया है, जब केंद्र, राज्य और डीजीपी के जवाब रिकॉर्ड पर आने की संभावना है।
