सुप्रीम कोर्ट ने राज्य द्वारा निगरानी, पुलिसिंग और कंटेंट मॉडरेशन में इस्तेमाल होने वाले आर्टिफिशियल इंटेलिजेंस (AI) टूल के लिए नैतिक दिशा-निर्देश और पारदर्शिता तय करने की मांग पर केंद्र सरकार को विचार करने का निर्देश दिया है। अदालत ने स्पष्ट किया कि AI जैसी उन्नत तकनीक का नियमन एक बेहद जटिल और तकनीकी विषय है, जो पूरी तरह से कार्यपालिका के नीतिगत दायरे में आता है।
चीफ जस्टिस सूर्यकांत, जस्टिस जॉयमाल्य बागची और जस्टिस वी मोहना की पीठ ने अधिवक्ता नरेंद्र कुमार गोस्वामी की जनहित याचिका पर सुनवाई करते हुए यह निर्देश दिया। अदालत ने याचिका के गुण-दोष पर कोई टिप्पणी किए बिना इसे समाप्त कर दिया और केंद्र सरकार से कहा कि वह याचिकाकर्ता द्वारा प्रस्तुत सुझावों को एक औपचारिक प्रतिवेदन मानकर इस पर उचित नीतिगत कदम उठाए। इसके साथ ही याचिकाकर्ता को सरकार के समक्ष अतिरिक्त सुझाव जमा करने की छूट भी दी गई।
नीतिगत मामला, कोर्ट विशेषज्ञ नहीं: पीठ
सुनवाई की शुरुआत में ही पीठ ने याचिकाकर्ता से पूछा, “बताइए, हम इसमें क्या कर सकते हैं?” इसके साथ ही जजों ने टिप्पणी की, “हम विशेषज्ञ नहीं हैं। यह एक अत्यधिक तकनीकी मुद्दा है और नीतिगत दायरे में आता है।” पीठ का मानना था कि याचिका में उठाए गए विषयों के समाधान के लिए संबंधित अधिकारियों द्वारा उपयुक्त नीति और नियम बनाए जाने की जरूरत है।
अदालत ने यह भी ध्यान में रखा कि याचिकाकर्ता ने इस संबंध में इस साल फरवरी में भी सरकार को एक प्रतिवेदन सौंपा था। पीठ ने याचिका को काफी व्यापक बताते हुए याचिकाकर्ता को इसे सरकार के पास भेजने का सुझाव दिया।
याचिकाकर्ता की प्रमुख मांगें
याचिकाकर्ता नरेंद्र कुमार गोस्वामी ने अदालत में केंद्र सरकार को एक हलफनामा दायर करने का निर्देश देने का अनुरोध किया था। इसमें सरकारी मंत्रालयों और एजेंसियों द्वारा जनकल्याणकारी योजनाओं, पुलिस व्यवस्था, जन-निगरानी और कंटेंट विनियमन में उपयोग किए जा रहे या प्रस्तावित सभी उच्च-जोखिम वाले AI प्रणालियों की विस्तृत जानकारी सार्वजनिक करने की मांग की गई थी।
याचिका में AI के सुरक्षित और न्यायसंगत उपयोग के लिए एक उच्च-स्तरीय विशेषज्ञ समिति के गठन की मांग की गई थी। इस समिति का उद्देश्य AI नैतिकता, अनिवार्य एल्गोरिदम प्रभाव आकलन, निष्पक्ष पूर्वाग्रह ऑडिट और डेटा सुरक्षा के लिए बाध्यकारी दिशा-निर्देश तैयार करना है। याचिकाकर्ता ने यह भी कहा कि सरकारी स्तर पर इस्तेमाल होने वाले सभी उच्च-जोखिम वाले AI सिस्टम में स्वचालित त्रुटियों और भेदभाव से बचने के लिए मानव निरीक्षण की अनिवार्यता होनी चाहिए।
इसके अलावा, याचिका में मांग की गई थी कि प्रेडिक्टिव पुलिसिंग, फेशियल रिकॉग्निशन तकनीक, कंटेंट मॉडरेशन और जनकल्याणकारी वितरण में पहले से संचालित AI प्रणालियों का छह सप्ताह के भीतर स्वतंत्र ऑडिट और प्रभाव आकलन कराकर रिपोर्ट सार्वजनिक की जाए। साथ ही, सुप्रीम कोर्ट के न्यायिक सिद्धांतों के अनुरूप राज्य द्वारा AI के विकास और क्रियान्वयन को विनियमित करने के लिए संसद में एक व्यापक कानून बनाने का निर्देश भी मांगा गया था।
