हाल के महीनों में डीपफेक तकनीक का दुरुपयोग जिस तेजी से बढ़ा है, उसने न केवल आम नागरिकों बल्कि सेलिब्रिटीज, पत्रकारों और सार्वजनिक हस्तियों तक को निशाना बनाया है। याचिका के मुताबिक, बिना किसी नियंत्रण या जवाबदेही के एआई आधारित सिस्टम का इस्तेमाल कर लोगों की आवाज, चेहरा और व्यवहार की नकल तैयार की जा रही है, जिसे 'डीपफेक' कहा जाता है।
इससे न सिर्फ लोगों की छवि धूमिल हो रही है, बल्कि साइबर अपराध, ब्लैकमेलिंग और फेक न्यूज जैसी समस्याओं में भी वृद्धि हो रही है। याचिका में सुप्रीम कोर्ट से यह भी अपील की गई है कि वह केंद्र सरकार को निर्देश दे कि एआई टेक्नोलॉजी से जुड़े प्लेटफार्मों की जवाबदेही तय करने के लिए एक राष्ट्रीय एआई रेगुलेटरी बॉडी बनाई जाए। यह संस्था डीपफेक और अन्य हानिकारक एआई कंटेंट पर निगरानी रखे और उनके खिलाफ कड़े कदम उठाए। याचिकाकर्ताओं ने कहा कि देश के विभिन्न हाईकोर्ट में पहले से ही एआई और डीपफेक से संबंधित कई मामले लंबित हैं।
सुप्रीम कोर्ट से अनुरोध किया गया है कि इन सभी मामलों को अपने पास ट्रांसफर किया जाए, ताकि इस विषय पर एकसमान दिशा-निर्देश तय किए जा सकें। याचिका में कहा गया है कि भारतीय संविधान के अनुच्छेद 32 के तहत यह याचिका दायर की गई है, जिसमें सुप्रीम कोर्ट से 'परमादेश' जारी करने की मांग की गई है ताकि केंद्र सरकार को एआई के दुरुपयोग पर तुरंत नियंत्रण के लिए ठोस कानून बनाने के लिए बाध्य किया जा सके। हाल के एक वर्ष में भारत में एआई तकनीक की पहुंच तेजी से बढ़ी है। पिछले कुछ महीनों में सोशल मीडिया पर बड़ी संख्या में ऐसे वीडियो, फोटो और ऑडियो सामने आए हैं जो पूरी तरह एआई जनरेटेड डीपफेक हैं।
.jpeg)
