ऑनलाइन डीपफेकच्या वाढत्या प्रसाराला तोंड देण्यासाठी सरकारने बुधवारी (२२ ऑक्टोबर २०२५) कृत्रिम बुद्धिमत्ता आणि सोशल मीडिया कंपन्यांसाठी नवीन कायदेशीर बंधने अर्थात नियमावली प्रस्तावित केली, ज्यामध्ये त्यांना अशा कंटेंटला एआय-जनरेटेड असे लेबल करण्याचे आदेश दिले गेले.
जनरेटिव्ह एआय टूल्सचा गैरवापर “वापरकर्त्यांना हानी पोहोचवण्यासाठी, चुकीची माहिती पसरवण्यासाठी, निवडणुकांमध्ये फेरफार करण्यासाठी किंवा व्यक्तींची तोतयागिरी करण्यासाठी” होण्याची शक्यता लक्षणीयरीत्या वाढली आहे, असे आयटी मंत्रालयाने एका प्रेस रिलीजमध्ये म्हटले आहे, ज्यामध्ये या निर्णयामागील तर्क स्पष्ट केला आहे.
प्रस्तावित नियमांनुसार सोशल मीडिया कंपन्यांना त्यांच्या वापरकर्त्यांना ते डीपफेक कंटेंट अपलोड करत आहेत की नाही हे जाहीर करण्याची आवश्यकता आहे.
जवळजवळ १ अब्ज इंटरनेट वापरकर्ते असलेल्या, अनेक वांशिक आणि धार्मिक समुदायांच्या विस्तीर्ण देशात, बनावट बातम्यांमुळे प्राणघातक संघर्ष निर्माण होण्याचा धोका असतो आणि निवडणुकीदरम्यान एआय डीपफेक व्हिडिओंमुळे अधिकाऱ्यांना चिंता वाटते.