हा वेगाने वाढणारा धोका किती मोठा आहे, याला नवीन पुराव्यांनी दुजोरा दिला आहे: UNICEF, ECPAT आणि INTERPOL यांनी ११ देशांमध्ये केलेल्या अभ्यासानुसार, गेल्या वर्षभरात किमान 0+ मुलांनी (Teenagers) आपले फोटो लैंगिक डीपफेकमध्ये फेरफार झाल्याचं उघड केलं.
काही देशांमध्ये, हे प्रमाण २५ पैकी १ मूल आहे — एका सर्वसाधारण वर्गातलं एक मूल:
*UNICEF ने फेब्रुवारी २०२६ मध्ये उद्धृत केलेले अभ्यास निष्कर्ष. स्रोत पहाकृत्रिम बुद्धिमत्तेमुळे(AI) आपण ऑनलाइन संवाद कसा साधतो आणि संवाद कसा घडवतो हे चित्र बदलत आहे. पण जे तंत्रज्ञान प्रभावी फोटो, व्हिडिओ आणि आवाज तयार करू शकतं, तेच तंत्रज्ञान गंभीर हानी पोहोचवण्यासाठी सुद्धा वापरलं जाऊ शकतं हे विसरू नये. मग ते फक्त मुलांसाठीच नाही तर सगळ्यांसाठी आहे
यातील सर्वात त्रासदायक उदाहरण म्हणजे लहान मुलांचे लैंगिक किंवा अपमानास्पद फोटो तयार करण्यासाठी AI चा गैरवापर — AI-आधारित सायबर गुन्ह्याचा हा वाढता प्रकार प्रत्येक पालक आणि शिक्षकाने समजून घ्यायला हवा.
UNICEF ने या वाढत्या धोक्याकडे लक्ष वेधलं असून, मुलांशी संबंधित AI-निर्मित व फेरफार केलेल्या लैंगिक फोटोंच्या वाढत्या वापराबद्दल इशारा दिला आहे.
हा लेख सायबर सुरक्षा जागरूकता व शैक्षणिक उद्देशाने, UNICEF च्या "Deepfake abuse is abuse" या निवेदनाचा संदर्भ घेऊन तयार करण्यात आला आहे.
UNICEF चं निवेदन वाचा →डीपफेक म्हणजे काय?
डीपफेक म्हणजे कृत्रिम बुद्धिमत्तेचा वापर करून तयार केलेला किंवा फेरफार केलेली आवृत्ती , ज्यामुळे एखादी व्यक्ती प्रत्यक्षात न घडलेली गोष्ट बोलताना किंवा करताना दिसते.
फोटो
AI-निर्मित किंवा फेरफार केलेले फोटोग्राफ्स.
व्हिडिओ
व्हिडिओमध्ये डिजिटली बदललेले चेहरे व ओळख.
आवाज
खऱ्या व्यक्तीच्या आवाजाची नक्कल करणारा AI आवाज.
कृत्रिम मजकूर
खरं वाटावं यासाठी तयार केलेला संपूर्ण कृत्रिम मजकूर.
डीपफेक तंत्रज्ञानाचा मनोरंजन, शिक्षण व सर्जनशील क्षेत्रात योग्य वापर होऊ शकतो. पण त्याच्या गैरवापरामुळे फसवणूक, छळ, तोतयागिरी, चुकीची माहिती आणि शोषण घडू शकतं.
AI चा वापर मुलांच्या शोषणासाठी होतो तेव्हा
अत्याचाराचा एक विशेष गंभीर प्रकार म्हणजे मुलांचे फोटो फेरफार करून बनावट लैंगिक फोटो तयार करणं.
UNICEF ने हा एक वाढता धोका असल्याचं सांगितलं आहे. AI चा वापर करून आपल्याबद्दल बनावट लैंगिक फोटो किंवा व्हिडिओ तयार होऊ शकतात, याची चिंता मुलांमध्ये वाढत असल्याचं संशोधनातून समोर आलं आहे.
AI-निर्मित फोटो असला तरी, ज्या व्यक्तीचा फोटो किंवा ओळख गैरवापरली गेली आहे तिला खरा भावनिक, सामाजिक व मानसिक त्रास होऊ शकतो.
"हे खरं नाही" हे कारण सांगणे योग्य ठरणार नाही
एक सामान्य गैरसमज असा आहे की फोटो डिजिटली तयार केला असेल, तर कोणालाही खरी हानी झालेली नाही.
फोटो AI-निर्मित आहे याचा अर्थ त्यातून होणारा अत्याचार खोटा ठरत नाही.
एखाद्याचा फोटो, चेहरा किंवा ओळख घेऊन ती अपमानास्पद मजकुरात फेरफार केली गेली, तर याचे परिणाम असे होऊ शकतात:
- भीती आणि चिंता
- अपमान आणि लाज
- छळ आणि सामाजिक एकाकीपणा
- प्रतिष्ठेचं नुकसान
- धमक्या आणि ब्लॅकमेल
- भावनिक आघात
- स्वतःच्या फोटोंवरील नियंत्रण गमावणं
"न्यूडिफिकेशन" समस्या
सामान्य फोटो बदलून बनावट न्यूड किंवा लैंगिक फोटो तयार करण्यासाठी AI टूल्सचा गैरवापर होऊ शकतो.
मूळ फोटो पूर्णपणे निरागस असू शकतो. शाळेत काढलेला, कौटुंबिक कार्यक्रमातला किंवा सोशल मीडियावर शेअर केलेला एखादा साधा फोटोसुद्धा डिजिटल अत्याचाराचं लक्ष्य बनू शकतो.
मुलं विशेषतः असुरक्षित का आहेत?
मुलं स्मार्टफोन, सोशल मीडिया, गेमिंग प्लॅटफॉर्म्स आणि ऑनलाइन कम्युनिटीज वाढत्या प्रमाणात वापरतात. एकच फोटो त्याच्या मूळ प्रेक्षकांपलीकडे खूप दूरवर पोहोचू शकतो.
पालक काय करू शकतात?
AI बद्दल मोकळेपणाने बोला
AI फोटो, व्हिडिओ आणि आवाज तयार किंवा फेरफार करू शकतं हे समजावून सांगा. ऑनलाइन दिसणारी प्रत्येक गोष्ट खरी असतेच असं नाही, हे मुलांना समजायला हवं.
प्रायव्हसी सेटिंग्ज तपासा
फोटो कोण पाहू शकतं, मेसेज कोण पाठवू शकतं, मुलाला टॅग कोण करू शकतं किंवा त्यांच्या सोशल मीडिया खात्याशी कोण संवाद साधू शकतं हे तपासा.
धमक्यांना उत्तर न देण्याचं शिकवा
कोणी फोटो प्रसिद्ध करण्याची धमकी दिली,तर घाबरून निर्णय घेवू नका . पुरावा जपून ठेवा, संवाद थांबवा आणि विश्वासू प्रौढ व्यक्तीला सांगा.
लवकर तक्रार करण्यास प्रोत्साहन द्या
लक्ष्य बनल्याबद्दल मुलांना दोष दिला जाणार नाही, हे त्यांना माहीत असायला हवं. त्यांना विश्वासात घेवून लवकर तक्रार केल्याने योग्य मदत मिळू शकते.
विद्यार्थ्यांनी काय लक्षात ठेवावं?
तुमचा ऑनलाइन फोटो हा तुमच्या डिजिटल ओळखीचा भाग आहे.
- अनोळखी फॉलोअर्स किंवा फ्रेंड रिक्वेस्ट सहजासहजी स्वीकारू नका.
- अनोळखी व्यक्तींसोबत वैयक्तिक फोटो शेअर करणं टाळा.
- सोशल मीडिया प्रोफाइल योग्य प्रमाणात प्रायव्हेट ठेवा.
- अपमानास्पद किंवा फेरफार केलेला मजकूर पुढे पाठवू नका.
- दुसऱ्या व्यक्तीबद्दल अपमानास्पद मजकूर तयार करण्यात कधीही सहभागी होऊ नका.
- धमकी किंवा ब्लॅकमेल आढळल्यास पुरावा जपून ठेवा.
- काही चुकीचं वाटलं, तर विश्वासू, प्रौढ व्यक्तीला सांगा.
शाळा आणि महाविद्यालयं काय करू शकतात?
सायबर सुरक्षा शिक्षणात आता AI-निर्मित अत्याचार व डीपफेक धोक्यांचा समावेश असायला हवा. CyberDefender चे शाळा व महाविद्यालयीन वर्कशॉप्स नेमकं हेच शिकवतात.
डिजिटल संमती
इतरांच्या फोटो व ओळखीचा आदर करायला विद्यार्थ्यांना शिकवा.
जबाबदार AI
AI टूल्सचा नैतिक व जबाबदार वापर करण्यास प्रोत्साहन द्या.
डीपफेक जागरूकता
फोटो, व्हिडिओ आणि आवाज फेरफार होऊ शकतात हे विद्यार्थ्यांना शिकवा.
तक्रार यंत्रणा
तक्रार करण्याची प्रक्रिया स्पष्ट व सहज उपलब्ध ठेवा.
तंत्रज्ञान कंपन्यांनी काय करायला हवं?
ही जबाबदारी फक्त मुलं आणि पालकांवर टाकता येणार नाही. डिजिटल अत्याचार रोखण्यात AI डेव्हलपर्स, तंत्रज्ञान प्लॅटफॉर्म्स आणि सरकार यांचीही महत्त्वाची भूमिका आहे.
AI सुरक्षा ही सर्वांची जबाबदारी आहे
तंत्रज्ञान स्वतः चांगलं किंवा वाईट नसतं. ते कसं डिझाइन केलं जातं, कसं वापरलं जातं हे महत्त्वाचं असतं.
AI विद्यार्थ्यांना शिकायला, व्यवसायांना अधिक कार्यक्षमतेने काम करायला आणि लोकांना अप्रतिम गोष्टी तयार करायला मदत करू शकतं.
पण जेव्हा तंत्रज्ञानाचा वापर एखाद्याचं शोषण, धमकी किंवा अपमान करण्यासाठी होतो, तेव्हा त्याचे परिणाम गांभीर्याने घ्यायलाच हवेत.
सर्वात महत्त्वाचा संदेश
एखादी फेरफार केलेली प्रतिमा मशीनद्वारे तयार केली जाऊ शकते. पण त्या प्रतिमेमागे एक वास्तविक व्यक्ती, एक खरे कुटुंब आणि त्याचे खरे भावनिक परिणाम असू शकतात.
फक्त एवढाच प्रश्न नाही:
यापेक्षा महत्त्वाचा प्रश्न आहे:
वारंवार विचारले जाणारे प्रश्न
भारतात एखाद्याचा डीपफेक फोटो तयार करणं बेकायदेशीर आहे का?
विशेषतः अल्पवयीन मुलांचे लैंगिक डीपफेक फोटो तयार करणं किंवा शेअर करणं यावर IT Act आणि भारतीय फौजदारी कायद्यांतर्गत (अश्लीलता, बदनामी व बाल संरक्षणासंबंधी) कारवाई होऊ शकते. तुम्ही किंवा तुमच्या ओळखीचं कोणी लक्ष्य बनलं असेल, तर cybercrime.gov.in वर तक्रार करा किंवा राष्ट्रीय सायबर क्राइम हेल्पलाइन 1930 वर संपर्क साधा.
फोटो डीपफेक आहे हे कसं ओळखायचं?
असामान्य त्वचेचा पोत, विसंगत प्रकाशयोजना किंवा सावल्या, चेहरा किंवा केसांच्या कडांवर धूसरपणा, आणि व्हिडिओमध्ये पापण्यांची उघडझाप किंवा ओठांची हालचाल जुळत नसणं — ही लक्षणं तपासा. शंका असल्यास फोटो शेअर करू नका, आधी संबंधित व्यक्तीशी किंवा विश्वासू प्रौढ व्यक्तीशी खात्री करा.
कोणी बनावट फोटो शेअर करण्याची धमकी दिली, तर मुलाने काय करावं?
त्या व्यक्तीशी संवाद ताबडतोब थांबवा, सर्व पुरावा (स्क्रीनशॉट्स, युजरनेम्स, मेसेजेस) जपून ठेवा, लगेच विश्वासू प्रौढ व्यक्तीला सांगा आणि त्या प्लॅटफॉर्मवर खात्याची तक्रार करा.
आमचा संदेश
AI रोजच्या डिजिटल आयुष्याचा भाग होत असताना, सायबर जागरूकतासुद्धा त्याच वेगाने वाढायला हवी.
संदर्भ
हा CyberDefender लेख सायबर सुरक्षा जागरूकता व शैक्षणिक उद्देशाने, खालील संदर्भ घेऊन तयार करण्यात आला आहे:
UNICEF: "Deepfake abuse is abuse"
मुलांच्या AI-निर्मित लैंगिक फोटोंच्या वाढत्या धोक्याबद्दल UNICEF चं निवेदन.
मूळ UNICEF प्रकाशन वाचा →अस्वीकरण: हा एक स्वतंत्र CyberDefender जागरूकता लेख आहे. हे अधिकृत UNICEF प्रकाशन नाही आणि त्याच्या प्रकाशित निवेदनात नमूद केलेल्या माहितीव्यतिरिक्त हा लेख UNICEF च्या मतांचं प्रतिनिधित्व करत नाही.
