టీనేజ్ అమ్మాయిలను లక్ష్యంగా చేసుకునే డీప్‌ఫేక్ అశ్లీల అనువర్తనాలను నిషేధించడానికి అత్యవసర కాల్
సృష్టించే అనువర్తనాలు డీప్‌ఫేక్ యువకుల లైంగిక వేధింపుల చిత్రాలను నిషేధించాలి, చిల్డ్రన్స్ ఫర్ ఇంగ్లాండ్ కమిషనర్ హెచ్చరించారు.
డేమ్ రాచెల్ డి సౌజా మాట్లాడుతూ టీనేజ్ అమ్మాయిలు భయపడ్డారు Ai నగ్న శరీరాల యొక్క అశ్లీల చిత్రాలకు వారి ముఖాల ఫోటోలను డిజిటల్‌గా కుట్టగల అనువర్తనాలు వారి అనుమతి లేకుండా.
ఒక నివేదికలో, డేమ్ రాచెల్ ఈ సాంకేతిక పరిజ్ఞానం ప్రధాన స్రవంతి అనువర్తన దుకాణాల్లో విస్తృతంగా లభిస్తుందని, మరియు అది నిషేధించబడకపోతే అది తెలియని బాధితులు కావచ్చు అనే యువకులకు ‘భయంకరమైన నష్టాలను’ ప్రదర్శించగలదని హెచ్చరించారు నేరం.
ఆమె ఇలా చెప్పింది: ‘ఈ సాంకేతిక పరిజ్ఞానం కూడా అందుబాటులో ఉండాలనే ఆలోచనతో వారు భయపడుతున్నారని పిల్లలు నాకు చెప్పారు.
‘ఎవరైనా – అపరిచితుడు, క్లాస్‌మేట్ లేదా స్నేహితుడు కూడా – ఈ బెస్పోక్ అనువర్తనాలను ఉపయోగించి నగ్న చిత్రాన్ని సృష్టించడం ద్వారా వాటిని మార్చే మార్గంగా స్మార్ట్‌ఫోన్‌ను ఉపయోగించవచ్చని వారు భయపడుతున్నారు.
‘ఈ సాంకేతిక పరిజ్ఞానం ద్వారా లక్ష్యంగా చేసుకునే ప్రమాదాన్ని తగ్గించడానికి వారు చిత్రాలను పోస్ట్ చేయకుండా లేదా ఆన్‌లైన్‌లో నిమగ్నం చేయకుండా ఉండటానికి బాలికలు నాకు చెప్పారు.
‘మేము తిరిగి కూర్చుని, ఈ బెస్పోక్ AI అనువర్తనాలను పిల్లల జీవితాలపై ఇంత ప్రమాదకరమైన పట్టును కలిగి ఉండటానికి అనుమతించలేము.
యువకుల లైంగిక వేధింపుల యొక్క డీప్‌ఫేక్ చిత్రాలను సృష్టించే అనువర్తనాలను నిషేధించాలి, చిల్డ్రన్స్ కమిషనర్ ఫర్ ఇంగ్లాండ్ హెచ్చరించారు. చిత్రం: స్టాక్ ఇమేజ్
పిల్లల నగ్న చిత్రాలను రూపొందించడానికి డీప్‌ఫేక్ టెక్నాలజీని ఉపయోగించే సాధనాలు చట్టబద్ధంగా ఉండకూడదు మరియు తీవ్రమైన వాస్తవ-ప్రపంచ పరిణామాలతో తనిఖీ చేయకుండా ఉండటానికి బదులుగా వాటిని నిషేధించడానికి నిర్ణయాత్మక చర్యలు తీసుకోవాలని నేను ప్రభుత్వాన్ని పిలుస్తున్నాను. ‘
పిల్లల యొక్క లైంగిక స్పష్టమైన ఇమేజ్‌ను సృష్టించడం లేదా పంచుకోవడం చట్టానికి విరుద్ధం అయినప్పటికీ, వాటిని తయారు చేయడానికి ఉపయోగించే AI సాంకేతికత చట్టవిరుద్ధం కాదు. కానీ డేమ్ రాచెల్ మాట్లాడుతూ, ఈ ‘జనరేటివ్ AI’ సాధనాల డెవలపర్లు వారి ఉత్పత్తులు డీప్‌ఫేక్‌లను సృష్టించడానికి ప్రారంభిస్తే కఠినమైన చట్టపరమైన బాధ్యతలను ఎదుర్కోవలసి ఉంటుంది. డీప్‌ఫేక్ దుర్వినియోగాన్ని చట్టబద్ధంగా లైంగిక హింసగా వర్గీకరించాలని ఆమె కోరుకుంటుంది.
ప్రభుత్వం ఇలా చెప్పింది: ‘AI- సృష్టించిన చిత్రాలతో సహా పిల్లల లైంగిక వేధింపుల సామగ్రిని సృష్టించడం, కలిగి ఉండటం లేదా పంపిణీ చేయడం అసహ్యకరమైనది మరియు చట్టవిరుద్ధం. ఆన్‌లైన్ భద్రతా చట్టం ప్రకారం, అన్ని పరిమాణాల ప్లాట్‌ఫారమ్‌లు ఇప్పుడు ఈ రకమైన కంటెంట్‌ను తొలగించాలి లేదా గణనీయమైన జరిమానాలను ఎదుర్కోవాలి. ‘
