AI- రూపొందించిన పిల్లల దుర్వినియోగం కోసం ఉపయోగించే ‘న్యూడిఫై’ సైట్లపై ఆస్ట్రేలియా బిగించింది
దుర్వినియోగ చిత్రాలను రూపొందించడానికి ఉపయోగించే మూడు వెబ్సైట్లు ఆస్ట్రేలియన్ల నుండి 100,000 నెలవారీ సందర్శనలను అందుకున్నాయని వాచ్డాగ్ తెలిపింది.
27 నవంబర్ 2025న ప్రచురించబడింది
పిల్లల లైంగిక దోపిడీకి సంబంధించిన విషయాలను రూపొందించడానికి కృత్రిమ మేధస్సును ఉపయోగించిన అనేక వెబ్సైట్లను యాక్సెస్ చేయకుండా ఆస్ట్రేలియాలోని ఇంటర్నెట్ వినియోగదారులు నిరోధించబడ్డారు, ఆ దేశ ఇంటర్నెట్ నియంత్రణ సంస్థ ప్రకటించింది.
అధికారిక హెచ్చరిక తర్వాత మూడు “న్యూడిఫై” సైట్లు ఆస్ట్రేలియా నుండి ఉపసంహరించుకున్నాయని eSafety కమిషనర్ జూలీ ఇన్మాన్ గ్రాంట్ గురువారం తెలిపారు.
సిఫార్సు చేసిన కథలు
4 అంశాల జాబితాజాబితా ముగింపు
ఆస్ట్రేలియన్ల నుండి సైట్లు నెలకు సుమారుగా 100,000 సందర్శనలను పొందుతున్నాయని మరియు ఆస్ట్రేలియన్ పాఠశాల విద్యార్థులతో AI- రూపొందించిన పిల్లల లైంగిక వేధింపుల చిత్రాల యొక్క అధిక ప్రొఫైల్ కేసులలో ప్రదర్శించబడిందని గ్రాంట్ కార్యాలయం తెలిపింది.
AIని ఉపయోగించి నిజమైన వ్యక్తుల చిత్రాలను నగ్నంగా కనిపించేలా చేయడానికి వినియోగదారులను అనుమతించే అటువంటి “న్యూడిఫై” సేవలు ఆస్ట్రేలియన్ పాఠశాలల్లో “వినాశకరమైన” ప్రభావాన్ని కలిగి ఉన్నాయని గ్రాంట్ చెప్పారు.
“పిల్లల లైంగిక దోపిడీకి సంబంధించిన విషయాలను రూపొందించడానికి ఈ ప్రొవైడర్ తన సేవలను ఉపయోగించడాన్ని నిరోధించడంలో విఫలమైనందున మేము సెప్టెంబర్లో అమలు చర్య తీసుకున్నాము మరియు ‘ఏదైనా అమ్మాయిని’ బట్టలు విప్పడం వంటి మార్కెటింగ్ ఫీచర్లు మరియు ‘స్కూల్గర్ల్’ ఇమేజ్ జనరేషన్ మరియు ‘సెక్స్ మోడ్’ వంటి ఫీచర్ల కోసం ఎంపికలు ఉన్నాయి,” అని గ్రాండ్ ఒక ప్రకటనలో తెలిపారు.
సెప్టెంబరులో సైట్ల వెనుక ఉన్న యునైటెడ్ కింగ్డమ్-ఆధారిత కంపెనీకి గ్రాంట్ కార్యాలయం అధికారిక హెచ్చరిక జారీ చేసిన తర్వాత, చిత్ర-ఆధారిత దుర్వినియోగాన్ని నిరోధించే రక్షణలను ప్రవేశపెట్టకుంటే 49.5 మిలియన్ ఆస్ట్రేలియన్ డాలర్ల ($32.2మి) వరకు పౌర జరిమానాలు విధించబడతాయని బెదిరించారు.
AI మోడల్ల కోసం హోస్టింగ్ ప్లాట్ఫారమ్ అయిన హగ్గింగ్ ఫేస్ విడివిడిగా ఆస్ట్రేలియన్ చట్టానికి అనుగుణంగా చర్యలు తీసుకుందని గ్రాంట్ చెప్పారు, ఖాతాదారులు తమ ప్లాట్ఫారమ్లను దుర్వినియోగం చేసే ప్రమాదాలను తగ్గించడానికి చర్యలు తీసుకోవాలని దాని సేవా నిబంధనలను మార్చడం సహా.
పిల్లల ఆన్లైన్ హానిని నిరోధించడం, 16 ఏళ్లలోపు వారి కోసం సోషల్ మీడియాను నిషేధించడం మరియు డీప్ఫేక్ చిత్రాలను రూపొందించడం కోసం ఉపయోగించే యాప్లను అరికట్టడంలో ఆస్ట్రేలియా ప్రపంచవ్యాప్త ప్రయత్నాలలో ముందంజలో ఉంది.
మౌస్ క్లిక్తో ఫోటో-రియలిస్టిక్ మెటీరియల్ని సృష్టించగల సామర్థ్యం ఉన్న ప్లాట్ఫారమ్ల వేగవంతమైన విస్తరణ మధ్య ఏకాభిప్రాయం లేని లైంగిక అసభ్యకరమైన చిత్రాలను రూపొందించడానికి AIని ఉపయోగించడం ఆందోళన కలిగిస్తోంది.
గత సంవత్సరం US- ఆధారిత న్యాయవాద సమూహం Thorn నిర్వహించిన ఒక సర్వేలో, 13-20 సంవత్సరాల వయస్సు గల ప్రతివాదులు 10 శాతం మంది తమపై లోతైన నగ్న చిత్రాలను సృష్టించిన వ్యక్తి గురించి తెలుసుకున్నారని నివేదించారు, అయితే 6 శాతం మంది వారు అలాంటి దుర్వినియోగానికి ప్రత్యక్ష బాధితురాలని చెప్పారు.
