ఆన్‌లైన్‌లో కనుగొనబడిన AI- రూపొందించిన పిల్లల లైంగిక వేధింపుల మెటీరియల్ మొత్తం 2025లో పెరిగింది | AI (కృత్రిమ మేధస్సు)

ఆన్‌లైన్‌లో కనుగొనబడిన AI- రూపొందించిన పిల్లల లైంగిక వేధింపుల మెటీరియల్ మొత్తం గత సంవత్సరం 14% పెరిగింది చాలా వీడియోలు భద్రతా వాచ్‌డాగ్ ప్రకారం, అత్యంత తీవ్రమైన కంటెంట్‌ను చూపుతోంది.

ది ఇంటర్నెట్ వాస్తవిక పిల్లల లైంగిక వేధింపులకు సంబంధించిన 8,029 AI- నిర్మిత చిత్రాలు మరియు వీడియోలను గుర్తించినట్లు వాచ్ ఫౌండేషన్ తెలిపింది (CSAM) 2025లో. వీడియోలలో 260 రెట్లు ఎక్కువ పెరుగుదల ఉందని పేర్కొంది.

IWF ప్రకారం 3,443 వీడియోలలో 65% A వర్గంలో వర్గీకరించబడ్డాయి, ఇది UK చట్టం ప్రకారం అత్యంత తీవ్రమైన మెటీరియల్‌కు సంబంధించిన పదం. నాన్-AI వీడియోల కోసం సంబంధిత సంఖ్య 43%, మరింత హింసాత్మక కంటెంట్‌ను రూపొందించడానికి సాంకేతికత ఉపయోగించబడుతుందని వాచ్‌డాగ్ తెలిపింది.

IWF యొక్క చీఫ్ ఎగ్జిక్యూటివ్ కెర్రీ స్మిత్ ఇలా అన్నారు: “సాంకేతికతలో పురోగతి పిల్లల భద్రత మరియు శ్రేయస్సు యొక్క వ్యయంతో ఎన్నటికీ రాకూడదు. AI సానుకూల కోణంలో చాలా అందించగలిగినప్పటికీ, దాని శక్తిని పిల్లల జీవితాన్ని నాశనం చేయడానికి ఉపయోగించవచ్చని భావించడం భయానకంగా ఉంది. ఈ పదార్థం ప్రమాదకరమైనది.”

ఒక IWF విశ్లేషకుడు డార్క్ వెబ్‌లో పెడోఫైల్స్ మధ్య సంభాషణలు CSAM యొక్క వినియోగదారులచే సాంకేతికతలో “ఆనందంతో పరిగణించబడుతున్నాయి” అని చూపించాయి. చర్చలు AI సిస్టమ్‌ల పెరుగుతున్న వాస్తవిక అవుట్‌పుట్‌లపై కేంద్రీకృతమై ఉన్నాయి మరియు అవి మెరుగుపడినప్పుడు, వీడియోకు ఆడియోను జోడించగల లేదా నేరస్థుడికి తెలిసిన నిజమైన పిల్లల చిత్రాలను విజయవంతంగా మార్చగల సామర్థ్యం పెరుగుతుంది.

UK-ఆధారిత IWF హాట్‌లైన్‌ను నిర్వహిస్తుంది మరియు పిల్లల లైంగిక వేధింపుల కంటెంట్‌ను పర్యవేక్షించడానికి గ్లోబల్ రెమిట్‌ను కలిగి ఉంది. నేరస్థులు స్వయంప్రతిపత్తితో విధులను నిర్వహించగల “ఏజెంటిక్” వ్యవస్థలను ఉపయోగించే అవకాశాలను కూడా చర్చిస్తున్నారని పేర్కొంది.

టెక్ కంపెనీలు మరియు చైల్డ్ ప్రొటెక్షన్ ఏజెన్సీలు AI సాధనాలు CSAMను ఉత్పత్తి చేయగలవో లేదో పరీక్షించడానికి UKలో అధికారం ఇవ్వబడిందిమంత్రులు గత సంవత్సరం అది జరిగే ముందు దుర్వినియోగం ఆపటం గురించి ఒక ఎత్తుగడలో చెప్పారు.

మార్పు ప్రకారం, ప్రభుత్వం నియమించబడిన AI కంపెనీలు మరియు పిల్లల భద్రతా సంస్థలకు ఉత్పాదక కృత్రిమ మేధస్సు నమూనాలను – ChatGPT వంటి చాట్‌బాట్‌ల కోసం అంతర్లీన సాంకేతికత మరియు Google Veo 3 వంటి ఇమేజ్ జనరేటర్‌లను పరిశీలించడానికి అనుమతిని ఇస్తుంది మరియు వాటిని నిరోధించడానికి వారికి రక్షణలు ఉన్నాయని నిర్ధారించుకోండి. అటువంటి పదార్థాన్ని సృష్టించడం.

“పిల్లలు, బాధితులు మరియు ప్రాణాలతో బయటపడిన వారు మాకు ఆత్మసంతృప్తి చెందలేరు” అని స్మిత్ అన్నాడు. “కొత్త సాంకేతికత అత్యున్నత ప్రమాణాలకు అనుగుణంగా ఉండాలి. కొన్ని సందర్భాల్లో, జీవితాలు లైన్‌లో ఉన్నాయి.”

IWF ద్వారా ధృవీకరించబడిన CSAM మొత్తం వ్యవస్థల నైపుణ్యం మరియు లభ్యత పెరిగినందున, ముఖ్యంగా వీడియోలు పెరుగుతున్నందున బాగా పెరిగింది.

IWF పోలింగ్‌ను కూడా ప్రచురించింది, 10 మంది UK పెద్దలలో ఎనిమిది మంది UK ప్రభుత్వం AI వ్యవస్థలు భద్రతతో ప్రాధాన్యతగా అభివృద్ధి చేయబడేలా మరియు “భవిష్యత్తులో హాని కలిగించకుండా ప్రూఫ్ చేయబడే” చట్టాన్ని ప్రవేశపెట్టాలని కోరుతున్నాయి. గతేడాది ప్రభుత్వం ప్రకటించింది AI మోడల్‌లను కలిగి ఉండటం, సృష్టించడం లేదా పంపిణీ చేయడంపై నిషేధం పిల్లల లైంగిక వేధింపుల మెటీరియల్‌ని రూపొందించడానికి రూపొందించబడింది.