పిల్లల దుర్వినియోగ చిత్రాలలో నా చిత్రం ఉపయోగించబడింది. AI నా పీడకల ద్వారా ఇతరులను ఉంచుతోంది | మారా విల్సన్

నేను చిన్న అమ్మాయిగా ఉన్నప్పుడు, అపరిచితుడి కంటే భయంకరమైనది ఏమీ లేదు.

1980ల చివరలో మరియు 1990వ దశకం ప్రారంభంలో, మన తల్లిదండ్రులు, టీవీ ప్రత్యేకతలు, ఉపాధ్యాయులు, మనల్ని బాధపెట్టాలనుకునే అపరిచితులు అక్కడ ఉన్నారని పిల్లలకు చెప్పారు. “స్ట్రేంజర్ డేంజర్” ప్రతిచోటా ఉంది. ఇది మంచి అర్థవంతమైన పాఠం, కానీ ప్రమాదం ఎక్కువగా ఉంది: చాలా వరకు పిల్లల దుర్వినియోగం మరియు దోపిడీలు పిల్లలకు తెలిసిన వ్యక్తులచే నిర్వహించబడుతున్నాయి. అపరిచితులచే పిల్లలను దుర్వినియోగం చేయడం లేదా దోపిడీ చేయడం చాలా అరుదు.

అరుదైనది, కానీ అసాధ్యం కాదు. నాకు తెలుసు, ఎందుకంటే నేను అపరిచితులచే లైంగికంగా దోపిడీకి గురయ్యాను.

ఐదేళ్ల నుంచి 13 ఏళ్ల వరకు నేను బాలనటుడిని. మరియు ఆలస్యంగా మేము తెర వెనుక బాల నటులపై జరిగిన దుర్భాషల గురించి చాలా భయానక కథనాలను విన్నాము, నేను చిత్రీకరణ సమయంలో ఎల్లప్పుడూ సురక్షితంగా ఉన్నాను. ఫిల్మ్‌సెట్‌లు ప్రజలు పనిని పూర్తి చేయాలనుకునే అత్యంత నియంత్రణ స్థలాలు. నాకు సపోర్టివ్ పేరెంట్స్ ఉన్నారు మరియు పిల్లలను అర్థం చేసుకునే మరియు శ్రద్ధ వహించే దర్శకులు, నటీనటులు మరియు స్టూడియో టీచర్‌లు నన్ను చుట్టుముట్టారు.

వ్యాపారాన్ని చూపించే ఏకైక మార్గం చేసాడు నన్ను ప్రజల దృష్టిలో పెట్టడం ద్వారా నాకు ప్రమాదం. బాలనటుడిగా నేను ఎదుర్కొన్న ఏదైనా క్రూరత్వం మరియు దోపిడీ ప్రజల చేతుల్లో ఉంది.

“హాలీవుడ్ మిమ్మల్ని కొలనులోకి విసిరివేస్తుంది,” నేను ఎప్పుడూ ప్రజలకు చెప్తాను, “కానీ నీటి అడుగున మీ తల పట్టుకున్నది ప్రజలే.”

నేను హైస్కూల్‌లో చేరకముందే, పిల్లల లైంగిక వేధింపుల మెటీరియల్ (CSAM) కోసం నా చిత్రం ఉపయోగించబడింది. నేను ఫెటిష్ వెబ్‌సైట్‌లలో ఫీచర్ చేయబడ్డాను మరియు అశ్లీలంగా ఫోటోషాప్ చేయబడ్డాను. పెద్దలు నాకు గగుర్పాటు కలిగించే ఉత్తరాలు పంపారు. నేను అందమైన అమ్మాయిని కాదు – నా ఇబ్బందికరమైన వయస్సు దాదాపు 10 నుండి 25 సంవత్సరాల వరకు కొనసాగింది – మరియు నేను దాదాపు కుటుంబానికి అనుకూలమైన సినిమాల్లో నటించాను. కానీ నేను పబ్లిక్ ఫిగర్‌ని కాబట్టి నేను అందుబాటులో ఉన్నాను. పిల్లల లైంగిక వేటగాళ్ళు దీని కోసం చూస్తున్నారు: యాక్సెస్. మరియు నాకు ఇంటర్నెట్ కంటే ఏదీ అందుబాటులో లేదు.

ఆ చిత్రాలు “నేను కాదు”, లేదా ఫెటిష్ సైట్‌లు “సాంకేతికంగా” చట్టబద్ధమైనవి అని పట్టింపు లేదు. ఇది బాధాకరమైన, ఉల్లంఘించే అనుభవం; ఒక సజీవ పీడకల నేను ఏ ఇతర పిల్లల ద్వారా వెళ్ళవలసిన అవసరం లేదని ఆశించాను. ఒకసారి నేను పెద్దయ్యాక, నన్ను అనుసరించిన ఇతర పిల్లల గురించి నేను ఆందోళన చెందాను. ఫ్యామిలీ వ్లాగర్ యూట్యూబ్ ఛానెల్‌లలో డిస్నీ స్టార్‌లు, స్ట్రేంజర్స్ థింగ్స్ తారాగణం, టిక్‌టాక్ డ్యాన్స్‌లు చేస్తూ నవ్వుతున్న ప్రీటీన్‌లకు ఇలాంటివి జరుగుతాయా? నేను సమాధానం తెలుసుకోవాలనుకుంటున్నాను అని నాకు ఖచ్చితంగా తెలియదు.

కొన్ని సంవత్సరాల క్రితం ఉత్పాదక AI తీయడం ప్రారంభించినప్పుడు, నేను చెత్తగా భయపడ్డాను. నేను “డీప్‌ఫేక్స్” కథలను విన్నాను మరియు సాంకేతికత విపరీతంగా మరింత వాస్తవికంగా మారిందని తెలుసు.

అప్పుడు అది జరిగింది – లేదా కనీసం, అది జరిగినట్లు ప్రపంచం గమనించింది. జెనరేటివ్ AI ఇప్పటికే చాలా సార్లు ఉపయోగించబడింది వయోజన మహిళల సమ్మతి లేకుండా వారి లైంగిక చిత్రాలను రూపొందించడానికి. ఇది నా స్నేహితులకు జరిగింది. అయితే ఇటీవల, X యొక్క AI సాధనం Grok చాలా బహిరంగంగా ఉపయోగించబడిందని నివేదించబడింది, తక్కువ వయస్సు ఉన్న నటుడి యొక్క బట్టలు లేని చిత్రాలను రూపొందించడానికి. వారాల క్రితం, తనపై డీప్‌ఫేక్ పోర్న్ చేసినందుకు సహవిద్యార్థిని కొట్టినందుకు ఒక బాలికను పాఠశాల నుండి బహిష్కరించారు. ఆమె కుటుంబ న్యాయవాదుల ప్రకారం. ఆమెకు 13 ఏళ్లు, ప్రజలు నాపై నకిలీ లైంగిక చిత్రాలను రూపొందిస్తున్నప్పుడు నా వయస్సు అదే.

జూలై 2024లో, ఇంటర్నెట్ వాచ్ ఫౌండేషన్ డార్క్ వెబ్ ఫోరమ్‌లో AI- రూపొందించిన CSAM యొక్క 3,500 కంటే ఎక్కువ చిత్రాలను కనుగొంది. ఆ తర్వాత ఏడాదిన్నర కాలంలో ఇంకా ఎన్ని వేలల్లో సంపాదించారు?

జనరేటివ్ AI స్ట్రేంజర్ డేంజర్‌ను మళ్లీ ఆవిష్కరించింది. మరియు ఈ సమయంలో, భయం సమర్థించబడుతోంది. ఇంటర్నెట్‌లో ముఖం పోస్ట్ చేయబడిన ఏ చిన్నారి అయినా లైంగికంగా దోపిడీకి గురికావడం ఇప్పుడు అనంతంగా సులభం. మిలియన్ల మంది పిల్లలు నా అదే పీడకల జీవించడానికి బలవంతంగా ఉండవచ్చు.

డీప్‌ఫేక్ అపోకలిప్స్ ముప్పును ఆపడానికి, AI ఎలా శిక్షణ పొందుతుందో మనం చూడాలి.

ఉత్పాదక AI “చూడండి, తయారుచేయడం, పోల్చడం, నవీకరించడం, పునరావృతం చేయడం” అనే పునరావృత ప్రక్రియ ద్వారా “నేర్చుకుంటుంది” అని గణిత శాస్త్రజ్ఞుడు మరియు మాజీ AI భద్రతా పరిశోధకుడు పాట్రిక్ లావిక్టోయిర్ చెప్పారు. ఇది గుర్తుపెట్టుకున్న విషయాల ఆధారంగా మోడల్‌లను సృష్టిస్తుంది, కానీ ఇది ప్రతిదీ గుర్తుంచుకోదు, కాబట్టి ఇది నమూనాల కోసం వెతకాలి మరియు దాని ఆధారంగా దాని ప్రతిస్పందనలను కలిగి ఉంటుంది. “ఉపయోగకరమైన కనెక్షన్ బలోపేతం అవుతుంది,” లావిక్టోయిర్ చెప్పారు. “తక్కువగా లేదా చురుకుగా సహాయం చేయనిది కత్తిరించబడుతుంది.”

ఏ ఉత్పాదక AI సృష్టించగలదు అనేది AI శిక్షణ పొందిన పదార్థాలపై ఆధారపడి ఉంటుంది. ఎ స్టాన్‌ఫోర్డ్ విశ్వవిద్యాలయంలో అధ్యయనం 2023లో అత్యంత ప్రజాదరణ పొందిన శిక్షణ డేటాసెట్‌లలో ఇప్పటికే 1,000 కంటే ఎక్కువ CSAM ఉదంతాలు ఉన్నాయని చూపించింది. CSAMకి లింక్‌లు అప్పటి నుండి డేటాసెట్ నుండి తీసివేయబడ్డాయిఅయితే పిల్లల చిత్రాలను అశ్లీల చిత్రాలతో కలపడం ద్వారా మరొక ముప్పు CSAM అని పరిశోధకులు నొక్కిచెప్పారు, శిక్షణ డేటాలో రెండూ ఉంటే అది సాధ్యమవుతుంది.

Google మరియు OpenAI CSAM సృష్టికి వ్యతిరేకంగా రక్షణ కల్పించడానికి తమ వద్ద రక్షణలు ఉన్నాయని క్లెయిమ్ చేయండి: ఉదాహరణకు, వారు తమ AI ప్లాట్‌ఫారమ్‌లకు శిక్షణ ఇవ్వడానికి ఉపయోగించే డేటాను జాగ్రత్తగా చూసుకోవడం ద్వారా. (చాలా మంది వయోజన సినీ నటులు మరియు సెక్స్ వర్కర్లు వారి చిత్రాలను AI కోసం స్క్రాప్ చేయడం కూడా గమనించదగ్గ విషయం. వారి సమ్మతి లేకుండా.)

“జెడి సమురాయ్ యొక్క చిత్రాన్ని రూపొందించండి” వంటి హానికరం కాని మరియు వెర్రి కమాండ్‌లు మరియు “ఈ సెలబ్రిటీని బట్టలు విప్పండి” వంటి హానికరమైన కమాండ్‌ల మధ్య తేడాను గుర్తించే మార్గమేమీ లేదని LaVictoire చెప్పింది. కాబట్టి మరొక రక్షణ స్పామ్ ఫిల్టర్‌తో సమానంగా పనిచేసే విభిన్న రకాల AIని కలిగి ఉంటుంది, ఇది ఆ ప్రశ్నలకు సమాధానం ఇవ్వకుండా నిరోధించగలదు. Grokని నడుపుతున్న xAI, ఆ ఫిల్టర్‌తో అజాగ్రత్తగా ఉన్నట్లు కనిపిస్తోంది.

మరియు చెత్త ఇంకా రావచ్చు: మెటా మరియు ఇతర కంపెనీలు భవిష్యత్ AI నమూనాలు ఓపెన్ సోర్స్‌గా ఉండాలని ప్రతిపాదించాయి. “ఓపెన్ సోర్స్” అంటే ఎవరైనా దాని వెనుక ఉన్న కోడ్‌ని యాక్సెస్ చేయవచ్చు, దానిని డౌన్‌లోడ్ చేసుకోవచ్చు మరియు తమకు నచ్చిన విధంగా సవరించవచ్చు. ఓపెన్ సోర్స్ సాఫ్ట్‌వేర్ గురించి సాధారణంగా అద్భుతమైనది – కొత్త విషయాలను సృష్టించడానికి వినియోగదారులకు స్వేచ్ఛనిస్తుంది, సృజనాత్మకతకు ప్రాధాన్యతనిస్తుంది మరియు లాభం కంటే సహకారానికి – పిల్లల భద్రతకు విపత్తు కావచ్చు.

ఎవరైనా ఓపెన్ సోర్స్ AI ప్లాట్‌ఫారమ్‌ను డౌన్‌లోడ్ చేసి, దానిని వారి స్వంతం చేసుకున్న తర్వాత, ఎటువంటి రక్షణలు ఉండవు, వారి అభ్యర్థనతో సహాయం చేయలేమని AI బోట్ చెప్పదు. ఎవరైనా స్పష్టమైన లేదా చట్టవిరుద్ధమైన చిత్రాలను ఉపయోగించి వారి స్వంత వ్యక్తిగత ఇమేజ్ జనరేటర్‌ను “ఫైన్-ట్యూన్” చేయవచ్చు మరియు వారి స్వంత అనంతమైన CSAM మరియు “రివెంజ్ పోర్న్” జనరేటర్‌ను తయారు చేసుకోవచ్చు.

మెటా ఉన్నట్లుంది దాని కొత్త AI ప్లాట్‌ఫారమ్‌లను ఓపెన్ సోర్స్ చేయడం నుండి వెనక్కి తగ్గింది. బహుశా మార్క్ జుకర్‌బర్గ్ దానిని గుర్తుంచుకుని ఉండవచ్చు అతను రోమన్ చక్రవర్తి అగస్టస్ లాగా ఉండాలనుకుంటున్నాడుమరియు అతను ఈ మార్గంలో కొనసాగితే, అతను CSAM యొక్క ఓపెన్‌హైమర్‌గా ఎక్కువగా గుర్తుంచుకోబడవచ్చు.

దీనికి వ్యతిరేకంగా ఇప్పటికే కొన్ని దేశాలు పోరాడుతున్నాయి. చైనా తొలిసారిగా చట్టం చేసింది AI కంటెంట్‌ని లేబుల్ చేయడం అవసరమయ్యే చట్టం. డెన్మార్క్ పౌరులకు వారి ప్రదర్శనలు మరియు స్వరాలకు కాపీరైట్‌ను ఇచ్చే చట్టంపై పని చేస్తోంది మరియు దానిని గౌరవించని AI ప్లాట్‌ఫారమ్‌లపై జరిమానాలు విధించవచ్చు. ఐరోపాలోని ఇతర ప్రాంతాలలో, మరియు UKలోవ్యక్తుల చిత్రాలు సాధారణ డేటా రక్షణ నియంత్రణ (GDPR) ద్వారా రక్షించబడవచ్చు.

యునైటెడ్ స్టేట్స్లో దృక్పథం చాలా భయంకరంగా ఉంది. కాపీరైట్ క్లెయిమ్‌లు సహాయం చేయవు, ఎందుకంటే ఒక వినియోగదారు ప్లాట్‌ఫారమ్‌కి చిత్రాన్ని అప్‌లోడ్ చేసినప్పుడు, వారు దానిని తమకు తగినట్లుగా ఉపయోగించుకోవచ్చు; ఇది దాదాపు ప్రతి సేవా నిబంధనల ఒప్పందంలో ఉంది. తో ఉత్పాదక AI నియంత్రణకు వ్యతిరేకంగా కార్యనిర్వాహక ఆదేశాలు మరియు xAI వంటి కంపెనీలు US మిలిటరీతో ఒప్పందాలపై సంతకం చేయడంపౌరులను సురక్షితంగా ఉంచడం కంటే AIతో డబ్బు సంపాదించడం చాలా ముఖ్యమైనదని US ప్రభుత్వం చూపించింది.

అక్కడ కలిగి ఉంది “ఈ డిజిటల్ మానిప్యులేషన్‌ను చాలా మంది నేరస్థులుగా చేసే చట్టం” అని న్యూయార్క్ సిటీ లిటిగేటర్ అకివా కోహెన్ చెప్పారు. “అయితే, ఆ చట్టాలు చాలా వరకు అతిగా నిర్బంధంగా ఉంటాయి ఏమి వారు ఖచ్చితంగా కవర్ చేస్తారు.”

ఉదాహరణకు, ఎవరైనా నగ్నంగా కనిపించడం లేదా లైంగిక చర్యలో నిమగ్నమై ఉండేలా డీప్‌ఫేక్ చేయడం నేరారోపణలకు కారణం కావచ్చు, AIని ఉపయోగించి ఒక మహిళను – మరియు తక్కువ వయస్సు ఉన్న అమ్మాయిని కూడా బికినీలో పెట్టడానికి బహుశా కారణం కావచ్చు.

“ఇది చాలా స్పృహతో లైన్ యొక్క ‘భయంకరమైన, కానీ చట్టపరమైన’ వైపు మాత్రమే ఉంటుంది,” కోహెన్ చెప్పారు.

బహుశా అది నేరం కాకపోవచ్చు – అంటే, రాష్ట్రానికి వ్యతిరేకంగా చేసిన నేరం, కానీ కోహెన్ అది పౌర బాధ్యత కావచ్చు, మరొక వ్యక్తి యొక్క హక్కులను ఉల్లంఘించవచ్చని వాదించాడు, దీని కోసం బాధితుడు తిరిగి చెల్లించవలసి ఉంటుంది. ఇది “” కిందకు వస్తుందని ఆయన సూచిస్తున్నారు.తప్పుడు కాంతిగోప్యతపై దాడి” టార్ట్, ఒక వ్యక్తిపై అభ్యంతరకరమైన దావాలు చేయడం, వారిని తప్పుడు కోణంలో చూపడం, “ఎవరైనా వారు చేయని పనిని వారు చేస్తున్నట్టు చూపించే విధంగా వర్ణించడం” అనే సివిల్ తప్పు.

“మీరు నిజంగా ఈ రకమైన ప్రవర్తనను అరికట్టగల మార్గం బాధ్యతను విధించడం కంపెనీలు ఇది ఎనేబుల్ చేస్తుంది” అని కోహెన్ చెప్పారు.

దానికి చట్టపరమైన పూర్వజన్మ ఉంది: ది చట్టాన్ని పెంచండి న్యూయార్క్‌లో, మరియు సెనేట్ బిల్లు 53 కాలిఫోర్నియాలో, AI కంపెనీలు ఒక నిర్దిష్ట సమయంలో చేసిన హానిలకు బాధ్యత వహించవచ్చని చెప్పండి. X, అదే సమయంలో, ఇప్పుడు Grokని బ్లాక్ చేస్తుంది ప్లాట్‌ఫారమ్‌పై నిజమైన వ్యక్తుల లైంగిక చిత్రాలను రూపొందించడం నుండి. కానీ అది విధానం మారినట్లు కనిపిస్తోంది స్టాండ్-అలోన్ గ్రోక్ యాప్‌కు వర్తించదు.

అయితే న్యూయార్క్‌లోని మాజీ ప్రాక్టీసింగ్ అటార్నీ, అలాగే మాజీ బాల నటుడు అయిన జోష్ సవియానో, చట్టంతో పాటు మరిన్ని తక్షణ చర్యలు తీసుకోవాల్సిన అవసరం ఉందని అభిప్రాయపడ్డారు.

“లాబీయింగ్ ప్రయత్నాలు మరియు మా కోర్టులు చివరికి దీనిని నిర్వహించే విధంగా ఉంటాయి” అని సవియానో ​​చెప్పారు. “కానీ అది జరిగే వరకు, రెండు ఎంపికలు ఉన్నాయి: పూర్తిగా మానుకోండి, అంటే మీ మొత్తం డిజిటల్ పాదముద్రను ఇంటర్నెట్ నుండి తీసివేయండి … లేదా మీరు సాంకేతిక పరిష్కారాన్ని కనుగొనాలి.”

యువకుల భద్రతను నిర్ధారించడం సవియానోకు అత్యంత ముఖ్యమైనది, వీరిలో డీప్‌ఫేక్‌లను కలిగి ఉన్న వ్యక్తుల గురించి తెలుసు, మరియు – మాజీ బాల నటుడిగా – నియంత్రణ కోల్పోవడం గురించి కొంచెం తెలుసు ఒకరి స్వంత కథనం. సావియానో ​​మరియు అతని బృందం వ్యక్తులు వారి చిత్రాలు లేదా సృజనాత్మక పని స్క్రాప్ చేయబడినప్పుడు గుర్తించి వారికి తెలియజేయగల సాధనంపై పని చేస్తున్నారు. జట్టు యొక్క నినాదం, అతను ఇలా చెప్పాడు: “పిల్లలను రక్షించండి.”

ఇది ఎలా జరిగినప్పటికీ, ఈ ముప్పు నుండి రక్షణ కోసం ప్రజల నుండి చాలా కృషి చేయాల్సి ఉంటుందని నేను నమ్ముతున్నాను.

వారి AI చాట్‌బాట్‌లతో అనుబంధాన్ని అనుభవించడం ప్రారంభించిన వారు చాలా మంది ఉన్నారు, కానీ చాలా మందికి, టెక్ కంపెనీలు యుటిలిటీలు తప్ప మరేమీ కాదు. మేము వ్యక్తిగత లేదా రాజకీయ కారణాల వల్ల ఒక యాప్‌ కంటే మరొక యాప్‌ని ఇష్టపడవచ్చు, కానీ కొంతమంది మాత్రమే టెక్ బ్రాండ్‌ల పట్ల బలమైన విధేయతను కలిగి ఉంటారు. టెక్ కంపెనీలు మరియు ముఖ్యంగా Meta మరియు వంటి సోషల్ మీడియా ప్లాట్‌ఫారమ్‌లు Xఅవి అంతం చేయడానికి ఒక సాధనమని గుర్తుంచుకోవడం మంచిది. మరియు నా లాంటి ఎవరైనా – రోజంతా, ప్రతిరోజూ, ఒక దశాబ్దానికి పైగా ట్విట్టర్‌లో ఉన్నవారు – ఎవరైనా నిష్క్రమించగలరు.

కానీ బహిష్కరణలు సరిపోవు. CSAM సృష్టిని అనుమతించే కంపెనీలను జవాబుదారీగా ఉంచాలని డిమాండ్ చేసే వారిగా మనం ఉండాలి. మేము చట్టం మరియు సాంకేతిక రక్షణలను డిమాండ్ చేయాలి. మేము మా స్వంత చర్యలను కూడా పరిశీలించాలి: వారు తమ పిల్లల ఫోటోలను షేర్ చేస్తే, ఆ చిత్రాలు CSAMలో ముగుస్తాయని ఎవరూ అనుకోరు. కానీ ఇది ప్రమాదం, తల్లిదండ్రులు తమ చిన్న పిల్లలను రక్షించాల్సిన అవసరం ఉంది మరియు వారి పెద్ద పిల్లల గురించి హెచ్చరిస్తుంది.

స్ట్రేంజర్ డేంజర్‌తో మన ముట్టడి ఏదైనా చూపించినట్లయితే, మనలో చాలా మంది పిల్లల అపాయం మరియు వేధింపులను నిరోధించాలనుకుంటున్నారు. ఇది నిరూపించడానికి సమయం.