‘ఇది ఒకరిని పూర్తిగా కించపరిచేలా ఉంది’: మిస్టర్ డీప్‌ఫేక్స్ కథ – ప్రపంచంలోని అత్యంత అపఖ్యాతి పాలైన AI పోర్న్ సైట్ | సాంకేతికత

Patrizia Schlosser కోసం, ఇది సహోద్యోగి నుండి క్షమాపణ పిలుపుతో ప్రారంభమైంది. “నన్ను క్షమించండి, కానీ నేను దీనిని కనుగొన్నాను. దాని గురించి మీకు తెలుసా?” అతను ఒక లింక్‌ను పంపాడు, అది ఆమెను Mr DeepFakes అనే సైట్‌కి తీసుకెళ్లింది. అక్కడ, ఆమె తన నగ్నంగా, చతికిలబడి, గొలుసులతో, వివిధ జంతువులతో లైంగిక చర్యలకు పాల్పడినట్లు నకిలీ చిత్రాలను కనుగొంది. వారు “Patrizia Schlosser sluty FUNK వోర్” (sic) అని ట్యాగ్ చేయబడ్డారు.

“వారు చాలా గ్రాఫిక్‌గా ఉన్నారు, చాలా అవమానకరంగా ఉన్నారు” అని నార్డ్‌డ్యూచర్ రండ్‌ఫంక్ (NDR) కోసం జర్మన్ జర్నలిస్ట్ అయిన ష్లోసర్ చెప్పారు. ఫంక్. “అవి కూడా చాలా ఘోరంగా జరిగాయి, ఇది నన్ను దూరం చేసుకోవడం సులభతరం చేసింది మరియు అవి స్పష్టంగా నకిలీవని నాకు చెప్పండి. కానీ ఎవరైనా నా చిత్రాల కోసం ఇంటర్నెట్‌లో గంటల తరబడి వెతుకుతూ, వీటన్నింటిని కలిపి వెతకడం చాలా బాధ కలిగించింది.”

పోర్న్ పరిశ్రమపై ఆమె మునుపటి ఉన్నత స్థాయి పరిశోధనలు చేసినప్పటికీ, ష్లోసర్‌కి సైట్ కొత్తది. “మిస్టర్ డీప్‌ఫేక్స్ గురించి నేను ఎప్పుడూ వినలేదు – ఇది పూర్తిగా నకిలీ పోర్న్ వీడియోలు మరియు ఫోటోలకు అంకితం చేయబడిన పోర్న్ సైట్. ఇది ఎంత పెద్దది అని నేను ఆశ్చర్యపోయాను – మీకు తెలిసిన ప్రతి సెలబ్రిటీ యొక్క చాలా వీడియోలు.” ష్లోసర్ తనని వారి మధ్య చూసుకున్నందుకు మొదటి స్పందన దానిని పక్కన పెట్టడం. “నేను దానిని నా మనస్సు వెనుకకు నెట్టడానికి ప్రయత్నించాను, ఇది నిజంగా దానితో వ్యవహరించని వ్యూహం” అని ఆమె చెప్పింది. “కానీ మెదడు ఎలా పని చేస్తుందో వింతగా ఉంది. ఇది నకిలీ అని మీకు తెలుసు, కానీ ఇప్పటికీ మీరు దానిని చూస్తారు. ఇది మీరు కాదు, ఇది మీరే. అక్కడ మీరు కుక్క మరియు గొలుసుతో ఉన్నారు. మీరు ఉల్లంఘించినట్లు అనిపిస్తుంది, కానీ గందరగోళంగా ఉంది. ఏదో ఒక సమయంలో, నేను నిర్ణయించుకున్నాను: ‘లేదు. నాకు కోపం వచ్చింది. నాకు ఆ చిత్రాలు అక్కడ వద్దు’.”

NDR యొక్క STRG_F ప్రోగ్రామ్ కోసం Schlosser యొక్క తదుపరి డాక్యుమెంటరీ చిత్రాలను తీసివేయడంలో విజయవంతమైంది. ఆమె వాటిని సృష్టించి పోస్ట్ చేసిన యువకుడిని కూడా ట్రాక్ చేసింది – అతని ఇంటికి వెళ్లి అతని తల్లితో మాట్లాడటం కూడా. (నేరస్తుడు తన పడకగది నుండి బయటకు రాలేడు.) అయినప్పటికీ, ఆన్‌లైన్ ఇన్వెస్టిగేటివ్ జర్నలిజం కలెక్టివ్ అయిన బెల్లింగ్‌క్యాట్ సహాయం తీసుకున్నప్పటికీ, స్క్లోసర్ “Mr DeepFakes”ని గుర్తించలేకపోయాడు. బెల్లింగ్‌క్యాట్ యొక్క రాస్ హిగ్గిన్స్ జట్టులో ఉన్నాడు. “నా నేపథ్యం మనీలాండరింగ్‌పై దర్యాప్తు చేస్తోంది,” అని ఆయన చెప్పారు. “నేను వెబ్‌సైట్ నిర్మాణాన్ని చూశాను మరియు అది అదే ఇంటర్నెట్ సర్వీస్ ప్రొవైడర్లను (ISPలు) సరైన తీవ్రమైన వ్యవస్థీకృత నేరస్థులుగా ఉపయోగిస్తోంది.” ISPలు రష్యన్ మెర్సెనరీ గ్రూప్ వాగ్నెర్‌కు లింక్‌లను సూచించారు మరియు అందులో పేరున్న వ్యక్తులు పనామా పేపర్లు. ఇది తీసుకువెళ్ళే ప్రకటనలలో చైనీస్ టెక్నాలజీ కంపెనీల యాజమాన్యంలోని యాప్‌లు ఉన్నాయి, ఇది చైనా ప్రభుత్వం మొత్తం కస్టమర్ డేటాను యాక్సెస్ చేయడానికి అనుమతించింది. “ఇదంతా అభిరుచి గలవారి సైట్‌గా ఉండటానికి చాలా అధునాతనమైనదని నేను ఊహించాను” అని హిగ్గిన్స్ చెప్పారు.

ఇది సరిగ్గా అదే అని తేలింది.

మిస్టర్ డీప్‌ఫేక్స్ కథ, ప్రపంచంలోనే అతిపెద్ద, అత్యంత అపఖ్యాతి పాలైన ఏకాభిప్రాయం లేని డీప్‌ఫేక్ పోర్న్ సైట్, ఇది నిజంగా AI పోర్న్ యొక్క కథ – “డీప్‌ఫేక్” అనే పదం దాని మూలకర్త నుండి వచ్చిందని నమ్ముతారు. AI- రూపొందించిన అశ్లీలత కోసం “గ్రౌండ్ జీరో”, దాని పేజీలు – 2 బిలియన్ల కంటే ఎక్కువ సార్లు వీక్షించబడ్డాయి – లెక్కలేనన్ని మహిళా ప్రముఖులు, రాజకీయ నాయకులు, యూరోపియన్ యువరాణులు, US అధ్యక్షుల భార్యలు మరియు కుమార్తెలు, కిడ్నాప్ చేయబడటం, హింసించబడటం, షేవ్ చేయడం, బంధించడం, మ్యుటిలేట్ చేయడం, అత్యాచారం మరియు గొంతు కోసి చంపడం వంటివి చిత్రీకరించబడ్డాయి. ఇంకా ఈ కంటెంట్ మొత్తం (వీక్షించడానికి 200 రోజుల కంటే ఎక్కువ సమయం పడుతుంది) కేవలం సైట్ యొక్క “షాప్ విండో” మాత్రమే. దాని నిజమైన హృదయం, ఇది “ఇంజిన్ గది”, దాని ఫోరమ్. ఇక్కడ, ఎవరైనా తమకు తెలిసిన వారి (గర్ల్‌ఫ్రెండ్, సోదరి, క్లాస్‌మేట్ లేదా సహోద్యోగి) రూపొందించిన డీప్‌ఫేక్‌లను కోరుకునే వారు సరైన ధరకు ఆర్డర్ చేయడానికి ఇష్టపడే వారిని కనుగొనగలరు. ఇది “ట్రైనింగ్ గ్రౌండ్”, “అభిరుచి గలవారు” ఒకరికొకరు బోధించే సాంకేతిక కేంద్రం, చిట్కాలను పంచుకోవడం, పోస్ట్ చేసిన విద్యా పత్రాలు మరియు “సమస్యలు పరిష్కరించడం”. (మంచి “డేటాసెట్” లేకుండా డీప్‌ఫేక్ చేయడం ఎలా అనేది పునరావృతమయ్యే సమస్య. దీని అర్థం మీ వద్ద ఎక్కువ చిత్రాలు లేని వ్యక్తిని డీప్‌ఫేక్ చేయడానికి మీరు ప్రయత్నిస్తున్నప్పుడు – కాబట్టి సెలబ్రిటీ కాదు, కానీ మీరు ఎవరి సోషల్ మీడియాను స్క్రీన్‌గ్రాబ్ చేశారో మీకు తెలిసి ఉండవచ్చు.)

ఫిల్మ్ మేకర్ మరియు యాక్టివిస్ట్ సోఫీ కాంప్టన్ అవార్డు గెలుచుకున్న 2023 డాక్యుమెంటరీ అనదర్ బాడీ (iPlayerలో అందుబాటులో ఉంది) పరిశోధన చేస్తున్నప్పుడు Mr DeepFakesని చాలా గంటలు పర్యవేక్షించారు. “వెనక్కి తిరిగి చూస్తే, మొత్తం డీప్‌ఫేక్‌ల విస్తరణలో ఆ సైట్ చాలా కీలక పాత్ర పోషించిందని నేను భావిస్తున్నాను” అని ఆమె చెప్పింది. “సైట్ తయారు చేయని, తయారు చేయడానికి అనుమతించబడని లేదా త్వరగా మూసివేయబడిన ప్రపంచం ఉందని నేను నిజంగా అనుకుంటున్నాను మరియు డీప్‌ఫేక్ పోర్న్ అనేది ఈ రోజు మనం ఎదుర్కొంటున్న సమస్యలో కొంత భాగం మాత్రమే. ఆ సైట్ లేకుండా, అది జరిగిన విధంగా పేలి ఉండేదని నేను అనుకోను.”

నిజానికి, ఆ దృశ్యం పూర్తిగా సాధ్యమైంది. Mr యొక్క మూలాలు డీప్‌ఫేక్‌లు 2017-18 వరకు విస్తరించాయి, AI పోర్న్ ఇప్పుడే రెడ్డిట్ వంటి సోషల్ మీడియా సైట్‌లలో నిర్మించడం ప్రారంభించింది. ఒక అనామక రెడ్డిటర్ మరియు AI పోర్న్ “పయనీర్” “డీప్‌ఫేక్స్” (మరియు ఈ పదాన్ని రూపొందించిన ఘనత) పేరుతో వెళ్ళాడు ప్రారంభ ఇంటర్వ్యూ దాని సంభావ్యత గురించి వైస్. అయితే కొంతకాలం తర్వాత, 2018 ప్రారంభంలో, డీప్‌ఫేక్ పోర్న్‌ను రెడ్డిట్ నిషేధించింది దాని సైట్ నుండి. “మేము ఆ సమయంలో వారి సందేశ బోర్డుల నుండి స్క్రీన్‌షాట్‌లను కలిగి ఉన్నాము మరియు చిన్నగా ఉన్న డీప్‌ఫేక్ కమ్యూనిటీ విచిత్రంగా మరియు ఓడను ఎగరేసింది” అని కాంప్టన్ చెప్పారు. ప్రారంభ డొమైన్ పేరు dpfks.comతో Mr DeepFakes సృష్టించబడినప్పుడు ఇది జరిగింది. అడ్మినిస్ట్రేటర్ అదే వినియోగదారు పేరు – dpfks – మరియు మోడరేటర్‌లుగా పనిచేయడానికి వాలంటీర్‌ల కోసం ప్రచారం చేసిన వ్యక్తి మరియు నియమాలు మరియు మార్గదర్శకాలను పోస్ట్ చేసారు, అలాగే డీప్‌ఫేక్ వీడియోలు మరియు డీప్‌ఫేక్ పోర్న్ కోసం సాఫ్ట్‌వేర్‌ను ఉపయోగించడంలో లోతైన మార్గదర్శిని.

“సందేశాలను చదవడం మరియు ఆవిర్భావాన్ని చూడటం గురించి చాలా నిరుత్సాహపరిచేది ఏమిటంటే, ప్రభుత్వాలు దాని ట్రాక్‌లలో దీన్ని ఎంత సులభంగా ఆపగలిగాయో తెలుసుకోవడం” అని కాంప్టన్ చెప్పారు. “అది చేస్తున్న వ్యక్తులు తమకు స్వేచ్ఛా నియంత్రణను అనుమతించబోతున్నారని నమ్మలేదు. వారు ఇలా చెప్తున్నారు: ‘వారు మా కోసం వస్తున్నారు!’, ‘వారు మమ్మల్ని దీన్ని చేయనివ్వరు!’ కానీ వారు ఎటువంటి సమస్యలు లేకుండా కొనసాగినందున, మీరు ఈ పెరుగుతున్న ధైర్యాన్ని చూస్తారు. ప్రతి ఒక్కరూ కంటెంట్‌ని మోడరేట్ చేయడం ఆపివేయడంతో పేలుడుకు కోవిడ్ జోడించబడింది. అవుట్‌పుట్ హింసాత్మకంగా ఉంది – ఇది ఒకరిని పూర్తిగా కించపరిచేలా ఉంది. ఎమ్మా వాట్సన్, బిల్లీ ఎలిష్, మిల్లీ బాబీ బ్రౌన్ – నిజంగా జనాదరణ పొందిన ప్రముఖులు తరచుగా నిజంగా యువకులే. (గ్రేటా థన్‌బెర్గ్ ఇక్కడ మరొక ఉదాహరణ.)

దీని వెనుక ఎవరున్నారు? ఎప్పటికప్పుడు, Mr DeepFakes అనామక ఇంటర్వ్యూలు ఇచ్చాడు. 2022 BBC డాక్యుమెంటరీలో, డీప్‌ఫేక్ పోర్న్: మీరు తదుపరి కాగలరా?, సైట్ యొక్క “యజమాని” మరియు “వెబ్ డెవలపర్”, “డీప్‌ఫేక్స్” అనే మారుపేరుతో, “ఇది ఒక ఫాంటసీ, ఇది నిజం కాదు” అని మహిళల నుండి సమ్మతి అవసరం లేదని వాదించారు.

డబ్బు వారి ప్రేరణగా ఉందా? మిస్టర్ డీప్‌ఫేక్స్ ప్రకటనలను ప్రదర్శించింది మరియు క్రిప్టోకరెన్సీలో చెల్లించిన ప్రీమియం సభ్యత్వాన్ని కలిగి ఉంది – 2020లో, ఒక ఫోరమ్ $4,000 మరియు నెలకు $7,000. “వాణిజ్యపరమైన అంశం ఉంది,” హిగ్గిన్స్ చెప్పారు. “ఇది ఒక వైపు హస్టిల్, కానీ అది అంతకంటే ఎక్కువ. ఇది ఈ అపఖ్యాతిని ఇచ్చింది.”

ఒక సమయంలో, సైట్ “AOC యొక్క 6,000 చిత్రాలను పోస్ట్ చేసింది [the US politician Alexandria Ocasio-Cortez’s] ప్రజలు ఆమెను డీప్‌ఫేక్ అశ్లీల చిత్రాలను రూపొందించే విధంగా ఎదుర్కోవాలి” అని హిగ్గిన్స్ చెప్పారు. “ఇది పిచ్చిగా ఉంది. [There were] ఈ అన్ని యూట్యూబర్‌లు మరియు రాజకీయ నాయకుల ఫైల్‌లు. అది చెప్పేదేమిటంటే, మీరు ఈ ప్రపంచంలో స్త్రీ అయితే, మీరు చాలా మాత్రమే సాధించగలరు ఎందుకంటే మీరు మీ తలని పారాపెట్ పైన ఉంచినట్లయితే, మీకు బహిరంగంగా ఏదైనా చేయాలనే చిత్తశుద్ధి ఉంటే, మీ చిత్రం వ్యక్తిగత లాభం కోసం అత్యంత దిగజారిపోయే విధంగా ఉపయోగించబడుతుందని మీరు ఆశించవచ్చు.

“ఆ సైట్‌లో మహిళల గురించి ఉపయోగించిన భాష నన్ను ఎక్కువగా ప్రభావితం చేసింది,” అని అతను కొనసాగిస్తున్నాడు. “మేము దానిని మా ఆన్‌లైన్ నివేదిక కోసం మార్చవలసి వచ్చింది, ఎందుకంటే ఇది ప్రేరేపించబడాలని మేము కోరుకోలేదు, కానీ ఇది స్వచ్ఛమైన స్త్రీద్వేషం. స్వచ్ఛమైన ద్వేషం.”

ఈ ఏప్రిల్‌లో, పరిశోధకులు మిస్టర్ డీప్‌ఫేక్స్‌ను కనుగొన్నారని మరియు వారి అనుమానితులకు ఇమెయిల్‌లు పంపారని నమ్మడం ప్రారంభించారు.

మే 4న, మిస్టర్ డీప్‌ఫేక్స్ మూసివేయబడింది. “క్లిష్టమైన సర్వీస్ ప్రొవైడర్” ఉపసంహరణ కారణంగా “డేటా నష్టం” అని దాని హోమ్‌పేజీలో ఒక నోటీసు పేర్కొంది. “మేము పునఃప్రారంభించము,” అది కొనసాగింది. “ఇది నకిలీదని క్లెయిమ్ చేసే ఏదైనా వెబ్‌సైట్. ఈ డొమైన్ చివరికి గడువు ముగుస్తుంది మరియు భవిష్యత్ ఉపయోగం కోసం మేము బాధ్యత వహించము. ఈ సందేశం దాదాపు ఒక వారంలో తీసివేయబడుతుంది.”

Mr DeepFakes పూర్తయింది – కానీ కాంప్టన్ ప్రకారం, ఇది చాలా త్వరగా జరిగి ఉండవచ్చు. “అన్ని సంకేతాలు ఉన్నాయి,” ఆమె చెప్పింది. మునుపటి సంవత్సరం, ఏప్రిల్ 2024లో, UK ప్రభుత్వం ఉన్నప్పుడు ప్రణాళికలను ప్రకటించింది డీప్‌ఫేక్ లైంగిక వేధింపుల మెటీరియల్‌ని సృష్టించడం మరియు భాగస్వామ్యం చేయడం నేరంగా పరిగణించండిMr DeepFakes వెంటనే UK వినియోగదారులకు యాక్సెస్‌ను నిరోధించడం ద్వారా ప్రతిస్పందించారు. (తరువాత 2024 ఎన్నికలు వచ్చినప్పుడు ఈ ప్రణాళికలు నిలిపివేయబడ్డాయి.) “‘మిస్టర్ డీప్‌ఫేక్స్’ ప్రభుత్వాలు ఏమీ చేయలేని విధంగా నిబద్ధతతో లేవని ఇది చూపింది” అని కాంప్టన్ చెప్పారు. “ఇది చాలా నొప్పిగా మారినట్లయితే మరియు సైట్‌ను అమలు చేయడం ప్రమాదంగా మారినట్లయితే, వారు ఇబ్బంది పడరు.”

కానీ డీప్‌ఫేక్ పోర్న్ చాలా ప్రజాదరణ పొందింది, కాబట్టి ప్రధాన స్రవంతి, దీనికి ఇకపై “బేస్ క్యాంప్” అవసరం లేదు. “ఎలా చేయాలో నేర్చుకోవడం మరియు ఇతరులకు బోధించడం గురించి ఆ కుర్రాళ్ళు గర్వించే విషయాలు ఇప్పుడు చాలా పొందుపరచబడ్డాయి, అవి బటన్‌పై క్లిక్ చేయడం ద్వారా యాప్‌లలో ఎవరికైనా అందుబాటులో ఉంటాయి” అని కాంప్టన్ చెప్పారు.

మరియు మరింత సంక్లిష్టమైనదాన్ని కోరుకునే వారి కోసం, సృష్టికర్తలు, ఒకప్పుడు దాని ఫోరమ్‌లో దాగి ఉన్న స్వీయ-శైలి నిపుణులు, ఇప్పుడు వ్యాపారం కోసం అక్కడ ఉన్నారు. Patrizia Schlosser ఇది ఖచ్చితంగా తెలుసు. “నా పరిశోధనలో భాగంగా, నేను రహస్యంగా వెళ్లి ఫోరమ్‌లలోని కొంతమంది వ్యక్తులను సంప్రదించాను, మాజీ ప్రియురాలిని డీప్‌ఫేక్ చేయమని అడిగాను” అని ష్లోసర్ చెప్పారు. “ఈ సైట్ సెలబ్రిటీలకు సంబంధించినది మాత్రమే అని తరచుగా చెప్పబడుతున్నప్పటికీ, అది నిజం కాదు. ప్రతిస్పందన, ‘అవును, ఖచ్చితంగా …’

“Mr DeepFakes షట్ డౌన్ అయిన తర్వాత, వారిలో ఒకరి నుండి నాకు ఆటోమేటిక్ ఇమెయిల్ వచ్చింది: “మీకు ఏదైనా తయారు కావాలంటే, నాకు తెలియజేయండి … Mr DeepFakes డౌన్ అయింది – అయితే, మేము పని చేస్తూనే ఉన్నాము.”

UK మరియు ఐర్లాండ్‌లో, సమరిటన్లు ఫ్రీఫోన్ 116 123లో సంప్రదించవచ్చు లేదా ఇమెయిల్ jo@samaritans.org లేదా jo@samaritans.ie. USలో, మీరు కాల్ చేయవచ్చు లేదా టెక్స్ట్ చేయవచ్చు 988 ఆత్మహత్య & సంక్షోభం లైఫ్‌లైన్ 988 వద్ద లేదా చాట్ చేయండి 988lifeline.org. ఆస్ట్రేలియాలో, సంక్షోభ మద్దతు సేవ లైఫ్ లైన్ 13 11 14. ఇతర అంతర్జాతీయ హెల్ప్‌లైన్‌లను ఇక్కడ కనుగొనవచ్చు befrienders.org

UK లో, రేప్ సంక్షోభం ఇంగ్లాండ్ మరియు వేల్స్‌లో 0808 802 9999, 0808 801 0302లో అత్యాచారం మరియు లైంగిక వేధింపులకు మద్దతునిస్తుంది స్కాట్లాండ్లేదా 0800 0246 991 in ఉత్తర ఐర్లాండ్. US లో, రెయిన్ 800-656-4673లో మద్దతును అందిస్తుంది. ఆస్ట్రేలియాలో, మద్దతు అందుబాటులో ఉంది 1800 గౌరవం (1800 737 732). ఇతర అంతర్జాతీయ హెల్ప్‌లైన్‌లను ఇక్కడ చూడవచ్చు ibiblio.org/rcip/internl.html