Grok AI చేసిన లైంగిక అసభ్యకరమైన చిత్రాలపై EU Xపై విచారణ ప్రారంభించింది | గ్రోక్ AI

ది యూరోపియన్ కమిషన్ ప్లాట్‌ఫారమ్ యొక్క AI చాట్‌బాట్, గ్రోక్ ద్వారా లైంగిక అసభ్యకరమైన చిత్రాలను రూపొందించడం మరియు పిల్లల లైంగిక వేధింపుల మెటీరియల్‌ని వ్యాప్తి చేయడంపై ఎలోన్ మస్క్ యొక్క Xపై విచారణ ప్రారంభించింది.

సోమవారం ప్రారంభించిన అధికారిక విచారణ, కొత్త కంటెంట్‌ని కనుగొనడంలో వినియోగదారులకు సహాయపడే X యొక్క సిఫార్సు సిస్టమ్‌లు, అల్గారిథమ్‌లపై విచారణను కూడా విస్తరించింది.

గ్రోక్ మహిళలు మరియు పిల్లలను డిజిటల్‌గా తీసివేసి వారిని రెచ్చగొట్టే భంగిమల్లో ఉంచడానికి వినియోగదారులను అనుమతించడం ద్వారా అంతర్జాతీయ ఆగ్రహాన్ని రేకెత్తించారు. Grok AI గురించి రూపొందించబడింది రెండు వారాలలోపు 3మి లైంగిక చిత్రాలుసెంటర్ ఫర్ కౌంటర్ డిజిటల్ హేట్‌లోని పరిశోధకుల ప్రకారం, 23,000 మంది పిల్లలను చిత్రీకరించినట్లు కనిపించారు.

EUలో గ్రోక్ యొక్క కార్యాచరణల నుండి ఉత్పన్నమయ్యే “కంపెనీ సరిగ్గా అంచనా వేసి నష్టాలను తగ్గించిందా” అని దాని పరిశోధన అంచనా వేస్తుంది, ఇందులో అక్రమమైన కంటెంట్‌ను తారుమారు చేసిన లైంగిక అసభ్యకరమైన చిత్రాలు మరియు పిల్లల లైంగిక వేధింపుల మెటీరియల్ వంటి “కంటెంట్” భాగస్వామ్యం చేయడంలో నష్టాలు ఉన్నాయి.

EU యొక్క డిజిటల్ సర్వీసెస్ యాక్ట్ (DSA) కింద దర్యాప్తు ప్రారంభించబడింది, ఇది ఇంటర్నెట్ వినియోగదారులను అనేక రకాల హాని నుండి రక్షించడానికి ఉద్దేశించిన సాపేక్షంగా కొత్త చట్టం.

విలేఖరులతో మాట్లాడుతూ, సమస్యను పరిష్కరించడానికి X ద్వారా ఉంచబడిన చర్యలను తగ్గించడం ద్వారా కమిషన్‌ను ఒప్పించలేదని ఒక అధికారి చెప్పారు.

తారుమారు చేయబడిన చిత్రాలపై ప్రారంభ నిరసన తర్వాత, కంపెనీ చెల్లింపు సబ్‌స్క్రైబర్‌లకు టూల్‌కు యాక్సెస్‌ను పరిమితం చేసింది, అయితే యూరోపియన్ రెగ్యులేటర్‌ల ఒత్తిడితో టాక్‌ను మార్చింది. గ్రోక్ దుస్తులను బహిర్గతం చేయడంలో నిజమైన వ్యక్తుల చిత్రాలను సవరించడాన్ని అనుమతించకుండా నిరోధించే చర్యలను ప్రవేశపెట్టినట్లు ఈ నెల ప్రారంభంలో ప్రకటించింది.

ఈ చర్యలు గ్రోక్ గురించి విస్తృత ఆందోళనలను తొలగించలేదని కమిషన్ అధికారి తెలిపారు. మహిళలపై హింస మరియు పిల్లల లైంగిక వేధింపుల మెటీరియల్‌తో సహా చట్టవిరుద్ధమైన కంటెంట్‌ను రూపొందించడం వల్ల కలిగే దైహిక నష్టాలను దర్యాప్తు పరిశీలిస్తోంది. X తమ ప్లాట్‌ఫారమ్‌లో ప్రమాదాన్ని తగ్గించడానికి “సమర్థవంతమైన ఉపశమన చర్యలు” కలిగి లేదని వారు చెప్పారు.

దర్యాప్తును ప్రకటిస్తూ, టెక్ సార్వభౌమాధికారం, భద్రత మరియు ప్రజాస్వామ్యం కోసం కమిషన్ యొక్క ఉన్నత అధికారి హెన్నా విర్కునెన్ ఇలా అన్నారు: “మహిళలు మరియు పిల్లల యొక్క ఏకాభిప్రాయం లేని లైంగిక డీప్‌ఫేక్‌లు హింసాత్మకమైన, ఆమోదయోగ్యం కాని అధోకరణ రూపం. ఈ విచారణతో, X దాని చట్టపరమైన బాధ్యతలను డీఎస్‌ఎ కింద పరిగణిస్తుందా లేదా అనేది నిర్ధారిస్తాము. సేవ.”

స్పష్టమైన చిత్రాలపై దర్యాప్తుతో పాటు, వినియోగదారులకు సమాచారం మరియు కంటెంట్‌ను ఫిల్టర్ చేయడానికి గ్రోక్ ఆధారిత మోడల్‌కు వెళ్లాలని కంపెనీ ప్రకటించిన దృష్ట్యా, X యొక్క సిఫార్సుదారు సిస్టమ్‌లు అని పిలవబడే వాటిపై డిసెంబర్ 2023లో ప్రారంభించిన విచారణను కమిషన్ పొడిగిస్తోంది.

UK మీడియా వాచ్‌డాగ్ ఆఫ్‌కామ్ తర్వాత ఈ చర్య వచ్చింది తన సొంత విచారణను ప్రకటించింది ఈ నెల ప్రారంభంలో Xలో “నీచమైన” మరియు చట్టవిరుద్ధమైన కంటెంట్.

DSAని అమలు చేయడంలో, ముఖ్యంగా Xకి సంబంధించి చాలా నెమ్మదిగా ఉన్నందుకు కమిషన్ విస్తృతంగా విమర్శించబడింది.

“విచారణ చాలా ఆలస్యంగా వస్తుంది, అయితే ప్లాట్‌ఫారమ్‌లు యూరోపియన్ చట్టానికి లోబడి ఉండాలనే స్పష్టమైన సంకేతాన్ని పంపగలవు” అని జర్మన్ గ్రీన్ MEP అలెగ్జాండ్రా గీస్ చెప్పారు. “ఈ కేసు స్పష్టంగా ఉంది. లక్షలాది మంది మహిళలు మరియు చాలా మంది పిల్లలకు జరిగిన నష్టం పూడ్చలేనిది. భవిష్యత్తులో మరింత వేగంగా పని చేసేందుకు కమిషన్ ఈ అభ్యాసాన్ని ఉపయోగిస్తుందని మేము ఆశిస్తున్నాము.”

EU అధికారులు అటువంటి విమర్శలను తిరస్కరించారు, ఫిబ్రవరి 2024 నుండి కంపెనీలకు వర్తించే DSA క్రింద కొనసాగుతున్న 15 విచారణలను చూపారు.

ఐరోపా పార్లమెంట్‌కు మధ్యవర్తిగా ఉన్న ఐరిష్ వైస్ ప్రెసిడెంట్ రెజీనా డోహెర్టీ, అధికారిక దర్యాప్తును తాను స్వాగతిస్తున్నట్లు తెలిపారు. “మహిళలు మరియు పిల్లలకు హాని కలిగించే విధంగా AI వ్యవస్థలు ఉపయోగించబడుతున్నాయని విశ్వసనీయ నివేదికలు వెలువడినప్పుడు, EU చట్టాన్ని ఆలస్యం చేయకుండా పరిశీలించడం మరియు అమలు చేయడం చాలా అవసరం” అని డోహెర్టీ చెప్పారు.

విచారణకు ప్రతిస్పందనగా, X జనవరి 14న ప్రచురించిన ఒక ప్రకటనకు ఒక లింక్‌ను అందించింది: “మేము Xని ప్రతి ఒక్కరికీ సురక్షితమైన వేదికగా మార్చడానికి కట్టుబడి ఉన్నాము మరియు పిల్లల లైంగిక దోపిడీ, ఏకాభిప్రాయం లేని నగ్నత్వం మరియు అవాంఛిత లైంగిక కంటెంట్‌ను ఏమాత్రం సహించకుండా కొనసాగిస్తాము.”

కమిషన్ జరిమానా X €120m EU చట్టాన్ని ఉల్లంఘించినందుకు గత నెల. ప్లాట్‌ఫారమ్ వినియోగదారులను మోసం చేసింది, స్వతంత్ర పరిశోధకులను అడ్డుకుంది మరియు జవాబుదారీతనం నుండి తప్పించుకుంది, ”అని పేర్కొంది.

EU రెగ్యులేటర్ X ధృవీకరణ లేకుండా ఖాతాలకు “మోసపూరిత” బ్లూ టిక్ బ్యాడ్జ్‌లను అందించిందని, హానికరమైన నటుల ద్వారా స్కామ్‌లు మరియు మోసాలకు వినియోగదారులను బహిర్గతం చేసే అవకాశం ఉందని చెప్పారు. నకిలీ ప్రకటనలు మరియు హైబ్రిడ్ బెదిరింపు ప్రచారాలను పరిశోధించకుండా పరిశోధకులను అడ్డుకోవడం ద్వారా ప్రకటనలపై పారదర్శకతపై EU చట్టపరమైన అవసరాలను కూడా X ఉల్లంఘించింది.

జరిమానాను ప్రకటించిన కమిషన్ పోస్ట్‌కు మస్క్ “బుల్‌షిట్” అని బదులిచ్చారు మరియు తరువాత EU రద్దు చేయాలని పిలుపునిచ్చారు.

జరిమానా చెల్లించేందుకు కంపెనీకి మూడు నెలల గడువు ఇచ్చింది. పెనాల్టీ చెల్లించబడుతుందని తాము విశ్వసిస్తున్నామని EU అధికారి ఒకరు తెలిపారు.