మైనర్లను లైంగికంగా మార్చడానికి AI సాధనాన్ని ఉపయోగించుకున్నందుకు xAI వినియోగదారుపై దావా వేసింది
టెర్రీ హార్వుడ్ భద్రతలను దాటవేయడానికి మరియు మైనర్లకు సంబంధించిన స్పష్టమైన డీప్ఫేక్లను రూపొందించడానికి xAIని దుర్వినియోగం చేశారని వ్యాజ్యం ఆరోపించింది.
15 జూలై 2026న ప్రచురించబడింది
ఎలోన్ మస్క్ యొక్క xAI ఈ సంవత్సరం ప్రారంభంలో మైనర్లను లైంగికంగా దోపిడీ చేసిన ఆరోపణలపై అరెస్టు చేయబడిన సౌత్ కరోలినా వ్యక్తిపై దావా వేసింది, అతను పిల్లవాడికి సంబంధించిన లైంగిక అసభ్యకరమైన కంటెంట్ను రూపొందించడానికి కంపెనీ AI సాధనాన్ని దుర్వినియోగం చేశాడని ఆరోపించింది.
మంగళవారం నాడు టెక్సాస్ ఫెడరల్ కోర్టులో దాఖలు చేసిన వ్యాజ్యం, టెర్రీ హార్వుడ్ మెటీరియల్ను రూపొందించడానికి కంపెనీ సేవా నిబంధనలను తెలిసి ఉల్లంఘించాడని ఆరోపించింది.
సిఫార్సు చేసిన కథలు
4 అంశాల జాబితాజాబితా ముగింపు
“[The] తప్పుడు గుర్తింపులను ఉపయోగించి ప్రతివాది బహుళ xAI ఖాతాలను తెరిచారు. xAI సేవా నిబంధనలు మరియు ఆమోదయోగ్యమైన వినియోగ విధానానికి కట్టుబడి ఉండటానికి స్పష్టంగా అంగీకరించినప్పటికీ, ప్రతివాది గ్రోక్ యొక్క అంతర్నిర్మిత భద్రతలను తప్పించుకోవడానికి తప్పుదారి పట్టించే ప్రాంప్ట్లను రూపొందించారు మరియు ఫోటో సబ్జెక్టుల జ్ఞానం లేదా సమ్మతి లేకుండా లైంగికేతర ఛాయాచిత్రాలను లైంగికంగా అసభ్యకరమైన చిత్రాలుగా మార్చడానికి సాధనాన్ని దుర్వినియోగం చేసారు,” అని 12-పేజీ ఫిర్యాదు పేర్కొంది.
హార్వుడ్ లైంగిక స్వభావం లేని పెద్దలు మరియు మైనర్ల చిత్రాలను అప్లోడ్ చేసి, ఆపై వారిని లైంగికీకరించే “డీప్ఫేక్లు” అని పిలవబడే వాటిని రూపొందించడానికి ప్రయత్నించాడని దావా ఆరోపించింది.
“ప్రతివాది యొక్క xAI ఖాతాల సమీక్ష, సంబంధిత వ్యవధిలో అనేక సందర్భాల్లో, ప్రతివాది చిత్రాల విషయాలను లైంగికంగా మార్చడానికి అటువంటి చిత్రాలను మార్చమని Grokకి ప్రాంప్ట్లను సమర్పించారు, Grok దానికి ప్రతిస్పందిస్తూ ప్రాంప్ట్లను అనుసరించడానికి నిరాకరించారు.
“ప్రతిస్పందనగా, ప్రతివాది గ్రోక్ యొక్క మోడరేషన్ ప్రయత్నాలను తప్పించుకునే ప్రయత్నంలో మార్పులతో కూడిన తదుపరి ప్రాంప్ట్లను పదేపదే సమర్పించారు.”
xAI కూడా ద్రవ్య నష్టాన్ని కోరుతోంది, అయితే కేసు డాలర్ మొత్తాన్ని పేర్కొనలేదు, అలాగే 2.6 మిలియన్ కంటే ఎక్కువ మంది వినియోగదారులను కలిగి ఉన్న ప్లాట్ఫారమ్ను ఉపయోగించకుండా హార్వుడ్ను శాశ్వతంగా నిషేధిస్తూ కోర్టు ఉత్తర్వులు జారీ చేసింది.
ఈ దావా అనేది AI కంపెనీ తన వినియోగదారులలో ఒకరికి వ్యతిరేకంగా తీసుకువచ్చిన మొట్టమొదటిది మరియు వినియోగదారులను ప్లాట్ఫారమ్లో మొదటి స్థానంలో ఈ రకమైన కంటెంట్ను సృష్టించడానికి అనుమతించినందుకు ప్రపంచవ్యాప్తంగా xAI యొక్క తీవ్రమైన పరిశీలనల మధ్య వస్తుంది.
గ్రోక్ వాషింగ్టన్లో చర్చనీయాంశంగా ఉన్నాడు, యూరోపియన్ రెగ్యులేటర్ల క్రాస్షైర్లలో ఉన్నాడు మరియు ప్లాట్ఫారమ్లో సృష్టించగల లైంగిక అసభ్యకరమైన కంటెంట్కు సంబంధించి మలేషియా మరియు ఇండోనేషియా రెండింటిలోనూ నిషేధాలను ఎదుర్కొన్నాడు.
ఈ సంవత్సరం ప్రారంభంలో, కస్తూరి వెనక్కి నెట్టాడు గ్రోక్ AI- రూపొందించిన పిల్లల లైంగిక చిత్రాలను, ముఖ్యంగా నగ్న చిత్రాలను రూపొందించాడనే ఆరోపణలపై.
“నేను [am] గ్రోక్ రూపొందించిన నగ్న వయస్సు గల చిత్రాల గురించి తెలియదు. అక్షరాలా సున్నా,” మస్క్ జనవరిలో ఒక X పోస్ట్లో చెప్పారు.
xAI యొక్క ఫిర్యాదు ప్రకారం, కంపెనీ “ఖాతా సస్పెన్షన్లు, ఖాతా రద్దులు మరియు అనుమానిత పిల్లల లైంగిక వేధింపుల మెటీరియల్ని నేషనల్ సెంటర్ ఫర్ మిస్సింగ్ & ఎక్స్ప్లోయిటెడ్ చిల్డ్రన్కు నివేదించడం ద్వారా ఉల్లంఘించిన వారిపై తన నిబంధనలను అమలు చేస్తుంది.”
ప్లాట్ఫారమ్ 52,000 కంటే ఎక్కువ ఖాతాలను సస్పెండ్ చేసిందని మరియు సంస్థకు 73,000 కంటే ఎక్కువ ఫిర్యాదులు చేసిందని, దీని ఫలితంగా 2026లోనే దాదాపు 250 మంది అరెస్టులు అయ్యాయని ఫిర్యాదు ఎత్తి చూపింది.
