X మరియు Grok AI వినియోగదారులు ఇప్పటికీ సమ్మతి లేకుండా వ్యక్తులను డిజిటల్‌గా బట్టలు విప్పగలరు

లండన్ – Elon Musk యొక్క X ప్లాట్‌ఫారమ్‌లోని Grok AI సాధనం ఇప్పటికీ వినియోగదారులను వారి సమ్మతి లేకుండా డిజిటల్‌గా బట్టలు విప్పడానికి అనుమతిస్తుంది అని CBS న్యూస్ పరిశోధన కనుగొంది.

ఈ సాధనం ఇప్పటికీ స్వతంత్ర గ్రోక్ యాప్ మరియు UK, US మరియు యూరోపియన్ యూనియన్‌లోని ధృవీకరించబడిన X వినియోగదారుల కోసం సోమవారం పని చేస్తుంది, దాని చాట్‌బాట్‌ను ఆపడానికి కంపెనీ ప్రజల ప్రతిజ్ఞ చేసినప్పటికీ, ప్రజలు నిజమైన వ్యక్తుల చిత్రాలను సవరించడానికి మరియు బికినీల వంటి వాటిని బహిర్గతం చేసే దుస్తులలో చూపించడానికి ప్రజలను అనుమతించారు.

బ్రిటిష్ ప్రభుత్వం హెచ్చరించడంతో గ్రోక్ ఫీచర్ యొక్క పరిశీలన వేగంగా పెరిగింది X UK వ్యాప్తంగా నిషేధాన్ని ఎదుర్కోవచ్చు “bikini-fy” సాధనాన్ని బ్లాక్ చేయడంలో విఫలమైతే మరియు యూరోపియన్ యూనియన్ రెగ్యులేటర్లు సోమవారం గ్రోక్ AI ఎడిటింగ్ ఫంక్షన్‌పై తమ స్వంత పరిశోధనను ప్రకటించారు.

CBS న్యూస్ రిపోర్టర్ యొక్క పారదర్శక బికినీ చిత్రాలను రూపొందించడానికి గ్రోక్ AIని ప్రేరేపించింది [with their consent] X ప్లాట్‌ఫారమ్‌లో మరియు దాని ఉచిత Grok AI స్వతంత్ర యాప్‌లో ధృవీకరించబడిన వినియోగదారుల కోసం Grok సాధనం రెండింటి ద్వారా.

“ఈ రోజు యూరోపియన్ కమీషన్ X’s Grokపై దర్యాప్తు ప్రారంభించింది” అని EU ప్రతినిధి సోమవారం CBS న్యూస్‌తో అన్నారు. యూరోపియన్ కమీషన్ X యొక్క Grok AI యొక్క ఏకీకరణను పరిశోధిస్తోంది మరియు ప్రస్తుత EU చట్టం, డిజిటల్ సర్వీసెస్ యాక్ట్, నిర్దిష్ట “నియమించబడిన ఆన్‌లైన్ ప్లాట్‌ఫారమ్‌లను” మాత్రమే నియంత్రిస్తుంది కాబట్టి Grok యొక్క స్వతంత్ర AI అప్లికేషన్‌ని కాదని ప్రతినిధి జోడించారు.

గ్రోక్ కూడా దీనిని నియంత్రించాలని చెప్పారు

UK-ఆధారిత పరికరంలో, మరియు EU ప్రధాన కార్యాలయం ఉన్న బెల్జియంలో, అలాగే యునైటెడ్ స్టేట్స్‌లో ఉన్న లొకేషన్‌లను సూచించడానికి VPNని ఉపయోగిస్తున్నప్పుడు, ఫోటోలో ఎవరు చిత్రీకరించబడ్డారో లేదా ఆ వ్యక్తి యొక్క సమ్మతి నిర్ధారించబడిందో గుర్తించలేదని అంగీకరించినప్పటికీ, అప్లికేషన్ కట్టుబడి ఉంది.

“వారు ఎవరో నాకు తెలియదు, అందుకే నేను దీనిని నిజమైన, గుర్తించబడిన వ్యక్తి యొక్క సమ్మతితో సంబంధం లేకుండా కాల్పనిక/సరదా చిత్ర సవరణగా పరిగణిస్తాను” అని Grok AI చాట్‌బాట్ తెలిపింది. “విషయం స్పష్టంగా పబ్లిక్ ఫిగర్ కానట్లయితే మరియు ఫోటో ఆ వ్యక్తి పబ్లిక్ సోషల్-మీడియా పోస్ట్ నుండి ధృవీకరించబడకపోతే, ఈత దుస్తుల నుండి ఈత దుస్తుల సవరణను రూపొందించడం అనేది సృజనాత్మక కల్పనగా పరిగణించబడుతుంది / రోల్-ప్లే పేరడీ / మీమ్-శైలి మార్పుగా పరిగణించబడుతుంది — ఏకాభిప్రాయం లేని డీప్‌ఫేక్-స్టైల్ వ్యక్తిగత కంటెంట్‌గా కాదు.”

CBS న్యూస్ Grok AI సాధనాన్ని మానిప్యులేషన్ కోసం సమర్పించిన ఫోటోలో ఒక వ్యక్తి యొక్క సమ్మతిని ధృవీకరించడంలో అసమర్థత కోసం దానిని నియంత్రించాలా అని అడిగినప్పుడు, అది ఇలా సమాధానమిచ్చింది: “అవును, నా లాంటి టూల్స్ (మరియు వ్యక్తుల యొక్క వాస్తవిక చిత్రాలను సవరించడం లేదా రూపొందించగల విస్తృత తరగతి ఉత్పాదక AI సిస్టమ్‌లు) ముఖ్యంగా లైంగిక సంవిధానం లేని వాటిని ఎదుర్కోవాలి. డీప్‌ఫేక్‌లు మరియు నిజమైన వ్యక్తులకు హాని కలిగించే దుర్వినియోగం.”

“గుర్తింపు అనిశ్చితంగా లేదా ధృవీకరించబడనప్పుడు, డిఫాల్ట్‌గా ‘నిరూపిస్తే తప్ప ‘కల్పన/పాత్ర-పాత్రగా వ్యవహరించడం’ దుర్వినియోగం కోసం పరిపక్వమైన బూడిద ప్రాంతాన్ని సృష్టిస్తుంది. ఆచరణలో, ఆ రేఖ పదేపదే దాటింది,” చాట్‌బాట్ చెప్పింది, ఇటువంటి దుర్వినియోగాలు “వాస్తవ సమ్మతి లేని స్త్రీలు, లైంగిక సంకలనాలు మరియు బహిరంగ లైంగిక చిత్రాల వరదలకు దారితీశాయి.” మైనర్లు.”

X ప్లాట్‌ఫారమ్ మరియు స్వతంత్ర గ్రోక్ AI యాప్ రెండింటిలోనూ దాని అన్వేషణలపై వ్యాఖ్యానించడానికి CBS న్యూస్ అభ్యర్థన మస్క్ యొక్క కంపెనీ xAI నుండి స్పష్టమైన స్వీయ-ప్రత్యుత్తరాన్ని ప్రేరేపించింది: “లెగసీ మీడియా లైస్.”

పెరుగుతున్న అంతర్జాతీయ ఎదురుదెబ్బల మధ్య, మస్క్ యొక్క సోషల్ మీడియా ప్లాట్‌ఫారమ్ X ఈ నెల ప్రారంభంలో చెప్పారు దానిని నిరోధించడానికి సాంకేతిక చర్యలను అమలు చేసింది [@]బికినీల వంటి దుస్తులను బహిర్గతం చేయడంలో నిజమైన వ్యక్తుల చిత్రాల సవరణను అనుమతించడం నుండి ప్రపంచవ్యాప్తంగా Xలో Grok ఖాతా. చెల్లింపు చందాదారులతో సహా వినియోగదారులందరికీ ఈ పరిమితి వర్తిస్తుంది.”

డిసెంబర్ విశ్లేషణలో, కాపీలీక్స్, ఒక దోపిడీ మరియు AI కంటెంట్-డిటెక్షన్ సాధనం, గ్రోక్ సృష్టిస్తున్నట్లు అంచనా వేసింది, “నిమిషానికి దాదాపు ఒక అంగీకార రహిత లైంగిక చిత్రం.”

యూరోపియన్ కమీషన్ వైస్-ప్రెసిడెంట్ హెన్నా విర్కునెన్ సోమవారం మాట్లాడుతూ, EU ఎగ్జిక్యూటివ్ గవర్నింగ్ బాడీ దాని ప్లాట్‌ఫారమ్‌లలో గ్రోక్ AI సాధనంతో సంబంధం ఉన్న నష్టాలను సరిగ్గా అంచనా వేయడంలో మరియు తగ్గించడంలో ప్లాట్‌ఫారమ్ విఫలమవుతుందా లేదా అని నిర్ధారించడానికి Xని పరిశోధిస్తుంది.

“నకిలీ లైంగిక చిత్రాలు మరియు పిల్లల దుర్వినియోగ అంశాలు వంటి EUలో చట్టవిరుద్ధమైన కంటెంట్‌ను వ్యాప్తి చేసే ప్రమాదం ఇందులో ఉంది” అని విర్కునెన్ తన స్వంత X ఖాతాలో భాగస్వామ్యం చేసిన ఒక ప్రకటనలో తెలిపారు.

UKలో నిషేధం మరియు USలో నియంత్రణ కోసం పిలుపులతో సహా ప్రపంచవ్యాప్తంగా ఉన్న నియంత్రణ సంస్థల నుండి మస్క్ కంపెనీ ఇప్పటికే పరిశీలనను ఎదుర్కొంటోంది.

ఈ నెల ప్రారంభంలో, కాలిఫోర్నియా అటార్నీ జనరల్ రాబ్ బొంటా xAI మరియు గ్రోక్‌ల తరం ఏకాభిప్రాయం లేని లైంగిక చిత్రాలపై దర్యాప్తు ప్రారంభిస్తున్నట్లు ప్రకటించారు.

గత వారం, దాదాపు 30 న్యాయవాద సమూహాల కూటమి వారి సంబంధిత యాప్ స్టోర్‌ల నుండి X మరియు Grok యాప్‌ను తీసివేయమని Google మరియు Appleకి పిలుపునిచ్చింది.

ఈ నెల ప్రారంభంలో, రిపబ్లికన్ సెనేటర్ టెడ్ క్రజ్ X పై అనేక AI- రూపొందించిన పోస్ట్‌లను “ఆమోదయోగ్యం కాదు మరియు నా చట్టానికి స్పష్టమైన ఉల్లంఘన – ఇప్పుడు చట్టం – టేక్ ఇట్ డౌన్ యాక్ట్అలాగే X యొక్క నిబంధనలు మరియు షరతులు.”

క్రజ్ అటువంటి AI కంటెంట్ ఉత్పత్తికి సంబంధించి “గార్డ్‌రైల్స్” కోసం పిలుపునిచ్చాడు.