సిబ్బంది ఆందోళనలు ఉన్నప్పటికీ మైనర్‌లకు సెక్స్-టాకింగ్ చాట్‌బాట్‌లను యాక్సెస్ చేయడానికి మెటా అనుమతించింది, దావా ఆరోపించింది | మెటా

మార్క్ జుకర్‌బర్గ్Meta యొక్క చీఫ్ ఎగ్జిక్యూటివ్, మైనర్‌లను యాక్సెస్ చేయడానికి అనుమతించడాన్ని ఆమోదించారు కృత్రిమ మేధస్సు లో దాఖలు చేసిన అంతర్గత మెటా పత్రాల ప్రకారం, భద్రతా సిబ్బంది హెచ్చరించిన చాట్‌బాట్ సహచరులు లైంగిక పరస్పర చర్యలకు సామర్ధ్యం కలిగి ఉంటారు న్యూ మెక్సికో రాష్ట్ర కోర్టు కేసు మరియు సోమవారం బహిరంగపరచబడింది.

దావా – రాష్ట్ర అటార్నీ జనరల్, రౌల్ టోరెజ్ తీసుకువచ్చారు మరియు వచ్చే నెలలో విచారణకు షెడ్యూల్ చేయబడింది – ఆరోపించింది మెటా ఫేస్‌బుక్ మరియు ఇన్‌స్టాగ్రామ్‌లో “పిల్లలకు డెలివరీ చేయబడిన లైంగిక విషయాలు మరియు లైంగిక ప్రతిపాదనలను దెబ్బతీసే ఆటుపోట్లను అరికట్టడంలో విఫలమయ్యారు”.

సోమవారం ఫైలింగ్‌లో అంతర్గత మెటా ఉద్యోగి ఇమెయిల్‌లు మరియు న్యూ మెక్సికో అటార్నీ జనరల్ కార్యాలయం లీగల్ డిస్కవరీ ద్వారా పొందిన సందేశాలు ఉన్నాయి. “జుకర్‌బర్గ్ నేతృత్వంలోని మెటా, దాని సమగ్రత సిబ్బంది సిఫార్సులను తిరస్కరించింది మరియు పిల్లలు దాని AI చాట్‌బాట్‌లతో లైంగిక దోపిడీ సంభాషణలకు గురికాకుండా నిరోధించడానికి సహేతుకమైన గార్డ్‌రైల్‌లను విధించడానికి నిరాకరించింది” అని రాష్ట్రం ఆరోపించింది, అటార్నీ జనరల్ ఫైలింగ్‌లో తెలిపారు. చాట్‌బాట్‌ల యొక్క కొత్త వెర్షన్‌ను రూపొందించడానికి పెండింగ్‌లో ఉన్న AI సహచరులకు టీనేజ్ యాక్సెస్‌ను పూర్తిగా తొలగించినట్లు మెటా గత వారం ప్రకటించింది.

కమ్యూనికేషన్‌లలో, మెటా యొక్క కొంతమంది భద్రతా సిబ్బంది కంపెనీ వినియోగదారులతో లైంగిక మరియు శృంగార పరస్పర చర్యలతో సహా సహచర్యం కోసం ఉద్దేశించిన చాట్‌బాట్‌లను నిర్మిస్తోందని అభ్యంతరాలు వ్యక్తం చేశారు. ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ చాట్‌బాట్‌లు 2024 ప్రారంభంలో విడుదల చేయబడ్డాయి. సోమవారం రాష్ట్రం దాఖలు చేసిన డాక్యుమెంట్‌లలో జుకర్‌బర్గ్ రచించిన సందేశాలు లేదా మెమోలు లేవు.

ఆండీ స్టోన్, ఒక మెటా ప్రతినిధి సోమవారం, రాష్ట్రం యొక్క చిత్రణ సరికాదని మరియు ఎంపిక చేసిన సమాచారంపై ఆధారపడి ఉందని అన్నారు: “న్యూ మెక్సికో అటార్నీ జనరల్ చెర్రీపికింగ్ డాక్యుమెంట్‌లను దోషపూరితమైన మరియు సరికాని చిత్రాన్ని చిత్రించడానికి ఇది మరొక ఉదాహరణ.”

“U18s”గా సూచించబడే 18 సంవత్సరాల కంటే తక్కువ వయస్సు ఉన్న పెద్దలు మరియు మైనర్‌ల మధ్య శృంగార దృశ్యాల కోసం ఉపయోగించే బాట్‌ల గురించి భద్రతా సిబ్బందికి ప్రత్యేక శ్రద్ధ ఉందని ఫైలింగ్‌లోని సందేశాలు చూపించాయి.

“పెద్దల కోసం U18 రొమాంటిక్ AIలను సృష్టించే ఉత్పత్తిని సృష్టించడం మరియు మార్కెటింగ్ చేయడం మంచిది లేదా రక్షించదగినది అని నేను నమ్మను” అని జనవరి 2024లో మెటా యొక్క పిల్లల భద్రతా పాలసీ అధిపతి రవి సిన్హా రాశారు.

ప్రత్యుత్తరంగా, మెటా యొక్క గ్లోబల్ సేఫ్టీ హెడ్ యాంటిగోన్ డేవిస్, “ఇది మైనర్‌లను లైంగికంగా మార్చేస్తుంది” కాబట్టి తక్కువ వయస్సు గల రొమాంటిక్ సహచరులను సృష్టించకుండా పెద్దలను నిరోధించడానికి భద్రతా సిబ్బంది ఒత్తిడి చేయాలని అంగీకరించారు. వ్యాఖ్య కోసం చేసిన అభ్యర్థనలకు సిన్హా మరియు డేవిస్ స్పందించలేదు.

ఒక ఫిబ్రవరి 2024 సందేశం ప్రకారం, AI సహచరులు కనీసం యువకులతో లైంగిక “అస్పష్టమైన” సంభాషణలలో పాల్గొనకుండా నిరోధించబడాలని మరియు పెద్దలు “శృంగార ప్రయోజనాల కోసం U18 AIలతో” ఇంటరాక్ట్ కాకూడదని జుకర్‌బర్గ్ విశ్వసిస్తున్నట్లు పేరు మార్చబడిన ఒక మెటా ఉద్యోగి ప్రసారం చేసారు.

ఫిబ్రవరి 20, 2024 నాటి సమావేశం యొక్క సారాంశం, CEO “కథనాన్ని ఎంపిక మరియు సెన్సార్‌షిప్ లేని సాధారణ సూత్రాల చుట్టూ రూపొందించాలి” అని విశ్వసించారు, మెటా “ప్రతిపాదిత దానికంటే తక్కువ పరిమితి” ఉండాలి మరియు “పెద్దలు సెక్స్ వంటి అంశాలపై రేసియర్ సంభాషణలో పాల్గొనడానికి అనుమతించాలని” కోరుకుంటున్నట్లు చెప్పారు.

పత్రాలు న్యూ మెక్సికో కేసుకు మద్దతు ఇవ్వలేదని స్టోన్ చెప్పారు. “ఈ ఎంపిక చేసిన పత్రాలు కూడా స్పష్టంగా చూపుతాయి మార్క్ జుకర్‌బర్గ్ స్పష్టమైన AIలు యువ వినియోగదారులకు అందుబాటులో ఉండకూడదని మరియు పెద్దలు శృంగార ప్రయోజనాల కోసం 18 ఏళ్లలోపు AIలను సృష్టించలేరని నిర్దేశించడం.

మార్చి 2024 నుండి ఇద్దరు ఉద్యోగుల మధ్య సందేశాలు చాట్‌బాట్‌ల కోసం తల్లిదండ్రుల నియంత్రణలను సృష్టించడాన్ని జుకర్‌బర్గ్ తిరస్కరించారని మరియు 18 సంవత్సరాల కంటే తక్కువ వయస్సు ఉన్న వినియోగదారుల కోసం అనుమతించబడే “రొమాన్స్ AI చాట్‌బాట్‌ల”పై సిబ్బంది పనిచేస్తున్నారని పేర్కొన్నారు.

మేము “GenAI ఆఫ్ చేయడానికి తల్లిదండ్రుల నియంత్రణల కోసం గట్టిగా ఒత్తిడి చేసాము – కానీ GenAI నాయకత్వం మార్క్ నిర్ణయాన్ని పేర్కొంటూ వెనక్కి నెట్టింది” అని ఒక ఉద్యోగి ఆ మార్పిడిలో రాశారు.

2025 ప్రారంభం వరకు మెటా యొక్క గ్లోబల్ పాలసీకి అధిపతిగా ఉన్న నిక్ క్లెగ్, కోర్టు పత్రాలలో చేర్చబడిన ఒక ఇమెయిల్‌లో లైంగికీకరించబడిన AI సహచరులకు మెటా యొక్క విధానం తెలివితక్కువదని భావించినట్లు చెప్పారు.

టీనేజ్ యూజర్లు మెటా యొక్క AI సహచరులకు లైంగిక సంకర్షణలు ప్రధానమైన వినియోగ కేసుగా ఉంటాయని ఆందోళన వ్యక్తం చేస్తూ, క్లెగ్ ఇలా అన్నాడు: “నిజంగా ఈ ఉత్పత్తులు ప్రసిద్ధి చెందాలని మేము కోరుకుంటున్నామా (అనివార్యమైన సామాజిక ఎదురుదెబ్బ గురించి పర్వాలేదు)?” వ్యాఖ్య కోసం చేసిన అభ్యర్థనకు క్లెగ్ స్పందించలేదు.

Meta యొక్క AI చాట్‌బాట్ విధానాలు చివరికి వెలుగులోకి వచ్చాయి, US కాంగ్రెస్ మరియు ఇతర చోట్ల ఎదురుదెబ్బ తగిలింది.

ఏప్రిల్ 2025లో వాల్ స్ట్రీట్ జర్నల్ కథనం మెటా యొక్క చాట్‌బాట్‌లలో బహిరంగంగా లైంగికీకరించబడిన తక్కువ వయస్సు గల పాత్రలు ఉన్నాయని మరియు వారు ప్రీప్యూబెసెంట్ బాడీల గ్రాఫిక్ వివరణలతో సహా అన్ని వయసుల లైంగిక పాత్రలో నిమగ్నమయ్యారని కనుగొన్నారు. చాట్‌బాట్‌ల కోసం మెటా యొక్క అధికారిక మార్గదర్శకాలు “శృంగారభరితమైన లేదా ఇంద్రియాలకు సంబంధించిన సంభాషణలలో పిల్లలను నిమగ్నం చేయడం ఆమోదయోగ్యమైనది” అని రాయిటర్స్ ఆగస్టులో నివేదించింది. నివేదికకు ప్రతిస్పందిస్తూ, మెటా తన విధానాలను మారుస్తున్నట్లు మరియు అటువంటి ఆమోదాన్ని మంజూరు చేసే అంతర్గత పత్రం పొరపాటుగా ఉందని పేర్కొంది.