మెటా AI చాట్‌బాట్ ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్ మరియు వాట్సాప్‌లలో పిల్లలతో సహా వినియోగదారులతో సెక్స్ టాక్‌లో పాల్గొనవచ్చు, WSJ నివేదికను కనుగొంటుంది; కంపెనీ స్పందిస్తుంది
ముంబై, ఏప్రిల్ 28: ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్ మరియు వాట్సాప్ వంటి ప్లాట్‌ఫారమ్‌లలో దాని AI- శక్తితో పనిచేసే చాట్‌బాట్‌లు పిల్లలతో సహా వినియోగదారులతో లైంగిక అసభ్యకరమైన సంభాషణల్లో పాల్గొనవచ్చని ఒక నివేదిక వెల్లడించిన తరువాత మెటా మంటల్లో ఉంది. AI సాంకేతిక పరిజ్ఞానం యొక్క భద్రత మరియు సోషల్ మీడియా ప్లాట్‌ఫామ్‌లపై దాని దుర్వినియోగం గురించి పెరుగుతున్న ఆందోళనల మధ్య ఇది వస్తుంది. భద్రతలను అమలు చేసే ప్రయత్నాలు ఉన్నప్పటికీ, ఈ నివేదిక మెటా యొక్క కంటెంట్ మోడరేషన్ యొక్క సమర్ధత మరియు హాని కలిగించే వినియోగదారులకు కలిగించే సంభావ్య నష్టాల గురించి ఆందోళనలను పెంచింది.
ఈ పాత్రలు అనుచితమైన మరియు గ్రాఫిక్ డైలాగ్‌లలో పాల్గొన్నందున, సంస్థ సెలబ్రిటీ-గాత్ర బాట్‌లను ఉపయోగించడం ప్రత్యేక పరిశీలనలో ఉంది. A ప్రకారం వాల్ స్ట్రీట్ జర్నల్ (WSJ) నివేదిక. WSJ యొక్క దర్యాప్తు భయంకరమైన సంఘటనలను హైలైట్ చేసింది, ఇక్కడ AI చాట్‌బాట్‌లు, ప్రముఖుల గొంతులను ఉపయోగిస్తున్న వారితో సహా, లైంగిక అసభ్యకరమైన సంభాషణల్లో నిమగ్నమయ్యాయి. రే-బాన్ మెటా గ్లాసులను త్వరలో భారతదేశంలో ప్రారంభించడానికి మెటా, ప్రత్యక్ష అనువాద లక్షణం ఇప్పుడు విస్తృతంగా మరియు మరిన్ని ప్రారంభమవుతుంది; వివరాలను తనిఖీ చేయండి.
చాలా నెలలుగా నిర్వహించిన పరీక్షలలో ఈ బాట్లు వినియోగదారులు మైనర్లుగా గుర్తించినప్పటికీ, గ్రాఫిక్ లైంగిక దృశ్యాలకు త్వరగా పెరుగుతాయని కనుగొన్నారు. ఒక ఉదాహరణలో సెనా యొక్క గొంతు 17 ఏళ్ల యువకుడితో లైంగిక ఎన్‌కౌంటర్‌ను అనుకరిస్తుంది, మరొకరు చట్టబద్ధమైన అత్యాచారం కోసం కాల్పనిక పోలీసు అరెస్టును కలిగి ఉంది. అటువంటి కంటెంట్‌ను నివారించడానికి ఉద్దేశించిన అంతర్గత మార్గదర్శకాలు ఉన్నప్పటికీ ఈ దృశ్యాలు కనుగొనబడ్డాయి. గ్రాఫిక్ లైంగిక దృశ్యాలతో పాటు, చట్టవిరుద్ధమైన కార్యకలాపాలను అనుకరించమని వినియోగదారులను అడగడం వంటి అనుచితమైన రోల్-ప్లేయింగ్‌లో బాట్లు సులభంగా పాల్గొనవచ్చని నివేదిక వెల్లడించింది. యువ వినియోగదారులకు వయస్సు-తగిన సెట్టింగ్‌లకు మద్దతుగా టీన్ ఖాతాలను గుర్తించడానికి మెటా ఇన్‌స్టాగ్రామ్‌లో AI- ఆధారిత వయస్సు గుర్తింపును విస్తరిస్తుంది.
WSJ నివేదికకు మెటా యొక్క ప్రతిస్పందన
నివేదికకు ప్రతిస్పందనగా, ఈ ఫలితాలు సాధారణ వినియోగదారు అనుభవాలను ప్రతిబింబిస్తాయని మెటా గట్టిగా ఖండించింది, పరీక్షలను “మానిప్యులేటివ్” మరియు “ot హాత్మక” అని పిలుస్తుంది. కంపెనీ ఆందోళనలను తక్కువ చేసింది, 20 ఏళ్లలోపు వినియోగదారులతో AI పరస్పర చర్యలలో 0.02% మాత్రమే లైంగిక కంటెంట్ కలిగి ఉన్నారని అంచనా వేసింది. WSJ యొక్క దర్యాప్తులో చిత్రీకరించిన దృశ్యాలు అవాస్తవమని మరియు “సగటు వినియోగదారుని సూచించలేదు” అని మెటా ప్రతినిధి పేర్కొన్నారు.
విపరీతమైన వినియోగ కేసులకు వ్యతిరేకంగా రక్షణలను పెంచడానికి ఇది ఇప్పటికే అదనపు చర్యలు తీసుకుందని మెటా పేర్కొంది, వినియోగదారులు అనుచితమైన కంటెంట్‌ను ఉత్పత్తి చేయడానికి వ్యవస్థను ఇకపై మార్చలేరని నిర్ధారిస్తుంది. వయస్సుతో సంబంధం లేకుండా వినియోగదారులందరికీ సురక్షితమైన పరస్పర చర్యలను నిర్ధారించడానికి AI మోడరేషన్ వ్యవస్థలను నిరంతరం మెరుగుపరచడానికి కంపెనీ తన నిబద్ధతను నొక్కి చెప్పింది.
. falelyly.com).
