మగ సహోద్యోగి పట్ల ఆమె వివక్ష చూపిందనే ఆరోపణలపై అగ్రశ్రేణి అంతర్గత విమర్శకుడు తొలగించబడినందున ChatGPT ‘NSFW మోడ్’ కోసం బూస్ట్

OpenAI ప్రణాళికాబద్ధమైన నవీకరణ యొక్క రోల్ అవుట్ గురించి ఆమె ఆందోళన వ్యక్తం చేసిన తర్వాత దాని అగ్ర అంతర్గత విమర్శకులలో ఒకరిని తొలగించింది AI పోర్నోగ్రఫీని రూపొందించడానికి ChatGPT వినియోగదారులను అనుమతించండి.

ర్యాన్ బీర్‌మీస్టర్ జనవరి ప్రారంభంలో ఉత్పత్తి పాలసీ వైస్ ప్రెసిడెంట్‌గా ఆమె పదవి నుండి తొలగించబడ్డారు, సెలవు తర్వాత, కంపెనీ ఉద్యోగం గురించి తెలిసిన వ్యక్తులు వాల్ స్ట్రీట్ జర్నల్‌తో అన్నారు.

ఉద్యోగాల వేవ్‌లో భాగంగా ఆమె 2024 మధ్యలో OpenAIలో పని చేయడం ప్రారంభించింది మెటా తమను తాము లోపల నుండి టెక్ కంపెనీలను మార్చడానికి ప్రయత్నిస్తున్నట్లు భావించేవారు, అంతర్గత వ్యక్తులు చెప్పారు మరియు ఆమె కంపెనీలో మహిళల కోసం పీర్-మెంటర్‌షిప్ ప్రోగ్రామ్‌ను ప్రారంభించింది.

ఒక ప్రకటనలో, కంపెనీ ప్రతినిధి మాట్లాడుతూ, ఆమె ‘ఓపెన్‌ఏఐలో ఉన్న సమయంలో ఆమె విలువైన సహకారాన్ని అందించింది మరియు కంపెనీలో పనిచేస్తున్నప్పుడు ఆమె లేవనెత్తిన ఏ సమస్యతోనూ ఆమె నిష్క్రమణకు సంబంధం లేదు.’

దానికి బదులుగా ఆమె తొలగింపు అనేది ఒక మగ సహోద్యోగి పట్ల బీర్‌మీస్టర్ లైంగిక వివక్షకు సంబంధించినదని పేర్కొంది – ఆమె దానిని ఖండించింది.

‘నేను ఎవరిపైనా వివక్ష చూపుతున్నాననే ఆరోపణ పూర్తిగా అబద్ధం’ అని ఆమె జర్నల్‌తో అన్నారు.

OpenAIలో, Beiermeister ఉత్పత్తి విధాన బృందానికి నాయకత్వం వహించారు, ఇది వ్యక్తులు కంపెనీ ఉత్పత్తులను ఎలా ఉపయోగించవచ్చనే దాని కోసం నియమాలను అభివృద్ధి చేస్తుంది మరియు ఈ విధానాల కోసం అమలు విధానాలను రూపొందిస్తుంది.

ChatGPTలో AI శృంగారాన్ని సృష్టించడానికి మరియు X-రేటెడ్ సంభాషణలను అనుమతించడానికి వినియోగదారులను అనుమతించే ‘అడల్ట్ మోడ్’ యొక్క సంస్థ యొక్క ప్రణాళికాబద్ధమైన ప్రారంభానికి ముందే ఆమె రద్దు చేయబడింది.

ChatGPTలో AI శృంగారాన్ని సృష్టించడానికి మరియు X-రేటెడ్ సంభాషణలను అనుమతించడానికి వినియోగదారులను అనుమతించే ‘అడల్ట్ మోడ్’ యొక్క సంస్థ యొక్క ప్రణాళికాబద్ధమైన ప్రారంభం గురించి ఆమె ఆందోళన వ్యక్తం చేసింది.

CEO సామ్ ఆల్ట్‌మాన్ మొదట అక్టోబర్‌లో నవీకరణను ప్రకటించారు మరియు ఈ సంవత్సరం మొదటి త్రైమాసికంలో దీనిని ప్రారంభించాలని నిర్ణయించారు.

‘మేము మానసిక ఆరోగ్య సమస్యలతో జాగ్రత్తగా ఉన్నామని నిర్ధారించుకోవడానికి చాట్‌జిపిటిని చాలా పరిమితం చేసాము. మానసిక ఆరోగ్య సమస్యలు లేని చాలా మంది వినియోగదారులకు ఇది తక్కువ ఉపయోగకరంగా/ఆహ్లాదకరంగా ఉందని మేము గ్రహించాము, అయితే సమస్య యొక్క తీవ్రతను దృష్టిలో ఉంచుకుని మేము ఈ హక్కును పొందాలనుకుంటున్నాము’ అని ఆల్ట్‌మాన్ తన ప్రకటనలో తెలిపారు.

‘ఇప్పుడు మేము తీవ్రమైన మానసిక ఆరోగ్య సమస్యలను తగ్గించగలిగాము మరియు కొత్త సాధనాలను కలిగి ఉన్నాము, మేము చాలా సందర్భాలలో ఆంక్షలను సురక్షితంగా సడలించగలుగుతున్నాము.’

కంపెనీ ‘వయస్సు-నిర్ధారణను మరింత పూర్తిగా మరియు మా “వయోజన వినియోగదారులను పెద్దల వలె భావించండి” సూత్రంలో భాగంగా విడుదల చేస్తున్నందున, ధృవీకరించబడిన పెద్దల కోసం శృంగార వంటి మరిన్నింటిని మేము అనుమతిస్తాము.’

అయితే అడల్ట్ మోడ్ ఆలోచనను తాను వ్యతిరేకిస్తున్నానని మరియు అది వినియోగదారులకు హానికరమైన ప్రభావాన్ని చూపుతుందని భయపడుతున్నానని ఆమెను తొలగించే ముందు బీర్‌మీస్టర్ సహోద్యోగులతో చెప్పారు, సంభాషణలు తెలిసిన వారు జర్నల్‌తో చెప్పారు.

పిల్లల-దోపిడీ కంటెంట్‌ను ఆపడానికి OpenAIకి తగినంత బలమైన యంత్రాంగాలు ఉన్నాయని తాను నమ్మడం లేదని మరియు టీనేజ్ వినియోగదారుల నుండి పెద్దల కంటెంట్‌ను కంపెనీ తగినంతగా నిరోధించలేదని ఆమె ఆందోళన చెందింది.

కంపెనీలోని ఇతరులు కూడా ఇదే విధమైన ఆందోళనలను లేవనెత్తారు, OpenAI క్రమం తప్పకుండా సమావేశమయ్యే ‘శ్రేయస్సు మరియు AI’పై సలహా మండలి సభ్యులు అడల్ట్ మోడ్‌పై తమ వ్యతిరేకతను వ్యక్తం చేస్తున్నారు మరియు దానిని పునఃపరిశీలించవలసిందిగా ఎగ్జిక్యూటివ్‌లను కోరారు, వర్గాలు తెలిపాయి.

ఎలా అని అధ్యయనం చేసిన సంస్థ పరిశోధకులు ప్రజలు అనారోగ్యకరమైన అనుబంధాలను ఏర్పరుస్తారు చాట్‌బాట్‌లు కూడా కొత్త ఫీచర్‌కు వ్యతిరేకంగా మాట్లాడాయి – లైంగిక కంటెంట్‌ను అనుమతించడం వల్ల ఆ భావాలను తీవ్రతరం చేయవచ్చని వారి ఆందోళనలను లేవనెత్తారు.

OpenAI CEO సామ్ ఆల్ట్‌మాన్ (చిత్రం) అక్టోబర్‌లో ప్రకటించారు, ChatGPT దాని ‘వయోజన వినియోగదారులను పెద్దల వలె భావించండి’ సూత్రంలో భాగంగా AI- రూపొందించిన ఎరోటికాను రూపొందించడానికి అనుమతిస్తుంది.

ఇంకా OpenAI యొక్క పోటీదారులు కొందరు ఎలోన్ మస్క్ యొక్క xAIతో పరిపక్వ కంటెంట్ కోసం ఇప్పటికే అనుమతించారు వేసవిలో సెక్సీ చాట్‌బాట్‌ని పరిచయం చేస్తున్నాము.

అని ఒక గోతిక్, యానిమే-స్టైల్ రూపాన్ని కలిగి ఉన్న పూర్తి స్థాయి, అందగత్తె జుట్టు గల AI సహచరుడు.

ఆమె 22 ఏళ్ల వయస్సులో ప్రవర్తించేలా ప్రోగ్రామ్ చేయబడింది మరియు కొన్ని సమయాల్లో వినియోగదారుతో సరసమైన పరిహాసంలో పాల్గొంటుంది.

చాట్ బాట్ NSFW మోడ్‌ను కలిగి ఉందని వినియోగదారులు నివేదించారు – ‘పని కోసం సురక్షితం కాదు’ – ఒకసారి అని దాని పరస్పర చర్యలలో ‘స్థాయి మూడు’కి చేరుకున్నారు.

ఈ పాయింట్ తర్వాత, చాట్ బోట్ స్లింకీ లోదుస్తులు ధరించి కనిపించే అదనపు ఎంపికను కలిగి ఉంటుంది.

అయితే, అదే సమయంలో, మస్క్ చేయాల్సి వచ్చింది అతని గ్రోక్ చాట్‌బాట్‌ని నవీకరించండి డీప్‌ఫేక్‌ల సృష్టికి ఎదురుదెబ్బలు తగిలాయి, అది ప్రజలను ‘బహిర్గత దుస్తులు’గా మార్చింది.

అందరూ చూడగలిగేలా తమ ఇష్టానికి వ్యతిరేకంగా రాజీపడే చిత్రాలను రూపొందించడంలో AI యొక్క సామర్థ్యాన్ని తాము ఉల్లంఘించామని మహిళలు చెప్పారు.

‘బికినీల వంటి దుస్తులను బహిర్గతం చేయడంలో నిజమైన వ్యక్తుల చిత్రాలను సవరించడాన్ని Grok ఖాతా అనుమతించకుండా నిరోధించడానికి మేము సాంకేతిక చర్యలను అమలు చేసాము’ అని X గత నెలలో ప్రకటించింది.

‘ఈ పరిమితి చెల్లింపు చందాదారులతో సహా వినియోగదారులందరికీ వర్తిస్తుంది.’

మహిళలు మరియు పిల్లల దుస్తులను వారి అనుమతి లేకుండా తొలగించడానికి గ్రోక్‌ను ఉపయోగించడాన్ని చూసిన ఒక ట్రెండ్‌పై విస్తృత అసహ్యం మధ్య ఇది ​​వచ్చింది.

UK యొక్క ఇంటర్నెట్ రెగ్యులేటర్, సమాచార కమిషనర్ కార్యాలయం (ICO), ఇప్పుడు ఉంది విచారణ ప్రారంభించింది గ్రోక్ వ్యక్తిగత సమాచారాన్ని ‘హానికరమైన లైంగిక చిత్రం మరియు వీడియో కంటెంట్‌ని రూపొందించడానికి’ ఉపయోగించడంపై xAI లోకి.

‘అటువంటి కంటెంట్ యొక్క నివేదించబడిన సృష్టి మరియు సర్క్యులేషన్ UK డేటా రక్షణ చట్టం కింద తీవ్రమైన ఆందోళనలను లేవనెత్తుతుంది మరియు ప్రజలకు గణనీయమైన హాని కలిగించే ప్రమాదాన్ని అందిస్తుంది’ అని అది పేర్కొంది.

దాని పరిశోధనలో, ICO దుర్వినియోగానికి ఉపయోగించబడకుండా నిరోధించడానికి గ్రోక్ రూపకల్పనలో భద్రతలు నిర్మించబడ్డాయా లేదా అని పరిశీలిస్తామని చెప్పారు.

UK యొక్క ఆఫ్‌కామ్ రెగ్యులేటింగ్ బాడీ కూడా సైట్‌లో డీప్‌ఫేక్‌లను భాగస్వామ్యం చేయడానికి అనుమతించడం ద్వారా దేశం యొక్క ఆన్‌లైన్ భద్రతా చట్టాన్ని X ఉల్లంఘించిందో లేదో అంచనా వేయడం కొనసాగిస్తోంది మరియు యూరోపియన్ కమీషన్ చాట్‌బాట్‌పై దాని స్వంత విచారణను నిర్వహిస్తోంది.

డైలీ మెయిల్ వ్యాఖ్య కోసం OpenAIకి చేరుకుంది.