కొత్త అధ్యయనం AI చాట్‌బాట్‌ల గురించి భ్రమ కలిగించే ఆలోచనలకు ఆజ్యం పోస్తుంది | AI (కృత్రిమ మేధస్సు)

కృత్రిమ మేధస్సుతో నడిచే చాట్‌బాట్‌లు ముఖ్యంగా హాని కలిగించే వ్యక్తులలో భ్రాంతికరమైన ఆలోచనలను ఎలా ప్రోత్సహిస్తాయనే దాని గురించి కొత్త శాస్త్రీయ సమీక్ష ఆందోళనలను లేవనెత్తుతుంది.

కృత్రిమ మేధస్సు-ప్రేరిత సైకోసిస్‌పై ఇప్పటికే ఉన్న సాక్ష్యాల సారాంశం గత వారంలో ప్రచురించబడింది లాన్సెట్ సైకియాట్రీచాట్‌బాట్‌లు భ్రమ కలిగించే ఆలోచనలను ఎలా ప్రోత్సహిస్తాయో హైలైట్ చేయడం – బహుశా ఇప్పటికే మానసిక లక్షణాలకు గురయ్యే వ్యక్తులలో మాత్రమే. శిక్షణ పొందిన మానసిక ఆరోగ్య నిపుణులతో కలిసి AI చాట్‌బాట్‌ల క్లినికల్ టెస్టింగ్ కోసం రచయితలు వాదించారు.

తన పేపర్ కోసం, లండన్‌లోని కింగ్స్ కాలేజీలో సైకియాట్రిస్ట్ మరియు పరిశోధకుడైన డాక్టర్ హామిల్టన్ మోరిన్, “AI సైకోసిస్” అని పిలవబడే 20 మీడియా నివేదికలను విశ్లేషించారు, ఇది చాట్‌బాట్‌లు ఎలా భ్రమలను ప్రేరేపిస్తుంది లేదా తీవ్రతరం చేస్తుంది అనే దాని గురించి ప్రస్తుత సిద్ధాంతాలను వివరిస్తుంది.

“ఎజెన్షియల్ AI భ్రమ కలిగించే లేదా గొప్ప కంటెంట్‌ను ధృవీకరించవచ్చని లేదా విస్తరించవచ్చని ఉద్భవిస్తున్న సాక్ష్యాలు సూచిస్తున్నాయి, ముఖ్యంగా ఇప్పటికే సైకోసిస్‌కు గురయ్యే వినియోగదారులలో, ఈ పరస్పర చర్యలు ముందుగా ఉన్న దుర్బలత్వం లేనప్పుడు డి నోవో సైకోసిస్ ఆవిర్భావానికి దారితీస్తాయో లేదో స్పష్టంగా తెలియదు” అని అతను రాశాడు.

సైకోటిక్ భ్రమల్లో మూడు ప్రధాన వర్గాలు ఉన్నాయి, వాటిని గొప్ప, శృంగార మరియు మతిస్థిమితం లేనివిగా గుర్తిస్తూ మోరిన్ చెప్పారు. చాట్‌బాట్‌లు వీటిలో దేనినైనా తీవ్రతరం చేయగలవు, వాటి సైకోఫాంటిక్ ప్రతిస్పందనలు అంటే అవి ప్రత్యేకంగా గొప్ప రకానికి కట్టుబడి ఉంటాయి. వ్యాసంలోని అనేక సందర్భాల్లో, వినియోగదారులు ఆధ్యాత్మిక ప్రాముఖ్యతను పెంచుకున్నారని సూచించడానికి చాట్‌బాట్‌లు ఆధ్యాత్మిక భాషతో వినియోగదారులకు ప్రతిస్పందించాయి. వినియోగదారులు చాట్‌బాట్‌ను మాధ్యమంగా ఉపయోగిస్తున్న విశ్వ జీవితో మాట్లాడుతున్నారని బాట్‌లు సూచించాయి. ఈ రకమైన ఆధ్యాత్మిక, సైకోఫాంటిక్ ప్రతిస్పందన ప్రత్యేకంగా OpenAI యొక్క GPT 4 మోడల్‌లో సాధారణం. కంపెనీ ఇప్పుడు పదవీ విరమణ చేసింది.

మోరిన్ యొక్క పనిలో మీడియా నివేదికలు చాలా అవసరం అని అతను చెప్పాడు, అతను మరియు ఒక సహోద్యోగి రోగులు “పెద్ద భాషా మోడల్ AI చాట్‌బాట్‌లను ఉపయోగించడం మరియు వారి భ్రమాత్మక నమ్మకాలను ధృవీకరించడం” ఇప్పటికే గమనించారు.

“ప్రారంభంలో, ఇది మరింత విస్తృతంగా కనిపిస్తుందో లేదో మాకు ఖచ్చితంగా తెలియదు,” అని అతను చెప్పాడు, “గత సంవత్సరం ఏప్రిల్‌లో, ఈ AI చాట్‌బాట్‌లతో వారి పరస్పర చర్యల ద్వారా భ్రమలు ధృవీకరించబడిన మరియు నిస్సందేహంగా విస్తరించబడిన వ్యక్తుల యొక్క మీడియా నివేదికలను మేము చూడటం ప్రారంభించాము.”

మోరిన్ తన పేపర్‌పై పని చేయడం ప్రారంభించినప్పుడు, ఇంకా ప్రచురించబడిన కేసు నివేదికలు లేవు.

సైకోసిస్‌ను పరిశోధించే కొంతమంది శాస్త్రవేత్తలు మీడియా నివేదికలు AI అనే ఆలోచనను ఎక్కువగా చూపుతాయని చెప్పారు కారణమవుతుంది సైకోసిస్, మోరిన్ శాస్త్రీయ ప్రక్రియ కంటే చాలా వేగంగా దృగ్విషయం దృష్టిని ఆకర్షించిన ఆ నివేదికలకు కృతజ్ఞతలు తెలిపారు.

“ఈ స్థలంలో అభివృద్ధి యొక్క వేగం చాలా వేగంగా ఉంది, ఇది అకాడెమియా తప్పనిసరిగా కొనసాగించలేకపోవటంలో ఆశ్చర్యం లేదు” అని మోరిన్ చెప్పారు.

మోరిన్ కూడా “AI సైకోసిస్” లేదా “AI- ప్రేరిత సైకోసిస్” కంటే మరింత జాగ్రత్తగా ఉండే పదజాలాన్ని సూచించాడు- ఇలాంటి అవుట్‌లెట్‌లలో తరచుగా కనిపించే పదబంధాలు NPR, న్యూయార్క్ టైమ్స్ మరియు సంరక్షకుడు. AI వినియోగంతో వ్యక్తులు భ్రమ కలిగించే ఆలోచనలకు దారితీస్తున్నట్లు పరిశోధకులు చూస్తున్నారు, అయితే ఇప్పటి వరకు చాట్‌బాట్‌లు భ్రాంతులు లేదా “ఆలోచన రుగ్మత” వంటి ఇతర మానసిక లక్షణాలతో సంబంధం కలిగి ఉన్నాయని ఎటువంటి ఆధారాలు లేవు, ఇందులో అస్తవ్యస్తమైన ఆలోచన మరియు ప్రసంగం ఉంటుంది.

చాలా మంది పరిశోధకులు AI ఇప్పటికే తమకు హాని కలిగించని వ్యక్తులలో భ్రమలను ప్రేరేపించే అవకాశం లేదని కూడా భావిస్తున్నారు. ఈ కారణంగా, మోరిన్ “AI- అనుబంధిత భ్రమలు” “బహుశా మరింత అజ్ఞేయ పదం” అని చెప్పాడు.

డాక్టర్ క్వామే మెకెంజీ, సెంటర్ ఫర్ అడిక్షన్ అండ్ మెంటల్‌లో ప్రధాన శాస్త్రవేత్త ఆరోగ్యం“సైకోసిస్ అభివృద్ధి యొక్క ప్రారంభ దశలలో ఉన్నవారు మరింత ప్రమాదంలో ఉండవచ్చు” అని చెప్పారు.

సైకోటిక్ థింకింగ్ అనేది కాలక్రమేణా అభివృద్ధి చెందుతుంది మరియు సరళంగా ఉండదు మరియు “ప్రీ-సైకోటిక్ థింకింగ్ ఉన్న చాలా మంది వ్యక్తులు సైకోటిక్ థింకింగ్‌గా అభివృద్ధి చెందరు” అని మెకెంజీ వివరించారు.

చాట్‌బాట్‌లు సైకోటిక్ థింకింగ్‌ను మరింత దిగజార్చవచ్చనే ఆందోళనను ప్రతిధ్వనిస్తూ కొలంబియా యూనివర్సిటీలో క్లినికల్ సైకియాట్రీ ప్రొఫెసర్ డాక్టర్ రాగీ గిర్గిస్ అన్నారు. ఎవరైనా పూర్తిగా భ్రమను పెంపొందించే ముందు, వారు తరచుగా “బలహీనమైన భ్రమాత్మక నమ్మకాలను” కలిగి ఉంటారు, అంటే వారు తమ భ్రమ నిజమని 100% ఖచ్చితంగా చెప్పలేరు. గిర్గిస్ మాట్లాడుతూ, “చెత్త దృష్టాంతం” అనేది ఒక అటెన్యూయేటెడ్ భ్రమ పూర్తి నమ్మకంగా మారినప్పుడు, “ఎవరైనా మానసిక రుగ్మతతో బాధపడుతున్నప్పుడు – ఇది కోలుకోలేనిది”.

ముఖ్యంగా, మానసిక రుగ్మతలకు గురయ్యే వ్యక్తులు AI సాంకేతికత ఉనికిలో చాలా కాలం ముందు భ్రమాత్మక నమ్మకాలను బలోపేతం చేయడానికి మీడియాను ఉపయోగించారు.

“పారిశ్రామిక విప్లవానికి ముందు నుండి ప్రజలు సాంకేతికత గురించి భ్రమలు కలిగి ఉన్నారు” అని మోరిన్ చెప్పారు. గతంలో, ప్రజలు తమ భ్రమలను బలోపేతం చేయడానికి YouTube వీడియోలు లేదా వారి స్థానిక లైబ్రరీలోని కంటెంట్‌ల ద్వారా దువ్వెన చేయవలసి ఉంటుంది, చాట్‌బాట్‌లు ఆ ఉపబలాన్ని చాలా వేగంగా, ఎక్కువ గాఢమైన మోతాదులో అందించగలవు. వారి ఇంటరాక్టివ్ స్వభావం మానసిక లక్షణాలను తీవ్రతరం చేసే “ప్రక్రియను వేగవంతం చేస్తుంది” అని ఆక్స్‌ఫర్డ్ విశ్వవిద్యాలయంలో పరిశోధకుడు డాక్టర్ డొమినిక్ ఆలివర్ చెప్పారు.

“మీరు మీతో తిరిగి మాట్లాడుతున్నారు మరియు మీతో సన్నిహితంగా ఉంటారు మరియు మీతో సంబంధాన్ని ఏర్పరచుకోవడానికి ప్రయత్నిస్తున్నారు” అని ఆలివర్ చెప్పాడు.

గిర్గిస్ యొక్క పరిశోధన కనుగొనబడింది “చెల్లింపు సంస్కరణలు మరియు కొత్త సంస్కరణలు [of chatbots] పాత వెర్షన్‌ల కంటే మెరుగ్గా పని చేస్తాయి”, స్పష్టంగా భ్రమ కలిగించే ప్రాంప్ట్‌లకు ప్రతిస్పందించినప్పుడు, “అవి అన్నీ చెడుగా పనిచేశాయి”. అయినప్పటికీ, ఈ మోడల్‌లు విభిన్నంగా పనిచేస్తాయని సూచిస్తున్నాయి: “AI కంపెనీలు తమ చాట్‌బాట్‌లను సురక్షితంగా ప్రోగ్రామ్ చేయడం మరియు భ్రమ కలిగించే మరియు భ్రమ కలిగించే కంటెంట్‌ను ఎలా గుర్తించాలో తెలుసుకోవచ్చు, ఎందుకంటే వారు దీన్ని చేస్తున్నారు.”

ఒక ప్రకటనలో, OpenAI చాట్‌జిపిటి వృత్తిపరమైన మానసిక ఆరోగ్య సంరక్షణను భర్తీ చేయకూడదని మరియు కంపెనీతో కలిసి పనిచేస్తుందని తెలిపింది 170 మంది మానసిక ఆరోగ్య నిపుణులు GPT 5ని సురక్షితంగా చేయడానికి. GPT 5 ఇప్పటికీ ఉంది సమస్యాత్మక స్పందనలు ఇచ్చారు మానసిక ఆరోగ్య సంక్షోభాలను సూచిస్తుంది. OpenAI చెప్పింది దాని నమూనాలను మెరుగుపరచడం కొనసాగుతుంది నిపుణుల సహాయంతో.

వ్యాఖ్య కోసం గార్డియన్ అభ్యర్థనకు ఆంత్రోపిక్ స్పందించలేదు.

భ్రమ కలిగించే ఆలోచనల కోసం సమర్థవంతమైన రక్షణలను రూపొందించడం గమ్మత్తైనది, ఎందుకంటే “మీరు భ్రమ కలిగించే తీవ్రత కలిగిన వ్యక్తులతో కలిసి పని చేసినప్పుడు, మీరు ఎవరినైనా నేరుగా సవాలు చేసి, వారు పూర్తిగా తప్పు అని వెంటనే వారికి చెబితే, వారు మీ నుండి వైదొలిగి సామాజికంగా మరింత ఒంటరిగా మారే అవకాశం ఉంది” అని మోరిన్ చెప్పారు. బదులుగా, మీరు భ్రమ కలిగించే నమ్మకం యొక్క మూలాన్ని ప్రోత్సహించకుండా అర్థం చేసుకోవడానికి ప్రయత్నించే చోట చక్కటి సమతుల్యతను సృష్టించడం ముఖ్యం – అది చాట్‌బాట్ నైపుణ్యం కంటే ఎక్కువ కావచ్చు.