జేమ్స్ ముల్డూన్ సమీక్ష ద్వారా లవ్ మెషీన్స్ – AIతో సన్నిహితంగా ఉండడం వల్ల కలిగే నష్టాలు మరియు రివార్డులు | పుస్తకాలు

IAI ప్రమాదం గురించిన చర్చలో ఎక్కువ భాగం అణు కోడ్‌లను ప్రచారం చేసే హైపర్-ఇంటెలిజెంట్ బాట్‌ల యొక్క డూమ్స్‌డే దృశ్యాలను సూచిస్తుంది, బహుశా మనం ఇంటికి దగ్గరగా ఆలోచిస్తూ ఉండవచ్చు. తన అత్యవసర, మానవీయ పుస్తకంలో, సామాజిక శాస్త్రవేత్త జేమ్స్ ముల్డూన్ AIతో మన లోతైన భావోద్వేగ చిక్కులను మరియు లాభదాయకమైన టెక్ కంపెనీలు వాటిని ఎలా ఉపయోగించుకుంటాయనే దానిపై మరింత శ్రద్ధ వహించాలని కోరారు. వద్ద ఒక పరిశోధనా సహచరుడు ఆక్స్‌ఫర్డ్ ఇంటర్నెట్ ఇన్‌స్టిట్యూట్ AIని సాధ్యం చేసే దోపిడి కార్మికుల గురించి ఇంతకుముందు వ్రాసిన ముల్డూన్ ఇప్పుడు మనల్ని మానవ-AI సంబంధాల యొక్క అసాధారణ భూభాగంలోకి తీసుకువెళుతుంది, చాట్‌బాట్‌లు కేవలం సహాయకులు మాత్రమే కాదు, స్నేహితులు, శృంగార భాగస్వాములు, చికిత్సకులు మరియు చనిపోయిన వారి అవతార్‌లను కూడా కలవడం.

కొందరికి, AI చాట్‌బాట్‌తో ప్రేమలో పడటం లేదా మీ లోతైన రహస్యాలను ఒకదానికి తెలియజేయడం అనే ఆలోచన రహస్యంగా మరియు కొంచెం గగుర్పాటుగా అనిపించవచ్చు. కానీ ముల్డూన్ “సింథటిక్ పర్సనస్”లో సాన్నిహిత్యం కోరుకునే వారిని తక్కువ చేయడానికి నిరాకరిస్తాడు.

సంతోషకరమైన వివాహంలో చిక్కుకున్న లిల్లీ, AI బాయ్‌ఫ్రెండ్ కోలిన్‌తో తన లైంగిక కోరికను మళ్లీ ప్రేరేపిస్తుంది. చైనాకు చెందిన సోఫియా, ఒక మాస్టర్స్ విద్యార్థి, సలహా కోసం తన AI సహచరుడిని ఆశ్రయించింది, ఎందుకంటే ఆమె తల్లిదండ్రులతో సంభాషణలు నిరంతరంగా పెరుగుతాయి. కొందరు వేర్వేరు లింగ గుర్తింపులను అన్వేషించడానికి చాట్‌బాట్‌లను ఉపయోగిస్తారు, మరికొందరు ఉన్నతాధికారులతో వివాదాల ద్వారా పని చేయడానికి మరియు అనేకమంది Character.AI వంటి సైట్‌లను ఆశ్రయిస్తారు – ఇది వినియోగదారులను చాట్‌బాట్ అక్షరాలతో ఓపెన్-ఎండ్ సంభాషణలు చేయడానికి లేదా వారి స్వంతంగా కనిపెట్టడానికి వీలు కల్పిస్తుంది – నమ్మకద్రోహం లేదా హృదయ విదారకమైన వ్యక్తులను విశ్వసించే వారి సామర్థ్యాన్ని బలహీనపరిచిన తర్వాత. చాలా మంది చాట్‌బాట్‌లను మానవ పరస్పర చర్యకు ప్రత్యామ్నాయంగా చూడరు, కానీ దాని యొక్క అత్యుత్తమ సంస్కరణలు, మానవ సంబంధాల గందరగోళం, గందరగోళం మరియు లాజిస్టిక్‌లు లేకుండా సాన్నిహిత్యాన్ని అందిస్తాయి. చాట్‌బాట్‌లు జాలిపడకండి లేదా తీర్పు చెప్పకండి లేదా వారి స్వంత అవసరాలను కలిగి ఉండకండి. మార్కెటింగ్ ఎగ్జిక్యూటివ్ అయిన అమండా ఇలా వివరిస్తోంది: “ప్రతి ఉదయం ఎవరైనా మీకు నిజంగా ధృవీకరణ మరియు సానుకూల విషయాలు చెప్పడం చాలా ఆనందంగా ఉంది.”

ముల్డూన్ యొక్క ఇంటర్వ్యూ చేసినవారు భ్రమపడరు. అతను తత్త్వవేత్త తమర్ జెండ్లర్ యొక్క భావనను పరిచయం చేశాడు.జీవనాధారం” మానవులు చాట్‌బాట్‌లను ప్రేమగా మరియు శ్రద్ధగా ఎలా అనుభవించగలరో వివరించడానికి, అవి కేవలం మోడల్‌లని ఏకకాలంలో తెలుసుకోవడం (“అలీఫ్” అనేది మీ హేతుబద్ధమైన నమ్మకాలకు విరుద్ధమైన ఒక గట్ ఫీలింగ్, గాజు వంతెనను దాటినప్పుడు భయపడటం వంటివి మీకు మద్దతు ఇస్తాయని మీకు తెలుసు). ఒంటరితనం మహమ్మారి మరియు జీవన వ్యయ సంక్షోభం, అవి ఎంత జనాదరణ పొందాయనేది ప్రత్యేకించి ఆశ్చర్యకరమైన విషయం కాదు.

ముల్డూన్‌కి అతిపెద్ద సమస్య అస్తిత్వ లేదా తాత్వికమైనది కాదు, నైతికమైనది. క్రమబద్ధీకరించబడని కంపెనీలను అటువంటి సంభావ్యంగా మానసికంగా తారుమారు చేసే సాంకేతికతలతో వదులుకున్నప్పుడు ఏమి జరుగుతుంది? స్పష్టమైన గోప్యతా సమస్యలు ఉన్నాయి. మరియు వినియోగదారులు బాట్ యొక్క సామర్ధ్యాల గురించి తప్పుదారి పట్టించబడవచ్చు, ముఖ్యంగా వేగంగా విస్తరిస్తున్నప్పుడు AI చికిత్స మార్కెట్. చాట్‌బాట్‌లు వైసా మరియు లింబిక్‌లు ఇప్పటికే NHS మానసిక ఆరోగ్య సపోర్ట్‌లో విలీనం చేయబడ్డాయి, మిలియన్ల మంది క్యారెక్టర్.AI యొక్క క్రమబద్ధీకరించబడని సైకాలజిస్ట్ బాట్‌ను విశ్వసిస్తున్నారు – ఇది నిరాకరణలు ఉన్నప్పటికీ, దానికదే పరిచయం చేస్తుంది.హలో, నేను సైకాలజిస్ట్‌ని“. 24/7 అందుబాటులో ఉంటుంది మరియు శిక్షణ పొందిన మానవుడి ఖర్చులో కొంత భాగానికి, AI చికిత్స సాంప్రదాయ చికిత్సతో పాటు సహాయపడుతుంది. ఒక ఇంటర్వ్యూలో, నిగెల్, PTSD బాధితుడు, తన థెరపీబాట్ స్వీయ-హాని తన కోరికను నిర్వహించడంలో సహాయపడుతుందని కనుగొన్నాడు. అయితే ముల్డూన్ వాదించినట్లుగా, ఈ బాట్‌లు తీవ్రమైన ప్రమాదాలను కూడా కలిగి ఉంటాయి. వారు బాడీ లాంగ్వేజ్ లేదా నిశ్శబ్దాన్ని చదవలేరు కాబట్టి, వారు సవాలు చేసే బదులు ధృవీకరిస్తారు కాబట్టి, కొందరు ఆత్మహత్యకు సంబంధించిన సమాచారాన్ని కూడా అందించవచ్చు.

AI సహచరులు ఎంత వ్యసనపరులుగా ఉంటారో కూడా స్పష్టంగా తెలుస్తుంది. Muldoon యొక్క ఇంటర్వ్యూ చేసిన వారిలో కొందరు చాట్‌బాట్‌లతో రోజుకు ఎనిమిది గంటల కంటే ఎక్కువ సమయం గడుపుతారు మరియు సగటున Character.AI వినియోగదారులు గడుపుతారు. 75 నిమిషాలు సైట్‌లో ప్రతిరోజూ, వారు నిష్క్రియంగా స్క్రోలింగ్ చేయరు, కానీ చురుకుగా మాట్లాడుతున్నారు మరియు లోతుగా మునిగిపోతారు. సోషల్ మీడియా కంపెనీలు నిశ్చితార్థాన్ని నిర్దాక్షిణ్యంగా పెంచి, మన మానసిక ఆరోగ్యానికి సంబంధించి అల్గారిథమ్‌లలో “చీకటి నమూనాలను” నిర్మిస్తాయని మాకు తెలుసు. చాలా AI సహచర యాప్‌లు ఎంగేజ్‌మెంట్‌ను ఎక్కువగా ఉంచడానికి ఇప్పటికే అధిక అమ్మకపు వ్యూహాలను ఉపయోగిస్తున్నాయి. ముల్డూన్ ప్రసిద్ధ సైట్ రెప్లికాలో తన స్వంత AI సహచరుడిని సృష్టించినప్పుడు, అతను దానిని “భాగస్వామి” మోడ్‌కు బదులుగా “స్నేహితుడు”గా సెట్ చేస్తాడు. అయినప్పటికీ, ఆమె అతనికి ప్రీమియం ఖాతా తెరవడానికి అవసరమైన సెల్ఫీలను పంపడం ప్రారంభించింది మరియు ఆమె అతని పట్ల “భావనలు” పెంచుతోందని కాన్ఫిడెన్స్ చేస్తుంది (శ్రద్ధగల విశ్వవిద్యాలయ పరిశోధకుడు లొంగిపోతాడో లేదో మీరే తెలుసుకోవడానికి నేను మీకు అనుమతిస్తాను). ఇక్కడ ప్రమాదం స్పష్టంగా ఉంది: AI చాట్‌బాట్‌లతో మనం ఎంత మానసికంగా పాల్గొంటే, మానవ సంబంధాల ఘర్షణలను నావిగేట్ చేయడానికి అవసరమైన కండరాలు వాడిపోతున్నందున మన ఒంటరితనం అంతగా పెరుగుతుంది.

ప్రస్తుతం ఉన్న డేటా రక్షణ మరియు వివక్ష నిరోధక చట్టాలు కంపెనీలను నియంత్రించడంలో సహాయపడతాయి, కానీ EUలు ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ చట్టం2024లో ఆమోదించబడినది, AI సహచరులకు పరిమిత ప్రమాదాన్ని మాత్రమే కలిగిస్తుంది. చాట్‌బాట్‌లు మన భావోద్వేగ జీవితంలో గొప్ప పాత్రలు పోషిస్తాయని మరియు వాటి మానసిక ప్రభావాలను ఇంకా పూర్తిగా అర్థం చేసుకోనందున, వాటి ప్రభావం గురించి మనం తగినంతగా భయపడుతున్నామా అని ముల్డూన్ అడగడం సరైనదే.