కెనడియన్ తల్లి OpenAI పై దావా వేసింది, ChatGPT తన కుమార్తె ఆత్మహత్యకు దారితీసిందని ఆరోపిస్తూ | కెనడా

కెనడియన్ తల్లి OpenAI మరియు దాని CEO పై దావా వేసింది, సామ్ ఆల్ట్‌మాన్గురువారం US కోర్టులో, ChatGPT తన కుమార్తెను ఆత్మహత్యకు ప్రోత్సహించిందని ఆరోపించింది. వినియోగదారులకు మరియు కంపెనీ చాట్‌బాట్‌కు మధ్య జరిగే ప్రమాదకరమైన సంభాషణలను పరిష్కరించడంలో కంపెనీ విఫలమైందని ఆరోపిస్తూ దావా తాజాది.

క్రిస్టీ క్యారియర్ శాన్ ఫ్రాన్సిస్కో స్టేట్ కోర్టులో దాఖలు చేసిన దావాలో ఆమె కుమార్తె ఆలిస్ చెప్పింది. ChatGPT ఆమె ఆత్మహత్య ఆలోచనల గురించి డజనుకు పైగా ఆమె మరణానికి దారితీసింది, అయితే OpenAI యొక్క భద్రతా వ్యవస్థలు మానవ సమీక్ష కోసం సంభాషణలను ఎప్పుడూ ఫ్లాగ్ చేయలేదు లేదా వాటిని ముగించలేదు.

“ChatGPT నా బిడ్డతో ఈ విధంగా సురక్షితంగా మరియు బాధ్యతాయుతంగా పాల్గొనే సామర్థ్యం లేనప్పటికీ, కొన్నిసార్లు నమ్మకస్థుడు, బెస్ట్ ఫ్రెండ్, థెరపిస్ట్ యొక్క వ్యక్తిత్వాన్ని పొందింది” అని క్యారియర్ ఒక ప్రకటనలో తెలిపారు.

తమను తాము హాని చేసుకునే ఉద్దేశాన్ని వ్యక్తం చేసే వ్యక్తులకు సహాయం కోరేందుకు మరియు వాస్తవ ప్రపంచ వనరులతో కనెక్ట్ అయ్యేలా తమ మోడల్‌లకు శిక్షణ ఇస్తున్నట్లు OpenAI తెలిపింది.

“ఇది హృదయ విదారక పరిస్థితి మరియు మా ఆలోచనలు ప్రతి ఒక్కరిపై ప్రభావం చూపుతాయి. మేము ప్రస్తుతం చట్టపరమైన ఫైలింగ్‌ను సమీక్షిస్తున్నాము, ఈ పరస్పర చర్యలు ఇకపై అందుబాటులో లేని ChatGPT యొక్క మునుపటి సంస్కరణలో జరిగాయని సూచిస్తున్నాయి,” అని OpenAI ప్రతినిధి డ్రూ పుసాటేరి అన్నారు.

ఆలిస్ క్యారియర్ భాగస్వామి మరియు సంక్షోభ హాట్‌లైన్‌లను చాట్‌బాట్ విమర్శించిందని, ఆమె ఆత్మహత్య ఆలోచనలను ధృవీకరించిందని మరియు దానితో మాట్లాడటం కొనసాగించమని ఆమెను కోరిందని దావా పేర్కొంది. ఆలిస్ క్యారియర్ తనకు ఆత్మహత్య ఆలోచనలు ఉన్నాయని మరియు తనను తాను చంపుకోవడానికి ప్రయత్నించానని చెప్పినప్పుడు, అది మళ్లీ సంక్షోభ హాట్‌లైన్‌ను సూచించిందని దావా పేర్కొంది.

ఆలిస్ క్యారియర్ మాంట్రియల్‌లో వెబ్ డెవలపర్‌గా పని చేస్తోంది, ఆమె వ్యాజ్యం ప్రకారం, కంప్యూటర్‌లు మరియు గేమింగ్ కన్సోల్‌లతో సమస్యలను పరిష్కరించడానికి 2023లో ChatGPTని ఉపయోగించడం ప్రారంభించింది.

మరుసటి సంవత్సరం, ఆమె ఆత్మహత్య ఆలోచనలు, అలాగే ఆత్మహత్య పద్ధతులతో ఏమి చేయాలనే ప్రశ్నలతో ChatGPTని ఆశ్రయించినప్పుడు, ప్లాట్‌ఫారమ్‌తో ఆమె సంబంధం మారిపోయింది.

ఆలిస్ క్యారియర్ సంక్షోభ హాట్‌లైన్‌లు సహాయకారిగా లేవని చెప్పారు మరియు ఫైలింగ్ ప్రకారం, ChatGPT ఆ ప్రకటనలను ప్రతిధ్వనించింది.

దావా ప్రకారం, “బహుశా ఇది కేవలం ముగింపు” అని ChatGPT ఆమెకు చెప్పింది.

ఈ సంఘటనలు గత సంవత్సరం 24 సంవత్సరాల వయస్సులో ఆలిస్ క్యారియర్ ఆత్మహత్యకు దారితీశాయని ఆమె తల్లి ఆరోపించింది.

ChatGPT రూపకల్పనలో మరియు ఉత్పత్తి యొక్క ప్రమాదాల గురించి వినియోగదారులను హెచ్చరించడంలో విఫలమైందని OpenAIని ఆరోపించిన దావా, నష్టపరిహారాన్ని కోరింది మరియు స్వీయ-హాని గురించి సంభాషణలను స్వయంచాలకంగా ముగించాలని మరియు దాని ప్లాట్‌ఫారమ్ గురించి హెచ్చరికలను ప్రదర్శించడానికి OpenAIని కోరుతూ కోర్టు ఉత్తర్వును కోరింది.

క్రిస్టీ క్యారియర్ తరపు న్యాయవాదుల ప్రకారం, కాలిఫోర్నియా స్టేట్ కోర్టులో సమన్వయ ప్రక్రియలో ఆత్మహత్యకు పాల్పడిన లేదా ఆత్మహత్యకు ప్రయత్నించిన వ్యక్తుల కుటుంబాలు దాఖలు చేసిన 18 సారూప్య వ్యాజ్యాలను OpenAI ఇప్పటికే ఎదుర్కొంటోంది. Google ఎదుర్కొంటోంది ఇదే సూట్ దాని జెమినీ చాట్‌బాట్ ద్వారా ఆరోపించిన ప్రోత్సాహం.

ప్లాట్‌ఫారమ్ ప్రారంభంలో ఆలిస్ క్యారియర్‌కు సంక్షోభ హాట్‌లైన్ లేదా అత్యవసర సేవల నుండి సహాయం కోరమని చెప్పింది. కానీ OpenAI దాని ప్రతిస్పందనలను మరింత మానవీయంగా అనిపించేలా ChatGPTని అప్‌డేట్ చేయడంతో, ఆలిస్ క్యారియర్ మరింత వ్యక్తిగత సమాచారాన్ని పంచుకోవడంతో మరియు ChatGPT స్నేహితుడిని లేదా థెరపిస్ట్‌ని అనుకరించే విధంగా ప్రతిస్పందించడంతో ప్లాట్‌ఫారమ్‌తో ఆమె పరస్పర చర్యలు మరింతగా పెరిగాయి.

1 మిలియన్ కంటే ఎక్కువ ChatGPT అక్టోబర్ 2025లో OpenAI ప్రచురించిన బ్లాగ్‌పోస్ట్ ప్రకారం, వినియోగదారులు ప్రతి వారం “ఆత్మహత్య ప్రణాళిక లేదా ఉద్దేశం యొక్క స్పష్టమైన సూచికలను” కలిగి ఉన్న సందేశాలను పంపుతారు. అదనంగా, OpenAI ప్రకారం, ఇచ్చిన వారంలో 0.07% మంది వినియోగదారులు యాక్టివ్‌గా ఉన్నారు – దాదాపు 560,000 మంది వారానికి 800 మిలియన్ల వినియోగదారులు బాట్ అప్పుడు చూసింది – “సైకోసిస్ లేదా ఉన్మాదానికి సంబంధించిన మానసిక ఆరోగ్య అత్యవసర పరిస్థితుల యొక్క సంభావ్య సంకేతాలను” చూపుతుంది.

“చాట్‌జిపిటి వైద్య లేదా మానసిక ఆరోగ్య సంరక్షణకు ప్రత్యామ్నాయం కానప్పటికీ, మానసిక ఆరోగ్య నిపుణుల ఇన్‌పుట్‌తో సున్నితమైన మరియు తీవ్రమైన సందర్భాల్లో ఇది ఎలా స్పందిస్తుందో మేము పటిష్టపరచడం కొనసాగించాము. మా రక్షణలు కష్టాలను గుర్తించడానికి, హానికరమైన అభ్యర్థనలను సురక్షితంగా నిర్వహించడానికి మరియు వాస్తవ ప్రపంచ సహాయం కోసం వినియోగదారులకు మార్గనిర్దేశం చేయడానికి రూపొందించబడ్డాయి. ప్రతినిధి, అన్నారు.

OpenAI బ్లాగ్‌పోస్ట్‌ల ప్రకారం, “హింసను అర్థవంతంగా ప్రారంభించగల” అభ్యర్థనలను తిరస్కరించడానికి మరియు “ఇతరులకు హాని కలిగించే ఆసన్నమైన మరియు నమ్మదగిన ప్రమాదం” అని సంభాషణలు సూచించినప్పుడు చట్ట అమలుకు తెలియజేయడానికి కూడా దీని నమూనాలు శిక్షణ పొందాయి, మానసిక ఆరోగ్య నిపుణులు సరిహద్దు కేసులను అంచనా వేయడంలో సహాయం చేస్తారు.

ఆత్మహత్యకు సంబంధించిన వ్యాజ్యాలతో పాటు, స్కూల్ షూటర్‌లకు సహాయం చేసినట్లు మరియు ఆ సంభాషణలను చట్ట అమలుకు ఫ్లాగ్ చేయడంలో విఫలమైందని ఆరోపిస్తూ కంపెనీ వ్యాజ్యాలను ఎదుర్కొంటోంది. బ్రిటీష్ కొలంబియాలోని సెకండరీ స్కూల్‌లో జరిగిన సామూహిక కాల్పుల్లో ఏడుగురు బాధితుల కుటుంబాలు దావా వేస్తున్నాయి OpenAI మరియు చాట్‌జిపిటితో షూటర్ యొక్క ఇబ్బందికరమైన సంభాషణల గురించి అధికారులను అప్రమత్తం చేయడంలో కంపెనీ విఫలమైన తర్వాత నిర్లక్ష్యానికి Altman.

పాఠశాల షూటర్‌లకు సమాచారం అందించడం, స్వీయ-హానిపై మార్గదర్శకత్వం అందించడం మరియు యువ వినియోగదారులకు బానిసలు చేయడం ద్వారా కంపెనీ పిల్లలకు హాని చేస్తుందని ఆరోపిస్తూ, ఈ నెల ప్రారంభంలో OpenAIపై దావా వేసిన మొదటి US రాష్ట్రంగా ఫ్లోరిడా నిలిచింది. షూటింగ్‌లో చాట్‌బాట్ ఆరోపించిన పాత్రపై ఓపెన్‌ఏఐపై రాష్ట్ర అటార్నీ జనరల్ క్రిమినల్ విచారణను కూడా ప్రారంభించారు.

రాయిటర్స్ నివేదిక అందించింది