కెనడియన్ స్కూల్ షూటింగ్‌లో చాట్‌బాట్ సహాయం చేసిందని ఆరోపిస్తూ కుటుంబాలు OpenAIపై దావా వేశారు

రిమోట్ కెనడియన్ రాకీస్ పట్టణంలో పాఠశాలలో కాల్పులు జరిపిన బాధితుల కుటుంబాలు యునైటెడ్ స్టేట్స్ ఫెడరల్ కోర్టులో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ కంపెనీ OpenAIపై దావా వేస్తున్నాయి, చాట్‌బాట్‌తో షూటర్ యొక్క భయంకరమైన పరస్పర చర్యల గురించి పోలీసులను అప్రమత్తం చేయడంలో ChatGPT తయారీదారు విఫలమయ్యారని ఆరోపిస్తున్నారు.

ఫిబ్రవరి షూటింగ్‌లో తీవ్రంగా గాయపడిన 12 ఏళ్ల మాయా గెబాలా తరపున బుధవారం దాఖలు చేసిన దావా, బ్రిటిష్ కొలంబియాలోని టంబ్లర్ రిడ్జ్‌లోని కుటుంబాల నుండి వచ్చిన రెండు డజనుకు పైగా కేసులలో మొదటిది, “ఓపెన్‌ఏఐని జవాబుదారీగా ఉంచడానికి మొత్తం సంఘం ముందుకు వస్తుందని” వారి న్యాయవాదులు చెప్పారు.

శాన్ ఫ్రాన్సిస్కో ఫెడరల్ కోర్టులో దాఖలైన ఆరు ఇతర వ్యాజ్యాలు కెనడాలో సంవత్సరాల్లో జరిగిన అత్యంత ఘోరమైన సామూహిక కాల్పుల్లో మరణించిన ఐదుగురు పిల్లలు మరియు ఒక విద్యావేత్త తరపున తప్పుడు మరణ దావాలను ఆరోపించాయి.

పాఠశాల కాల్పుల్లో హత్యకు గురైన ఐదుగురు పిల్లల కుటుంబాలను ఈ కేసులు సూచిస్తున్నాయి. వీరిలో జోయ్ బెనాయిట్, అబెల్ మ్వాన్సా జూనియర్, టికారియా “టికి” లాంపెర్ట్, కైలీ స్మిత్, మొత్తం 12, మరియు ఎజెకిల్ స్కోఫీల్డ్, 13, అలాగే ఎడ్యుకేషన్ అసిస్టెంట్ షాండా అవియుగానా-డురాండ్ ఉన్నారు.

జెస్సీ వాన్ రూట్‌సెలార్, ChatGPTతో పరస్పర చర్యలు వ్యాజ్యాల మధ్యలో ఉన్నాయి, ఒక విద్యా సహాయకుడిని మరియు 12 నుండి 13 సంవత్సరాల వయస్సు గల ఐదుగురు విద్యార్థులను చంపడానికి ముందు ఆమె తల్లి మరియు సవతి సోదరుడిని ఇంట్లో కాల్చారు. ఫిబ్రవరి 10న ఆమె పూర్వ పాఠశాల పోలీసుల ప్రకారం. 18 ఏళ్ల వాన్ రూట్సెలార్ ఆత్మహత్యతో మరణించాడు. ఈ దాడిలో 25 మంది కూడా గాయపడ్డారు.

ఓపెన్‌ఏఐ ప్రతినిధి షూటింగ్‌ను “ఒక విషాదం” అని పిలిచారు మరియు హింసకు పాల్పడడంలో సహాయం చేయడానికి దాని సాధనాలను ఉపయోగించడం కోసం కంపెనీ జీరో-టాలరెన్స్ విధానాన్ని కలిగి ఉందని అన్నారు.

“మేము కెనడియన్ అధికారులతో పంచుకున్నట్లుగా, మేము ఇప్పటికే మా భద్రతలను పటిష్టం చేసాము, బాధ సంకేతాలకు ChatGPT ఎలా స్పందిస్తుందో మెరుగుపరచడం, స్థానిక మద్దతు మరియు మానసిక ఆరోగ్య వనరులతో ప్రజలను కనెక్ట్ చేయడం, హింస యొక్క సంభావ్య బెదిరింపులను మేము ఎలా అంచనా వేస్తాము మరియు పెంచుతాము మరియు పునరావృతమయ్యే విధానాన్ని ఉల్లంఘించేవారిని గుర్తించడం మెరుగుపరచడం” అని ప్రతినిధి ఒక ప్రకటనలో తెలిపారు.

CEO సామ్ ఆల్ట్‌మాన్ గత వారం లేఖ పంపారు షూటర్ ఆన్‌లైన్ ప్రవర్తన గురించి తన కంపెనీ చట్ట అమలుకు తెలియజేయనందుకు అధికారికంగా సంఘానికి క్షమాపణ చెప్పింది.

స్వీయ-హాని, మానసిక అనారోగ్యం మరియు హింసకు దోహదపడుతుందని వాది చెప్పే చాట్‌బాట్ పరస్పర చర్యలను నిరోధించడంలో ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ కంపెనీలు విఫలమవుతున్నాయని ఆరోపిస్తూ పెరుగుతున్న వ్యాజ్యాలలో ఈ కేసులు భాగం. సామూహిక షూటింగ్‌ను సులభతరం చేయడంలో చాట్‌జిపిటి పాత్ర ఉందని ఆరోపించిన యుఎస్‌లో వారు మొదటి వ్యక్తిగా కనిపిస్తారు.

ఫిర్యాదిదారులకు ప్రాతినిధ్యం వహిస్తున్న జే ఎడెల్సన్, షూటింగ్ వల్ల ప్రభావితమైన ఇతరుల తరపున కంపెనీకి వ్యతిరేకంగా రాబోయే వారాల్లో మరో రెండు డజన్ల వ్యాజ్యాలను దాఖలు చేయాలని యోచిస్తున్నట్లు చెప్పారు.

ఒక ఫిర్యాదు ప్రకారం, జూన్ 2025లో OpenAI యొక్క ఆటోమేటెడ్ సిస్టమ్‌లు ChatGPT సంభాషణలను ఫ్లాగ్ చేశాయి, ఇందులో దాడి చేసిన వ్యక్తి తుపాకీ హింస దృశ్యాలను వివరించాడు.

భద్రత పక్కదారి పట్టింది

కంపెనీ అంతర్గత చర్చల గురించి ఫిబ్రవరి నుండి వాల్ స్ట్రీట్ జర్నల్ కథనాన్ని ఉటంకిస్తూ, ఆమె నమ్మదగిన మరియు ఆసన్నమైన హానిని కలిగిస్తుందని నిర్ధారించిన తర్వాత భద్రతా బృందం సభ్యులు పోలీసులను సంప్రదించమని సిఫార్సు చేశారు.

కానీ ఆల్ట్‌మాన్ మరియు ఇతర ఓపెన్‌ఏఐ నాయకత్వం భద్రతా బృందాన్ని తిరస్కరించింది మరియు పోలీసులను ఎప్పుడూ పిలవలేదు, దావా ఆరోపించింది. షూటర్ ఖాతా డీయాక్టివేట్ చేయబడింది, కానీ ఆమె కొత్త ఖాతాను సృష్టించగలిగింది మరియు తన దాడిని ప్లాన్ చేయడానికి ప్లాట్‌ఫారమ్‌ను ఉపయోగించడం కొనసాగించగలిగింది, దావా చెప్పింది.

వాల్ స్ట్రీట్ జర్నల్ నివేదికను అనుసరించి, “హింసాత్మక కార్యకలాపాలను కొనసాగించడంలో మా నమూనాల దుర్వినియోగాలను” గుర్తించే సిస్టమ్‌ల ద్వారా ఖాతా ఫ్లాగ్ చేయబడిందని కంపెనీ పేర్కొంది, అయితే చట్ట అమలుకు నివేదించడానికి దాని అంతర్గత ప్రమాణాలకు అనుగుణంగా లేదు.

“బాధితులు దీనిని నేర్చుకోలేదు ఎందుకంటే OpenAI రాబోతుంది, కానీ దాని స్వంత ఉద్యోగులు కంపెనీ నిశ్శబ్దాన్ని భరించలేక వాల్ స్ట్రీట్ జర్నల్‌కు లీక్ చేసారు” అని వ్యాజ్యాలు ఆరోపించాయి.

మంగళవారం ప్రచురించిన ఒక బ్లాగ్‌లో, OpenAI “హింసను అర్థవంతంగా ప్రారంభించగల” అభ్యర్థనలను తిరస్కరించడానికి దాని మోడల్‌లకు శిక్షణ ఇస్తుందని మరియు సంభాషణలు “ఇతరులకు హాని కలిగించే ఆసన్నమైన మరియు నమ్మదగిన ప్రమాదం” అని సూచించినప్పుడు చట్ట అమలుకు తెలియజేస్తుందని, మానసిక ఆరోగ్య నిపుణులు సరిహద్దు కేసులను అంచనా వేయడంలో సహాయం చేస్తుంది. వినియోగం మరియు నిపుణుల ఇన్‌పుట్ ఆధారంగా దాని నమూనాలు మరియు గుర్తింపు పద్ధతులను నిరంతరం మెరుగుపరుస్తున్నట్లు కంపెనీ తెలిపింది.

వ్యాజ్యాలు పేర్కొనబడని మొత్తం నష్టపరిహారం మరియు తప్పనిసరి చట్ట అమలు రిఫరల్ ప్రోటోకాల్‌లతో సహా దాని భద్రతా పద్ధతులను సరిదిద్దడానికి OpenAI అవసరమయ్యే కోర్టు ఉత్తర్వును కోరింది. బాధితుల్లో ఒకరు వాస్తవానికి కెనడియన్ కోర్టులో తన వ్యాజ్యాన్ని దాఖలు చేశారు, అయితే కాలిఫోర్నియాలో క్లెయిమ్‌లను కొనసాగించేందుకు దానిని తోసిపుచ్చారు, ఎడెల్సన్ చెప్పారు.

చాట్‌జిపిటి హానికరమైన ప్రవర్తన, ఆత్మహత్య మరియు కనీసం ఒక సందర్భంలో హత్య-ఆత్మహత్యను సులభతరం చేసిందని ఆరోపిస్తూ ఇటీవలి నెలల్లో యుఎస్ స్టేట్ మరియు ఫెడరల్ కోర్టులలో దాఖలైన ఇలాంటి కేసులను ఈ వ్యాజ్యాలు అనుసరించాయి.

కేసులు, ఇంకా ప్రారంభ దశలో ఉన్నాయి, హింసను ప్రోత్సహించడంలో AI ప్లాట్‌ఫారమ్ ఎలాంటి పాత్రను పోషిస్తుందో మరియు వినియోగదారు చర్యలకు కంపెనీలను బాధ్యులను చేయవచ్చో పరీక్షించవచ్చని భావిస్తున్నారు. OpenAI క్లెయిమ్‌లను ఖండించింది, హత్య-ఆత్మహత్య కేసులో నేరస్థుడికి మానసిక అనారోగ్యం యొక్క సుదీర్ఘ చరిత్ర ఉందని వాదించింది.