కెనడా స్కూల్ షూటర్ యొక్క చాట్‌జిపిటి ఖాతాకు చట్ట అమలును అప్రమత్తం చేయడంలో విఫలమైనందుకు OpenAI CEO సామ్ ఆల్ట్‌మాన్ “తీవ్రంగా క్షమించండి”

OpenAI CEO సామ్ ఆల్ట్‌మాన్ కెనడియన్ కమ్యూనిటీ సభ్యులకు క్షమాపణలు చెప్పారు ఒక సామూహిక షూటింగ్ యొక్క ChatGPT ఖాతాను ఫ్లాగ్ చేయనందుకు ఈ సంవత్సరం ప్రారంభంలో జరిగింది షూటర్ చట్ట అమలుకు.

“మీ కమ్యూనిటీ భరించిన బాధ ఊహించలేనిది” అని ఆల్ట్‌మాన్ ఒక లేఖలో రాశాడు పంచుకున్నారు శుక్రవారం బ్రిటీష్ కొలంబియా ప్రీమియర్ డేవిడ్ ఎబీ సోషల్ మీడియాలో. “గత కొన్ని నెలలుగా నేను మీ గురించి తరచుగా ఆలోచిస్తున్నాను.”

ఈశాన్య బ్రిటిష్ కొలంబియాలోని టంబ్లర్ రిడ్జ్ చిన్న కమ్యూనిటీలో ఫిబ్రవరి 10న జరిగిన మారణకాండలో ఎనిమిది మంది చనిపోయారు. టంబ్లర్ రిడ్జ్ సెకండరీ స్కూల్‌లో 18 ఏళ్ల జెస్సీ వాన్ రూట్‌సెలార్ కాల్పులు జరపడంతో ఆరుగురు వ్యక్తులు దుర్మరణం చెందారు, షూటర్ తల్లి మరియు 11 ఏళ్ల సోదరుడు సమీపంలోని నివాసంలో మరణించారు. వాన్ రూట్‌సెలార్ స్వయంగా కాల్చుకున్న తుపాకీ గాయంతో మరణించాడని అధికారులు తెలిపారు.

ఆల్ట్‌మాన్ గురువారం నాటి లేఖలో వాన్ రూట్‌సెలార్ యొక్క చాట్‌జిపిటి ఖాతా జూన్ 2025లో నిషేధించబడింది – షూటింగ్‌కు ఎనిమిది నెలల ముందు.

“జూన్‌లో నిషేధించబడిన ఖాతా గురించి మేము చట్ట అమలుకు హెచ్చరిక చేయనందుకు నేను తీవ్రంగా చింతిస్తున్నాను” అని ఆల్ట్‌మాన్ చెప్పారు.

ఫిబ్రవరిలో, OpenAI CBS న్యూస్‌తో మాట్లాడుతూ వాన్ రూట్‌సెలార్ ఖాతా గత సంవత్సరం స్వయంచాలక దుర్వినియోగాన్ని గుర్తించే సాధనాలు మరియు హింసాత్మక కార్యకలాపాల కోసం ChatGPT యొక్క సంభావ్య దుర్వినియోగాన్ని గుర్తించే మానవ పరిశోధకుల ద్వారా ఫ్లాగ్ చేయబడిందని తెలిపింది. దాని వినియోగ విధానాలను ఉల్లంఘించినందుకు ఖాతా నిషేధించబడిందని OpenAI తెలిపింది.

ఓపెన్‌ఏఐ ప్రకారం, కంపెనీ ఖాతాని చట్ట అమలుకు ఫ్లాగ్ చేయాలా వద్దా అని ఆలోచించింది, అయితే రిఫరల్ కోసం థ్రెషోల్డ్‌ను చేరుకోవడంలో విఫలమవడం వల్ల ఇతరులకు తీవ్రమైన శారీరక హాని కలిగించే ఆసన్నమైన మరియు విశ్వసనీయమైన ప్రమాదం లేదని ఆ సమయంలో నిర్ణయించింది.

“మా ఆలోచనలు టంబ్లర్ రిడ్జ్ దుర్ఘటనతో ప్రభావితమైన ప్రతి ఒక్కరితో ఉంటాయి” అని షూటింగ్ తర్వాత ఫిబ్రవరిలో CBS న్యూస్‌కి ఒక ప్రకటనలో OpenAI తెలిపింది. “వ్యక్తి మరియు వారి చాట్‌జిపిటి వినియోగంపై సమాచారంతో మేము రాయల్ కెనడియన్ మౌంటెడ్ పోలీసులను ముందస్తుగా సంప్రదించాము మరియు మేము వారి పరిశోధనకు మద్దతునిస్తూనే ఉంటాము.”

వాస్తవ-ప్రపంచ హానిని నిరుత్సాహపరిచేందుకు ChatGPT శిక్షణ పొందిందని OpenAI చెబుతోంది మరియు అక్రమ ఉద్దేశాన్ని గుర్తించినప్పుడు సహాయాన్ని తిరస్కరించమని సూచించబడింది. ఇతరులకు హాని కలిగించే ప్రణాళికలను సూచించే వినియోగదారులు మానవ సమీక్షకులకు ఫ్లాగ్ చేయబడతారు, వారు ఒక కేసు భౌతిక హాని యొక్క ఆసన్నమైన ముప్పును కలిగిస్తుందో లేదో మరియు చట్టాన్ని అమలు చేసేవారికి సూచించబడాలి అని కంపెనీ తెలిపింది.

ఆల్ట్‌మాన్ తన లేఖలో OpenAI “ఇలాంటివి మరలా జరగకుండా చూసుకోవడంలో సహాయపడటానికి” నివారణ ప్రయత్నాలపై దృష్టి పెడుతుంది.

“మొత్తం సమాజానికి నా ప్రగాఢ సానుభూతిని తెలియజేయాలనుకుంటున్నాను” అని ఆల్ట్‌మాన్ అన్నారు. ఇలాంటి విషాదాన్ని ఎవ్వరూ భరించకూడదు.

ఈ వారం ప్రారంభంలో, ఫ్లోరిడా అటార్నీ జనరల్ జేమ్స్ ఉత్మీర్ ప్రకటించారు ChatGPT మరియు ఫ్లోరిడా స్టేట్ యూనివర్శిటీ విద్యార్థి మధ్య సందేశాలను సమీక్షించిన తర్వాత OpenAIపై నేర పరిశోధన ఏప్రిల్ 2025 క్యాంపస్ కాల్పుల్లో నిందితుడు అది ఇద్దరు వ్యక్తులను చంపింది మరియు అనేక మందిని గాయపరిచింది.

ఆరోపించిన షూటర్‌కు ChatGPT “ముఖ్యమైన సలహా” అందించిందని అతని బృందం నిర్ధారించిందని ఉత్మీర్ చెప్పారు. అతని కార్యాలయం ఓపెన్‌ఏఐకి సబ్‌పోనాలను జారీ చేస్తోంది, చట్ట అమలుకు సాధ్యమయ్యే నేరాలను నివేదించడానికి మరియు వినియోగదారు బెదిరింపులను నిర్వహించడానికి కంపెనీ ప్రోటోకాల్‌ల రికార్డులను అభ్యర్థిస్తోంది.

ఫ్లోరిడా కాల్పులకు సంబంధించి, OpenAI ప్రతినిధి CBS న్యూస్‌కి మంగళవారం ఒక ప్రకటనలో మాట్లాడుతూ, “సంఘటన గురించి తెలుసుకున్న తర్వాత,” అది “అనుమానితుడితో సంబంధం కలిగి ఉన్నట్లు విశ్వసిస్తున్న చాట్‌జిపిటి ఖాతాను గుర్తించింది మరియు ఈ సమాచారాన్ని చట్ట అమలుతో ముందుగానే పంచుకుంది.”