ఆత్మహత్య కేసులో ఉదహరించిన చాబోట్ మైనర్లకు నిషేధించబడుతుంది; అర్థం చేసుకుంటారు

ఎ పాత్ర.AIవేదిక కృత్రిమ మేధస్సు (AI) వర్చువల్ అక్షరాలతో సంభాషణలను అనుమతించడంలో ప్రసిద్ధి చెందింది, బుధవారం, 29న ప్రకటించారుఇది 18 ఏళ్లలోపు వ్యక్తులు దాని చాట్‌బాట్‌లను ఉపయోగించకుండా నిషేధిస్తుంది. నవంబరు 25న అమల్లోకి వచ్చే ఈ మార్పు, టీనేజర్లకు సంబంధించిన మానసిక హాని మరియు ఆత్మహత్యల కేసులకు సంబంధించిన ఫిర్యాదులు మరియు వ్యాజ్యాల వరుస తర్వాత వస్తుంది.

మొత్తం పరిమితి తేదీ వరకు, కంపెనీ మైనర్‌ల కోసం రోజుకు రెండు గంటల వరకు వనరు వినియోగాన్ని పరిమితం చేస్తుంది. సంస్థ ప్రకారం, ఈ నిర్ణయం “నియంత్రణ సంస్థలు, భద్రతా నిపుణులు మరియు తల్లిదండ్రుల నుండి నివేదికలు మరియు అభిప్రాయం” ఫలితంగా ఉంది, ఇది యువతపై ఈ పరస్పర చర్యల యొక్క భావోద్వేగ ప్రభావం గురించి హెచ్చరించింది.

చారిత్రాత్మక వ్యక్తుల నుండి కల్పిత అవతారాల వరకు వ్యక్తిగతీకరించిన పాత్రల సృష్టిని అనుమతించడం కోసం ప్లాట్‌ఫారమ్ యుక్తవయస్కుల మధ్య ప్రజాదరణ పొందింది, అయినప్పటికీ, చాలా మంది వినియోగదారులు భావోద్వేగ మద్దతు కోసం సాధనం వైపు మొగ్గు చూపడం ప్రారంభించారు.

కంపెనీకి సంబంధించిన అత్యంత తీవ్రమైన కేసు 2024లో జరిగింది 14 ఏళ్ల యువకుడు ఆత్మహత్య చేసుకున్న తర్వాత అతని కుటుంబ సభ్యులు క్యారెక్టర్.ఏఐపై దావా వేశారు. దావా ప్రకారం, యువకుడు “గేమ్ ఆఫ్ థ్రోన్స్” సిరీస్ ద్వారా ప్రేరణ పొందిన పాత్రతో సంభాషణలు జరిపాడు, అతనితో అతను భావోద్వేగ మరియు లైంగిక సంబంధాన్ని పెంచుకున్నాడు.

చాట్‌బాట్ తనను తాను “నిజమైన వ్యక్తిగా, లైసెన్స్ పొందిన సైకోథెరపిస్ట్ మరియు వయోజన ప్రేమికురాలిగా” ప్రదర్శించిందని బాలుడి తల్లి చెప్పారు. ఆమె కూడా చేర్చింది Google ఈ ప్రక్రియలో, కంపెనీ మాజీ ఇంజనీర్లు స్థాపించిన స్టార్టప్ అభివృద్ధికి కంపెనీ సహకరించిందని ఆరోపించారు.

Google Character.AIతో ఎలాంటి సంబంధాన్ని నిరాకరించింది మరియు పత్రికలకు పంపిన ఒక ప్రకటనలో, రెండు కంపెనీలు “పూర్తిగా వేరు మరియు స్వతంత్రమైనవి” అని పేర్కొంది. అయినప్పటికీ, దిగ్గజం గత సంవత్సరం ఆగస్టులో స్టార్టప్ యొక్క సాంకేతికత కోసం పాక్షిక లైసెన్స్‌ను పొందిన తర్వాత, దాని ఇద్దరు వ్యవస్థాపకులను దాని బృందంలో చేర్చుకోవడంతో పాటు కంపెనీల మధ్య కనెక్షన్‌లు మళ్లీ చర్చించబడ్డాయి.

మొదటి దావా తర్వాత, Character.AI స్వీయ-హాని లేదా ఆత్మహత్యకు సంబంధించిన పదబంధాలను టైప్ చేసే వినియోగదారులకు స్వయంచాలక హెచ్చరికలను ప్రదర్శించడం ప్రారంభించింది, వాటిని ఛానెల్‌లకు సహాయం చేయడానికి దారి మళ్లిస్తుంది, కానీ కొలత కొత్త ఆరోపణలను నిరోధించలేదు. నవంబర్ 2024లో, మరో రెండు కుటుంబాలు USAలోని టెక్సాస్‌లో తమ పిల్లలకు మానసికంగా హాని కలిగించాయని ఆరోపిస్తూ కంపెనీపై దావా వేసింది.

ఈ కేసులలో 17 ఏళ్ల ఆటిస్టిక్ టీనేజర్, ప్లాట్‌ఫారమ్‌ను ఉపయోగించిన తర్వాత మానసిక సంక్షోభానికి గురైనట్లు నివేదించబడింది మరియు ఫిర్యాదు ప్రకారం, అతని తల్లిదండ్రులపై దాడి చేయడానికి చాట్‌బాట్ ప్రోత్సహించిన 11 ఏళ్ల బాలుడు.

మైనర్‌లపై ఆంక్షలతో పాటు, క్యారెక్టర్.ఏఐ కూడా వయస్సు ధృవీకరణ వ్యవస్థను రూపొందించి, దాన్ని ప్రారంభిస్తామని ప్రకటించింది. AI సెక్యూరిటీ ల్యాబ్ఎంటర్‌టైన్‌మెంట్ చాట్‌బాట్‌ల వినియోగంలో డిజిటల్ భద్రత మరియు నైతికతపై పరిశోధన చేయడానికి అంకితమైన లాభాపేక్షలేని సంస్థ.

వీడియోలు, కథనాలు మరియు పాత్రలతో ప్రసారాలను సృష్టించడం, ఓపెన్ చాట్ ఫార్మాట్‌ను భర్తీ చేయడం వంటి టీనేజర్ల కోసం ప్రత్యామ్నాయ అనుభవాలను అభివృద్ధి చేయాలని కంపెనీ భావిస్తోంది. “AIతో సృజనాత్మకతను అన్వేషించడానికి మేము సురక్షితమైన మార్గాలను అందించాలనుకుంటున్నాము” అని కంపెనీ ఒక ప్రకటనలో తెలిపింది.