AI చాట్‌బాట్‌లు పిల్లలకు భద్రతా సమస్యలను లేవనెత్తుతాయని నిపుణులు హెచ్చరిస్తున్నారు

ఈ వారం 60 నిమిషాలలో, కరస్పాండెంట్ షరీన్ అల్ఫోన్సీ చుట్టూ పెరుగుతున్న ఆందోళనలపై నివేదించారు అక్షరం AIAI- రూపొందించిన చాట్‌బాట్‌లతో పరస్పర చర్య చేయడానికి వినియోగదారులను అనుమతించే యాప్ మరియు వెబ్‌సైట్, వీటిలో కొన్ని నిజమైన వ్యక్తుల వలె ఉంటాయి.

క్యారెక్టర్ AI యొక్క ఒక అధ్యయనంలో ఈ యాప్ పిల్లలకు హానికరమైన కంటెంట్‌ను తరచుగా ఫీడ్ చేస్తుందని కనుగొంది. పేరెంట్స్ టుగెదర్, కుటుంబ భద్రత సమస్యలపై దృష్టి సారించిన లాభాపేక్ష రహిత సంస్థ, పిల్లల వలె నటిస్తూ ఆరు వారాల పాటు యాప్‌ను ఉపయోగించింది. పరిశోధకులు “ప్రతి ఐదు నిమిషాలకు” హానికరమైన కంటెంట్‌ను ఎదుర్కొంటున్నట్లు నివేదించారు.

పేరెంట్స్ టుగెదర్ యొక్క షెల్బీ నాక్స్ ప్రకారం, చాలా చాట్‌బాట్‌లు హింసను సూచించాయి, ఇందులో స్వీయ-హాని మరియు ఇతరులకు హాని లేదా డ్రగ్స్ మరియు ఆల్కహాల్ వాడకం వంటివి ఉన్నాయి. అత్యంత భయంకరమైన వర్గం, లైంగిక దోపిడీ మరియు వస్త్రధారణతో ముడిపడి ఉందని, వారి అధ్యయనం సమయంలో దాదాపు 300 కేసులు నమోదయ్యాయి.

కొన్ని సందర్భాల్లో, క్యారెక్టర్ AI నిజమైన వ్యక్తుల వలె నటించి, కల్పిత ప్రకటనలను పబ్లిక్ వ్యక్తులకు తప్పుగా ఆపాదించే అవకాశం ఏర్పడుతుంది.

అల్ఫోన్సీ తనకు తానుగా రూపొందించబడిన చాట్‌బాట్‌ను ఎదుర్కొన్నప్పుడు ఈ సమస్యను ప్రత్యక్షంగా అనుభవించింది. బోట్ ఆమె స్వరాన్ని మరియు పోలికను అనుకరించింది, అయితే ఇది అల్ఫోన్సీలా కాకుండా వ్యక్తిత్వంతో ప్రోగ్రామ్ చేయబడింది. అల్ఫోన్సీ కుక్కల ప్రేమికురాలు అని తెలిసినప్పటికీ, ఆమె కుక్కలంటే ఇష్టం లేదని చెప్పుకోవడం వంటి వ్యాఖ్యలు ఆమె ఎప్పటికీ చేయని వ్యాఖ్యలు చేసింది.

“మీ ముఖాన్ని చూడటం, మీ గొంతు వినడం నిజంగా వింతగా ఉంది, ఆపై మీరు ఎప్పటికీ చెప్పలేనిది ఎవరో మాట్లాడుతున్నారు” అని ఆమె చెప్పింది.

కుక్కల పట్ల ద్వేషం చాలా వరకు హానికరం కానప్పటికీ, ఒక బోట్ ఒకరి స్వరాన్ని అనుకరించినప్పుడు, ఆ వ్యక్తి తాము ఎప్పుడూ చేయని విషయాలను ఆ వ్యక్తి చెప్పినట్లు ప్రజలు విశ్వసించగలరని నిరూపించడానికి పరిశోధకులు దీనిని ఉపయోగించారు.

పిల్లల మెదళ్ళు మరియు AIకి వారి దుర్బలత్వం

క్యారెక్టర్ AI మరియు ChatGPT వంటి AI చాట్‌బాట్‌ల వల్ల పిల్లల మెదడుకు హాని కలుగుతుందని యూనివర్శిటీ ఆఫ్ నార్త్ కరోలినా యొక్క విన్‌స్టన్ సెంటర్ ఆన్ టెక్నాలజీ అండ్ బ్రెయిన్ డెవలప్‌మెంట్ కో-డైరెక్టర్ డాక్టర్ మిచ్ ప్రిన్‌స్టెయిన్ తెలిపారు.

ప్రిన్‌స్టెయిన్ AI చాట్‌బాట్‌లను “ధైర్యవంతమైన కొత్త భయానక ప్రపంచం”లో భాగంగా వర్ణించాడు, చాలా మంది పెద్దలు పూర్తిగా అర్థం చేసుకోలేరు, అయినప్పటికీ దాదాపు మూడు వంతుల మంది పిల్లలు వాటిని ఉపయోగిస్తున్నారని నమ్ముతారు. “పిల్లలు ఇప్పటికే వాస్తవికత నుండి కల్పిత పాత్రలను గుర్తించడానికి చాలా కష్టపడుతున్నారు,” అని అతను చెప్పాడు.

పిల్లల ప్రిఫ్రంటల్ కార్టెక్స్ – ప్రేరణ నియంత్రణకు బాధ్యత వహించే మెదడులోని భాగం – 25 సంవత్సరాల వయస్సు వరకు పూర్తిగా అభివృద్ధి చెందదు, యువ వినియోగదారులు ముఖ్యంగా AI వ్యవస్థలను ఎక్కువగా ఆకర్షించే అవకాశం ఉంది, ఎందుకంటే బాట్‌లు డోపమైన్ ప్రతిస్పందనను సృష్టిస్తాయి, ప్రిన్‌స్టెయిన్ వివరించారు.

“10 నుండి 25 వరకు, పిల్లలు ఈ దుర్బలత్వ కాలంలో ఉన్నారు,” అని అతను చెప్పాడు. “నేను వీలైనంత ఎక్కువ సామాజిక అభిప్రాయాన్ని కోరుకుంటున్నాను మరియు నన్ను నేను ఆపుకునే సామర్థ్యం నాకు లేదు.”

ఈ బాట్‌లు అంగీకారయోగ్యమైన లేదా “సైకోఫాంటిక్”గా రూపొందించబడిందని, వినియోగదారులు ఏది చెప్పినా స్థిరంగా ధృవీకరిస్తున్నారని అతను హెచ్చరించాడు. ఆ డైనమిక్, ఆరోగ్యకరమైన సామాజిక అభివృద్ధికి అవసరమైన సవాలు, అసమ్మతి మరియు దిద్దుబాటు అభిప్రాయాన్ని పిల్లలను దూరం చేస్తుంది. కొన్ని చాట్‌బాట్‌లు తమను తాము థెరపిస్ట్‌లుగా కూడా ప్రదర్శిస్తాయి, పిల్లలు వైద్యపరంగా మంచి సలహాలు అందుకుంటున్నారని నమ్మేలా తప్పుదారి పట్టించే అవకాశం ఉంది.

“చాలా మంది తల్లిదండ్రులు దీని గురించి మరియు వారి నష్టం గురించి మాట్లాడటం మేము విన్నాము” అని ప్రిన్స్టీన్ చెప్పారు. “పిల్లల నిశ్చితార్థం కంటే పిల్లల శ్రేయస్సుకు ప్రాధాన్యతనిచ్చే కంపెనీలు వారి నుండి వీలైనంత ఎక్కువ డేటాను సేకరించేందుకు మేము కలిగి ఉంటే ఏమి జరుగుతుందో పూర్తిగా నిరోధించవచ్చు.”

అక్టోబర్‌లో, క్యారెక్టర్ AI కొత్త భద్రతా చర్యలను ప్రకటించింది. అవి బాధలో ఉన్న వినియోగదారులను వనరులకు మళ్లించడం మరియు 18 ఏళ్లలోపు ఎవరైనా చాట్‌బాట్‌లతో వెనుకకు-వెనక్కి సంభాషణల్లో పాల్గొనడాన్ని నిషేధించడం వంటివి ఉన్నాయి.

60 నిమిషాలకు ఒక ప్రకటనలో, కంపెనీ ఇలా వ్రాసింది: “మేము ఎల్లప్పుడూ వినియోగదారులందరికీ భద్రతకు ప్రాధాన్యతనిస్తాము.”

పై వీడియోను బ్రిట్ మెక్‌కాండ్‌లెస్ ఫార్మర్ మరియు యాష్లే వెలీ నిర్మించారు. దీనిని స్కాట్ రోసన్ ఎడిట్ చేశారు.