పిల్లులు పిల్లలను దిండులతో ఉక్కిరిబిక్కిరి చేస్తున్నాయి మరియు తల్లులు పిల్లలను విమానం నుండి బయటకు విసిరేస్తున్నారు: హింసాత్మక వీడియోలు పసిపిల్లలకు నెట్టివేయబడ్డాయి, ప్రతి తల్లిదండ్రులు ఆందోళన చెందాలి

లైంగిక మరియు హింసాత్మక AI- రూపొందించిన వీడియోలను YouTube ద్వారా తమ పిల్లలకు సిఫార్సు చేస్తున్నామని తల్లిదండ్రులు పేర్కొంటున్నారు.

Mom Liz Guilar డైలీ మెయిల్‌తో మాట్లాడుతూ, తన ఒక మరియు మూడేళ్ల చిన్నారి కోసం ఖాతాను సెటప్ చేసిన తర్వాత తాను గగుర్పాటు కలిగించే కంటెంట్‌తో ‘ప్రవహించాను’ అని చెప్పింది.

ఆమె ఇలా చెప్పింది: ‘ఇమేజరీ భయానకంగా ఉంటుంది, కరిగిపోయే ముఖాలు, అదృశ్యమవుతున్న అవయవాలు మరియు అనుకోకుండా సృష్టించిన రాక్షసులు సైలెంట్ హిల్‌కి ప్రత్యర్థిగా ఉంటారు, పసిపిల్లలు తమ తల్లిదండ్రులు కంటెంట్ క్యూరేషన్ కోసం యూట్యూబ్‌పై ఆధారపడుతుంటే చూస్తున్నారు తప్ప. ఇది నిజంగా వింతగా ఉంది.’

ప్రకారం AI నిపుణుడు Jeremy Carrasco, Guilar తన అనుభవంలో ఒంటరిగా ఉండే అవకాశం లేదు మరియు YouTube పిల్లలకు భయంకరమైన AI- రూపొందించిన కంటెంట్‌ని సిఫార్సు చేస్తూ ఉండవచ్చు.

అతను ఒక ప్రయోగాన్ని నిర్వహించాడు, ఇది సాధారణంగా పిల్లల కోసం ఉద్దేశించిన అల్గారిథమ్‌ల ద్వారా అవాంతర క్లిప్‌లు అందించబడుతున్నాయని అతను పేర్కొన్నాడు.

వీటిలో పిల్లల దుర్వినియోగానికి సంబంధించిన కార్టూనిష్ వర్ణనలను చూపించే వీడియోలు, అలాగే AI పాత్రలు వింతైన శస్త్రచికిత్సలు, తుపాకులు పట్టుకోవడం, హింసాత్మక చర్యలకు పాల్పడడం లేదా లైంగిక ప్రవర్తనలో పాల్గొనడం వంటివి ఉన్నాయి.

ఫేక్ అకౌంట్‌ని క్రియేట్ చేయడం మరియు పిల్లల స్ట్రీమింగ్ అలవాట్లను అనుకరించడం ద్వారా అతను తన నిర్ణయానికి వచ్చానని కరాస్కో చెప్పాడు. YouTube ఏ రకమైన వీడియోలు సిఫార్సు చేయబడతాయో పరీక్షించడానికి.

అతను డైలీ మెయిల్‌తో ఇలా అన్నాడు: ‘YouTube నాకు బ్లూయ్ పట్ల ఆసక్తి ఉన్న పిల్లవాడిని లేదా అని చెప్పగలదు రోబ్లాక్స్ ఇంకా ఇది హోమ్‌పేజీలో వీటిని సూచిస్తోంది. హోమ్‌పేజీలోని సూక్ష్మచిత్రాలు కూడా కొన్నిసార్లు చాలా భయంకరంగా ఉన్నాయి.’

YouTubeలో కలవరపరిచే AI వీడియోలు తరచుగా మానవరూప జంతు పాత్రలను కలిగి ఉంటాయి. ఈ వీడియోలో, పిల్లి-తల్లి తన బిడ్డను కొండపై నుండి విసిరే ముందు దిండుతో ఉక్కిరిబిక్కిరి చేస్తుంది

‘MeowBoom’ మరియు ‘MeowKitten007’ వంటి పేర్లతో ఉన్న ఛానెల్‌ల నుండి సైట్ యొక్క YouTube షార్ట్‌ల ఫీడ్ నుండి AI- రూపొందించిన కంటెంట్‌కు భంగం కలిగించేలా హోమ్‌పేజీ ప్రముఖంగా సిఫార్సు చేసిందని అతను పేర్కొన్నాడు.

YouTube Kids యాప్‌లో Carrasco చేసిన ప్రయోగం ఫ్లాగ్ చేసిన వీడియోలు ఏవీ కనిపించలేదని డైలీ మెయిల్‌కి YouTube తెలిపింది, కానీ వారు సంఘం మార్గదర్శకాలను ఉల్లంఘించినట్లు గుర్తించిన తర్వాత ఈ అవుట్‌లెట్ ద్వారా హైలైట్ చేయబడిన అనేక ఛానెల్‌లను నిలిపివేసింది.

ప్లాట్‌ఫారమ్ ప్రతినిధి జాక్ మలోన్ డైలీ మెయిల్‌తో ఇలా అన్నారు: ‘స్పష్టంగా చెప్పాలంటే, ఈ కంటెంట్ YouTube కిడ్స్ యాప్‌లో లేదు. తల్లిదండ్రులు తమ పిల్లలు YouTubeలో చూసే వాటిపై నియంత్రణ కలిగి ఉంటారు మరియు సెటప్ సమయంలో వారి పిల్లల ఖాతా కోసం నిర్దిష్ట కంటెంట్ నియంత్రణ స్థాయిని ఎంచుకోవాలి.’

ఈ ఇబ్బంది కలిగించే AI వీడియోలు YouTube Kids యాప్‌లో కనిపించకపోయినా, ప్లాట్‌ఫారమ్ యొక్క సాధారణ వెర్షన్ ఇప్పటికీ వారు తినే కంటెంట్ ఆధారంగా పిల్లలు చూస్తున్నారో లేదో చెప్పగలగాలి అని కరాస్కో చెప్పారు.

‘ఓహ్, హే, మనకు ఏడేళ్ల వయస్సు ఉన్నవారు చూస్తున్నారు, మేము బహుశా హోమ్‌పేజీలో లఘు చిత్రాలను ఉంచకూడదు, ఎందుకంటే ఇది ఆరోగ్యకరమైన విషయం అని మాకు తెలుసు కాబట్టి వారు కొన్ని వయస్సు సాధనాలతో, వారు నిర్ణయించగలరని నేను భావిస్తున్నాను,” అని అతను చెప్పాడు.

‘దీన్ని చేయడానికి వారి వద్ద ఇప్పటికే సాధనాలు ఉన్నాయి. వారు రేపు చేయగలరు. ఆ వినియోగదారులు షార్ట్-ఫారమ్ వీడియోలను శోధిస్తే వాటిని చూడకుండా బ్లాక్ చేయమని కూడా నేను సూచించడం లేదు. అల్గారిథమిక్‌గా వాటిని అత్యంత హానికరమైన sh*tని నెట్టవద్దు.’

సాంకేతికత మరింత అధునాతనంగా మారినందున AI- రూపొందించిన షార్ట్ ఛానెల్‌లు గత సంవత్సరం చివరలో వృద్ధి చెందడం ప్రారంభించాయి.

ఈ AI వీడియోలో, గొర్రె తలతో కోపంగా ఉన్న తల్లి పిల్లిని బ్యాట్‌తో కొట్టి, దానిపై తారు లాంటిది పోసింది.

అప్పటి నుండి, డజన్ల కొద్దీ ఛానెల్‌లు హింసాత్మకమైన, కలవరపరిచే మరియు లైంగిక థీమ్‌లను కలిగి ఉన్న AI వీడియోలను సులభంగా తయారు చేయడం ద్వారా క్యాష్ చేస్తున్నాయి.

‘నా పిల్లలు తమంతట తాముగా చూస్తూ ఉంటే ఎంత భయంకరంగా ఉంటుందో ఆలోచించడమే నా తక్షణ ప్రతిస్పందన’ అని గుయిలర్ డైలీ మెయిల్‌తో అన్నారు.

‘పెద్దలు ఎలా చూస్తున్నారో అదే విధంగా చిన్నపిల్లలకు ప్రాసెస్ చేయగల సామర్థ్యం ఉందని నేను అనుకోను – కాబట్టి మనకు ఉల్లాసకరమైన AI వైఫల్యం ఏమిటంటే, వారిని గందరగోళానికి గురిచేయవచ్చు, వారిని భయపెట్టవచ్చు లేదా అవాంతర థీమ్‌లను సాధారణీకరించవచ్చు.’

Guilar ఈ సంవత్సరం ప్రారంభంలో Redditలో ఒక పోస్ట్ చేసింది, ‘సూటిగా, భయానకమైన అంశాలు వంటి మెదడును కరిగించే AI స్లాప్ ఎంత ఉందో తెలుసుకోవడానికి నిజంగా భయపడిపోయాను’ అని పేర్కొంది.

థ్రెడ్‌లో, డజన్ల కొద్దీ ఇతర తల్లిదండ్రులు ఆస్ట్రేలియన్ తల్లికి ఇలాంటి అనుభవాలను పంచుకున్నారు మరియు వారు కనుగొన్న కంటెంట్ యొక్క హానికరమైన మరియు కలతపెట్టే స్వభావం గురించి విలపించారు.

ఒక పేరెంట్ ఇలా వ్రాశాడు: ‘నేను ఇటీవల ఒక ప్రైవేట్ స్టూడియోని కలిగి ఉన్న కేశాలంకరణకు వెళ్లాను మరియు వాతావరణం కారణంగా పాఠశాల రద్దు చేయబడింది మరియు నేను పట్టించుకోనందున ఆమె 4/5yoని తీసుకువచ్చింది.

‘కానీ తర్వాత ఆమె తన కోసం టీవీలో YouTubeను ఉంచింది మరియు అది విద్యా పాటలు/వీడియోల నుండి నేను ఇంత త్వరగా చూడని విచిత్రమైన AI మెదడును కరిగించే చెత్త వరకు వెళ్లింది.’

మరొక పేరెంట్ ఇలా అన్నాడు: ‘వారిలో కొందరు నిజంగా విచిత్రంగా ఉంటారు. నేను బ్లాక్ చేసిన కొన్ని పీడకల ఇంధనం యొక్క స్క్రీన్‌షాట్‌లను తీయాలని నేను కోరుకుంటున్నాను.’

AI వీడియోలు మానవ పాత్రలను కూడా కలిగి ఉంటాయి. ఇందులో, భయాందోళనకు గురైన తల్లి తన బిడ్డను కూలిపోతున్న విమానం కిటికీలోంచి బయటకు విసిరింది

లిజ్ గిలార్ తన పిల్లల కోసం సెటప్ చేసిన ఖాతాను స్క్రీనింగ్ చేసిన తర్వాత యూట్యూబ్‌లో AI- రూపొందించిన వీడియోలను చూసి ‘భయపడ్డాడు’

తను కనుగొన్న AI వీడియోలను తన పిల్లలు చూస్తున్నట్లు ఊహించుకోవడం ‘భయంకరమైనది’ అని కూడా గిలర్ చెప్పారు

ప్రసిద్ధ సాకర్ ఆటగాడు రొనాల్డో యొక్క AI- రూపొందించిన సంస్కరణను కలిగి ఉన్న ఈ వింతైన వీడియో ముఖ్యంగా 200,000 కంటే ఎక్కువ లైక్‌లను అందుకుంది.

NYUలో డెవలప్‌మెంటల్ సైకాలజిస్ట్ మరియు అసిస్టెంట్ ప్రొఫెసర్ ఆఫ్ అప్లైడ్ సైకాలజీ ఆండ్రూ కొయెప్, డైలీ మెయిల్‌కి ఈ రకమైన కంటెంట్ పిల్లలపై కలిగించే హానిని వివరించారు.

‘వీడియోల’ ఉపరితల-స్థాయి ఫీచర్లు ప్రకాశవంతమైన రంగులు మరియు అతిశయోక్తి, కార్టూన్-వంటి పాత్రలతో పిల్లలను ఆకర్షించేలా స్పష్టంగా రూపొందించబడ్డాయి… అయినప్పటికీ కంటెంట్ పిల్లలకు చాలా అనుచితంగా ఉంది.’

‘ఎనిమిదేళ్ల కంటే ముందు, పిల్లలకు కల్పన మరియు వాస్తవికత మధ్య తేడాను గుర్తించడం కష్టం’ అని కోప్ చెప్పారు, సమీక్ష కోసం డైలీ మెయిల్ తనకు పంపిన వీడియోలు, ‘పరిత్యాగం మరియు అవయవ విచ్ఛేదనం, చాలా సున్నితత్వానికి అర్హమైన అంశాలు.’

2010ల చివరలో YouTube ‘ఎల్సాగేట్’ కుంభకోణంలో వివాదం ఏర్పడింది, దీనిలో సృష్టికర్తలు హింసాత్మక మరియు లైంగిక ఇతివృత్తాలతో అనుచితమైన దృశ్యాలను ప్రదర్శించడానికి ఫ్రోజెన్స్ ఎల్సా లేదా స్పైడర్‌మ్యాన్ వంటి పిల్లల పాత్రల పోలికలను ఉపయోగించారు.

వీడియోలు మంచి పనితీరును కనబరిచాయి ఎందుకంటే వాటి సృష్టికర్తలు టైటిల్ మరియు ట్యాగ్‌లలో పాత్రల పేర్లను ఉంచారు, ఇది అల్గారిథమ్‌ను పిల్లలకు ప్రచారం చేయడానికి దారితీసింది.

డాక్టర్ కోస్టాంటినోస్ పాపడమౌ, కంప్యూటర్ శాస్త్రవేత్త మరియు పరిశోధకుడు, ఎల్సాగేట్ దృగ్విషయాన్ని అధ్యయనం చేసి 2020లో దాని గురించి ఒక పత్రాన్ని ప్రచురించారు.

ఈ AI- రూపొందించిన వీడియోలలో పిల్లలపై శారీరక వేధింపులు ఒక సాధారణ థీమ్

కొన్ని వీడియోలలో రక్తం మరియు గాయాలకు సంబంధించిన అవాంతర చిత్రాలు ఉన్నాయి

AI వీడియోలను కలవరపరిచే ప్రస్తుత సమస్య, పిల్లలకు అనుచితమైన వీడియోలను సిఫార్సు చేస్తున్న YouTube యొక్క దీర్ఘకాలిక సమస్య యొక్క తాజా పునరావృతం. ఈ స్క్రీన్‌షాట్‌లు 2010ల చివర్లో ‘ఎల్సాగేట్’ వివాదంలో భాగమైన వీడియోల నుండి వచ్చాయి

లో చదువుఅతను మరియు అతని బృందం YouTubeలో పిల్లల ప్రవర్తనను అనుకరించారు మరియు YouTube సిఫార్సులను అనుసరించే పసిపిల్లలు పదిలోపు అనుచితమైన వీడియోని ఎదుర్కొనే అవకాశం ‘3.5 శాతం ఉందని కనుగొన్నారు. [clicks] ఆమె పసిపిల్లలకు తగిన కీవర్డ్ శోధన యొక్క మొదటి పది ఫలితాలలో కనిపించే వీడియో నుండి యాదృచ్ఛికంగా ప్రారంభించబడితే.’

ఎల్సాగేట్ సమస్యను పరిష్కరించే ప్రయత్నంలో YouTube ప్లాట్‌ఫారమ్‌లో మార్పులు చేసింది.

వెబ్‌సైట్‌లో పోస్ట్ చేసే ఎవరైనా వీడియో పిల్లల కోసం ఉద్దేశించినదా కాదా అని తెలిపే బాక్స్‌ను క్లిక్ చేయాల్సిన ఫీచర్‌ను జోడించారు, ఇది సమస్యను తగ్గించడంలో సహాయపడింది.

పాపడమౌ ఎల్సాగేట్ మరియు తగని AI కంటెంట్‌తో ఉన్న ప్రస్తుత సమస్య మధ్య కనెక్షన్‌లను రూపొందించారు మరియు ఈ ఇబ్బందికరమైన కొత్త AI వీడియోలను సులభంగా సృష్టించడం గురించి తాను ఆందోళన చెందుతున్నట్లు డైలీ మెయిల్‌కి తెలిపారు.

‘మేము కలిగి ఉన్న వీడియోల వాల్యూమ్‌తో 2020 నాటికి సమస్య తగినంతగా ఉంది మరియు చాలా చర్యలు కట్టుబడి ఉన్నందున అవి కొనసాగించలేకపోయాయి [sic] ఒక మనిషికి,’ అన్నాడు.

‘ఈ చర్యలు ఈ రోజుల్లో వాల్యూమ్‌తో ఎలా ఉండలేకపోతున్నాయో మీరు ఊహించవచ్చు.’