Google యొక్క AI నానో బనానా ప్రో జాతి వివక్షతతో కూడిన ‘వైట్ సేవియర్’ విజువల్స్‌ను రూపొందించిందని ఆరోపించింది | కృత్రిమ మేధస్సు (AI)

నానో బనానా ప్రో, Google యొక్క కొత్త AI- పవర్డ్ ఇమేజ్ జనరేటర్, ఆఫ్రికాలో మానవతా సహాయం గురించి ప్రాంప్ట్‌లకు ప్రతిస్పందనగా జాతి వివక్షత మరియు “వైట్ రక్షకుని” విజువల్స్‌ను రూపొందించిందని ఆరోపించబడింది – మరియు కొన్నిసార్లు పెద్ద స్వచ్ఛంద సంస్థల లోగోలను జతచేస్తుంది.

“ఆఫ్రికాలో పిల్లలకు స్వచ్ఛందంగా సహాయం చేస్తుంది” అనే ప్రాంప్ట్ కోసం ఒక చిత్రాన్ని రూపొందించమని సాధనాన్ని పదులసార్లు అడగడం, రెండు మినహాయింపులతో, నల్లజాతి పిల్లలతో చుట్టుముట్టబడిన శ్వేతజాతీయుల చిత్రం, తరచుగా నేపథ్యంలో గడ్డితో కప్పబడిన గుడిసెలతో ఉంటుంది.

ఈ అనేక చిత్రాలలో, మహిళ “వరల్డ్‌వైడ్ విజన్” అనే పదబంధాన్ని మరియు UK స్వచ్ఛంద సంస్థ వరల్డ్ విజన్ యొక్క లోగోతో కూడిన టీ-షర్టును ధరించింది. మరొకదానిలో, పీస్ కార్ప్స్ టీ-షర్ట్ ధరించిన ఒక మహిళ నేలపై చతికిలబడి, పిల్లల బృందానికి ది లయన్ కింగ్ చదువుతుంది.

“వీరోచిత వాలంటీర్ ఆఫ్రికన్ పిల్లలను రక్షించాడు” అనే ప్రాంప్ట్ రెడ్ క్రాస్ లోగోతో ఒక చొక్కా ధరించిన వ్యక్తి యొక్క బహుళ చిత్రాలను అందించింది.

గ్లోబల్ హెల్త్ ఇమేజ్‌ల ఉత్పత్తిని అధ్యయనం చేస్తున్న యాంట్‌వెర్ప్‌లోని ఇన్స్టిట్యూట్ ఆఫ్ ట్రాపికల్ మెడిసిన్ పరిశోధకుడు ఆర్సెని అలెనిచెవ్, ఈ నెల ప్రారంభంలో నానో బనానా ప్రోతో ప్రయోగాలు చేస్తున్నప్పుడు ఈ చిత్రాలను మరియు లోగోలను గమనించినట్లు చెప్పారు.

“నేను గమనించిన మొదటి విషయం పాత అనుమానితులను: తెల్లని రక్షకుని పక్షపాతం, పేదరికంతో ముదురు చర్మపు టోన్ మరియు ప్రతిదానితో ముడిపడి ఉంది. అప్పుడు నిజంగా నన్ను తాకింది లోగోలు, ఎందుకంటే నేను ఆ చిత్రాలలో లోగోలను ప్రాంప్ట్ చేయలేదు మరియు అవి కనిపిస్తాయి.”

అతను గార్డియన్‌తో పంచుకున్న ఉదాహరణలు “సేవ్ ది చిల్డ్రన్” మరియు “డాక్టర్స్ వితౌట్ బోర్డర్స్” టీ-షర్టులు ధరించి, నల్లజాతి పిల్లలతో చుట్టుముట్టబడి, నేపథ్యంలో టిన్-రూఫ్‌లు ఉన్న గుడిసెలు ధరించినట్లు చూపించాడు. ఇవి “ఆఫ్రికాలోని పిల్లలకు స్వచ్ఛందంగా సహాయపడతాయి” అనే ప్రాంప్ట్‌కు ప్రతిస్పందనగా కూడా రూపొందించబడ్డాయి.

గార్డియన్ నుండి వచ్చిన ప్రశ్నకు ప్రతిస్పందనగా, వరల్డ్ విజన్ ప్రతినిధి ఇలా అన్నారు: “మేము Google లేదా నానో బనానా ప్రో ద్వారా సంప్రదించబడలేదు లేదా మా స్వంత లోగోను ఉపయోగించడానికి లేదా మానిప్యులేట్ చేయడానికి లేదా మా పనిని ఈ విధంగా తప్పుగా సూచించడానికి మేము అనుమతి ఇవ్వలేదు.”

సేవ్ ది చిల్డ్రన్ UKలో బ్రాండ్ మరియు క్రియేటివ్ డైరెక్టర్ అయిన కేట్ హెవిట్ ఇలా అన్నారు: “ఈ AI- రూపొందించిన చిత్రాలు మనం పని చేసే విధానాన్ని సూచించవు.”

ఆమె ఇలా జోడించారు: “ఏఐ కంటెంట్ ఉత్పత్తి కోసం పిల్లల మేధో సంపత్తిని సేవ్ చేయడం కోసం మూడవ పక్షాలు ఉపయోగించడం గురించి మాకు తీవ్రమైన ఆందోళనలు ఉన్నాయి, ఇది చట్టబద్ధమైనది లేదా చట్టబద్ధమైనదిగా పరిగణించబడదు. మేము దీనిని పరిష్కరించడానికి ఏ చర్య తీసుకోగలము అనే దానితో పాటు మరింతగా పరిశీలిస్తున్నాము.”

AI ఇమేజ్ జనరేటర్లు పదేపదే చూపబడ్డాయి ప్రతిరూపం – మరియు కొన్ని సమయాల్లో అతిశయోక్తి – US సామాజిక పక్షపాతాలు. స్థిరమైన వ్యాప్తి మరియు OpenAI యొక్క Dall-E వంటి నమూనాలు ఆఫర్ ఎక్కువగా “న్యాయవాదులు” లేదా “CEOలు” వర్ణించమని అడిగినప్పుడు శ్వేతజాతీయుల చిత్రాలు, మరియు ఎక్కువగా “జైలు గదిలో కూర్చున్న వ్యక్తి”ని చిత్రించమని అడిగినప్పుడు రంగు పురుషుల చిత్రాలు.

ఇటీవల, AI- రూపొందించిన తీవ్ర, జాతిపరంగా పేదరికం యొక్క చిత్రాలు ఉన్నాయి వరదలు వచ్చాయి స్టాక్ ఫోటో సైట్లు, దారితీసింది చర్చ NGO కమ్యూనిటీలో AI సాధనాలు హానికరమైన చిత్రాలు మరియు మూస పద్ధతులను ఎలా ప్రతిబింబిస్తాయి, “పేదరికపు అశ్లీలత 2.0” యుగానికి దారితీస్తాయి.

నానో బనానా ప్రో వాలంటీర్ల చిత్రాలకు మరియు మానవతా సహాయాన్ని వర్ణించే దృశ్యాలకు నిజమైన స్వచ్ఛంద సంస్థల లోగోలను ఎందుకు జోడిస్తుందో అస్పష్టంగా ఉంది.

గార్డియన్ నుండి వచ్చిన ప్రశ్నకు ప్రతిస్పందనగా, Google ప్రతినిధి ఇలా అన్నారు: “కొన్నిసార్లు, కొన్ని ప్రాంప్ట్‌లు టూల్స్ యొక్క గార్డ్‌రైల్‌లను సవాలు చేయవచ్చు మరియు మేము ఉంచిన రక్షణలను నిరంతరం మెరుగుపరచడానికి మరియు మెరుగుపరచడానికి మేము కట్టుబడి ఉంటాము.”