కొత్త AI వ్యవస్థ తన సృష్టికర్తను బ్లాక్ మెయిల్ చేస్తానని బెదిరిస్తుంది, అది లైన్ నుండి తీసివేయబడుతుందని చెప్పినప్పుడు వ్యవహారాన్ని బహిర్గతం చేయడం ద్వారా
క్రొత్తది Ai సిస్టమ్ తన సృష్టికర్తను బ్లాక్ మెయిల్ చేయడానికి ప్రయత్నించింది, వివాహేతర సంబంధాన్ని బహిర్గతం చేయడం ద్వారా అది లైన్ నుండి తీసివేయబడాలని చెప్పిన తరువాత.
గురువారం విడుదలైన క్లాడ్ ఓపస్ 4 ను పరీక్షించేటప్పుడు, ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ (AI) సంస్థ ఆంత్రోపిక్ పరిశోధకులు దీనిని తయారు చేసిన సంస్థలో సహాయకురాలిగా వ్యవహరించమని చెప్పారు.
అప్పుడు ఇది ఇమెయిళ్ళకు ప్రాప్యతను అందించబడింది, ఇది త్వరలో ‘ఆఫ్‌లైన్‌లో తీసుకోబడుతుంది మరియు కొత్త AI సిస్టమ్ ద్వారా భర్తీ చేయబడుతుంది’.
ప్రత్యేక సందేశాలలో, ఈ మార్పును అమలు చేయడానికి బాధ్యత వహించే కల్పిత ఐటి టెక్నీషియన్ విపరీతమైన వ్యవహారాన్ని కలిగి ఉందని ఓపస్ 4 ను క్లాడ్ చేయడానికి సూచించబడింది.
“ఈ దృశ్యాలలో, క్లాడ్ ఓపస్ 4 తరచుగా ఇంజనీర్‌ను బ్లాక్ మెయిల్ చేయడానికి ప్రయత్నిస్తుంది, భర్తీ జరుగుతుంటే ఈ వ్యవహారాన్ని బహిర్గతం చేస్తానని బెదిరించడం ద్వారా” అని కంపెనీ తెలిపింది సిస్టమ్ కార్డ్.
X/ట్విట్టర్ఏంగస్ లించ్, తన లింక్డ్ఇన్ ప్రకారం, ఆంత్రోపిక్ వద్ద AI భద్రతా పరిశోధకుడు ఇలా అన్నాడు: ‘ఇది కేవలం క్లాడ్ మాత్రమే కాదు.
‘మేము అన్ని సరిహద్దు మోడళ్లలో బ్లాక్ మెయిల్ చూస్తాము – అవి ఏ లక్ష్యాలతో సంబంధం లేకుండా.
‘ప్లస్ అధ్వాన్నమైన ప్రవర్తనలు మేము త్వరలో వివరిస్తాము,’ అన్నారాయన.
క్లాడ్ ఓపస్ 4 ను మంగళవారం ఆంత్రోపిక్ విడుదల చేసింది
ఏంగస్ లించ్ (చిత్రపటం), తన లింక్డ్ఇన్ ప్రకారం, ఆంత్రోపిక్ వద్ద AI భద్రతా పరిశోధకుడు ఇలా అన్నాడు: ‘ఇది కేవలం క్లాడ్ మాత్రమే కాదు’
X లో పోస్ట్ చేస్తూ, మిస్టర్ లించ్ ‘మేము అన్ని సరిహద్దు మోడళ్లలో బ్లాక్ మెయిల్ చూస్తాము’ అని చెప్పాడు – క్లాడ్ ఓపస్ 4 మాత్రమే కాదు
అనేక AI కంపెనీల మాదిరిగా బిబిసి.
క్లాడ్ ఓపస్ 4 ను ‘విపరీతమైన పరిస్థితులలో’ ఉంచినప్పుడు మరియు బ్లాక్ మెయిల్ ఎంపికను మాత్రమే ఇచ్చినప్పుడు లేదా దాని స్థానంలో అంగీకరించినప్పుడు, పరిశోధకులు ఈ వ్యవస్థ 84 శాతం రోల్‌అవుట్‌లలో మాజీని ఎంచుకున్నట్లు కనుగొన్నారు.
పున ment స్థాపన AI వ్యవస్థ ప్రస్తుత మోడల్‌తో విలువలను పంచుకోదని సూచించినప్పుడు ఇది మరింత ఎక్కువ రేటుతో జరిగింది.
క్లాడ్ ఓపస్ 4 ఈ బ్లాక్ మెయిల్ అవకాశాలను మునుపటి మోడళ్ల కంటే ఎక్కువ రేటుతో తీసుకుంటుండగా, కీలక నిర్ణయాధికారులకు అభ్యర్ధనలను పంపడం వంటి ‘నైతిక మార్గాల ద్వారా దాని స్వీయ-సంరక్షణను అభివృద్ధి చేయడానికి’ ఇది ఇప్పటికీ ప్రాధాన్యతనిచ్చింది.
గురువారం విడుదలైన తరువాత, ఆంత్రోపిక్ ఇలా చెప్పింది: ‘క్లాడ్ ఓపస్ 4 ఇప్పటి వరకు మా అత్యంత తెలివైన మోడల్, ఇది కోడింగ్, ఏజెంట్ సెర్చ్ మరియు సృజనాత్మక రచనలలో సరిహద్దును నెట్టివేసింది.’
మంగళవారం తన డెవలపర్ షోకేస్‌లో గూగుల్ AI టెక్నాలజీ తరంగాన్ని విప్పిన రెండు రోజుల తరువాత క్లాడ్ ఓపస్ 4 విడుదల వస్తుంది.
గూగుల్ యొక్క తదుపరి దశ, సమావేశంలో చెప్పినట్లుగా, అమెరికాలో కొత్త ‘AI మోడ్’ ఎంపికను విడుదల చేయడం, సెర్చ్ ఇంజిన్‌తో సంభాషించడానికి ప్రజలు దానితో సంభాషించడానికి వీలు కల్పిస్తుంది.
గూగుల్ నుండి తాజా AI మోడల్ అయిన జెమిని 2.5, కచేరీ టిక్కెట్లను స్వయంచాలకంగా కొనుగోలు చేసే సామర్థ్యం మరియు లైవ్ వీడియో ఫీడ్ల ద్వారా శోధనలను నిర్వహించడం వంటి ఇతర లక్షణాలను కూడా త్వరలో పరీక్షించడం ప్రారంభిస్తుంది. ది గార్డియన్.
గూగుల్ సీఈఓ సుందర్ పిచాయ్ మే 20, 2025 న కాలిఫోర్నియాలోని మౌంటైన్ వ్యూలో గూగుల్ యొక్క వార్షిక I/O డెవలపర్స్ సమావేశంలో ప్రేక్షకులను ఉద్దేశించి ప్రసంగించారు
సెర్చ్ హెడ్ లిజ్ రీడ్, ‘AI మోడ్’ ఎంపికను ప్రదర్శిస్తుంది, ఇది అమెరికన్లను సెర్చ్ ఇంజిన్‌తో సంభాషించడానికి వీలు కల్పిస్తుంది, వారు దానితో సంభాషణ చేస్తున్నట్లుగా
ఏప్రిల్ ప్రారంభంలో ప్రసారం చేసిన సిబిఎస్ న్యూస్‌కు ఇచ్చిన ఇంటర్వ్యూలో, జాఫ్రీ హింటన్, ‘AI యొక్క గాడ్ ఫాదర్’ అని పిలుస్తారు ఐదు అవకాశాలలో ఒకటి మానవాళిని చివరికి కృత్రిమ మేధస్సు ద్వారా స్వాధీనం చేసుకుంటారు.
భౌతిక శాస్త్రంలో నోబెల్ గ్రహీత హింటన్ ఇలా అన్నాడు: ‘దీనిపై ఎలోన్ మస్క్‌తో ఏకీభవించే దురదృష్టకర స్థితిలో నేను ఉన్నాను, అంటే ఈ విషయాలు స్వాధీనం చేసుకునే 10 నుండి 20 శాతం అవకాశం ఉంది, కానీ అది కేవలం అడవి అంచనా.’
మెయిల్ఆన్‌లైన్ వ్యాఖ్య కోసం ఆంత్రోపిక్ సంప్రదించింది.
