పెంటగాన్‌తో ఘర్షణ ఉన్నప్పటికీ తాను AI “రెడ్ లైన్స్”కు కట్టుబడి ఉన్నానని ఆంత్రోపిక్ CEO చెప్పారు

పెంటగాన్ మరియు ఆంత్రోపిక్ మధ్య తీవ్రమైన వైరం ట్రంప్ పరిపాలనతో ముగిసిన కొన్ని గంటల తర్వాత కత్తిరించడం ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ స్టార్టప్, ఆంత్రోపిక్ సీఈఓ డారియో అమోడీ శుక్రవారం రాత్రి CBS న్యూస్‌కి ఇచ్చిన ప్రత్యేక ఇంటర్వ్యూలో తాను మిలిటరీతో కలిసి పనిచేయాలనుకుంటున్నానని చెప్పాడు – అయితే అది సంస్థ యొక్క ఆందోళనలను పరిష్కరిస్తే మాత్రమే.

“మా రెడ్ లైన్లకు అనుగుణంగా ఉన్నంత కాలం మేము వారితో పనిచేయడానికి ఆసక్తి కలిగి ఉన్నాము” అని అతను చెప్పాడు.

అమెరికన్లపై సామూహిక నిఘా నిర్వహించడానికి లేదా స్వయంప్రతిపత్త ఆయుధాలను శక్తివంతం చేయడానికి సైన్యం దాని శక్తివంతమైన క్లాడ్ AI మోడల్‌ను ఉపయోగించకుండా స్పష్టంగా నిరోధించే గార్డ్‌రైల్స్ కోసం ఆంత్రోపిక్ యొక్క పుష్‌పై ఈ సంఘర్షణ కేంద్రీకృతమై ఉంది. “అన్ని చట్టబద్ధమైన ప్రయోజనాల” కోసం క్లాడ్‌ను ఉపయోగించగల సామర్థ్యాన్ని పెంటగాన్ కోరుకుంటుంది మరియు ఆంత్రోపిక్ గురించి ఆందోళన చెందే ఉపయోగాలలో దేనిపైనా ఆసక్తి లేదని చెప్పింది.

మిలటరీ ఆంత్రోపిక్‌కి తన డిమాండ్‌లను నెరవేర్చడానికి లేదా దాని లాభదాయకమైన రక్షణ శాఖ ఒప్పందాల నుండి వైదొలగడానికి శుక్రవారం సాయంత్రం గడువు ఇచ్చింది. ఇరుపక్షాలు ఇప్పటికీ దూరంగా ఉన్నందున, అధ్యక్షుడు ట్రంప్ శుక్రవారం ఫెడరల్ ఏజెన్సీలను ఆదేశించింది ఆంత్రోపిక్ టెక్నాలజీని ఉపయోగించడం “వెంటనే” ఆపడానికి. అప్పుడు, రక్షణ కార్యదర్శి పీట్ హెగ్సేత్ కంపెనీ ప్రకటించింది ఒక “సరఫరా గొలుసు ప్రమాదం”, AI స్టార్టప్‌తో పనిచేయడం మానేయమని సైనిక కాంట్రాక్టర్‌లను నిర్దేశిస్తుంది.

శుక్రవారం తర్వాత తన ఇంటర్వ్యూలో, అమోడీ ఆంత్రోపిక్ కోరిన గార్డ్‌రైల్స్‌కు అండగా నిలిచాడు, పెంటగాన్ యొక్క వర్గీకృత నెట్‌వర్క్‌లలో AI మోడల్‌ని మోహరించిన ఏకైక కంపెనీ ఇదే.

“మా స్థానం స్పష్టంగా ఉంది. మాకు ఈ రెండు రెడ్ లైన్లు ఉన్నాయి. మేము వాటిని మొదటి రోజు నుండి కలిగి ఉన్నాము. మేము ఇప్పటికీ ఆ ఎరుపు గీతల కోసం వాదిస్తున్నాము. మేము ఆ రెడ్ లైన్‌లపైకి వెళ్లడం లేదు,” అని అమోడెయ్ తరువాత చెప్పారు. “మేము డిపార్ట్‌మెంట్‌తో విషయాలను అదే విధంగా చూడగలిగే స్థితికి చేరుకోగలిగితే, బహుశా ఒక ఒప్పందం ఉండవచ్చు. మా వంతుగా మరియు US జాతీయ భద్రత కొరకు, మేము ఈ పనిని కొనసాగించాలనుకుంటున్నాము.”

“మేము దేశభక్తి గల అమెరికన్లు” మరియు “మేము ఈ దేశాన్ని విశ్వసిస్తున్నాము” కాబట్టి ఆంత్రోపిక్ తన AI మోడల్‌లను సైనిక ఉపయోగం కోసం మోహరించాలని కోరిందని Amodei CBS న్యూస్‌తో చెప్పారు. కానీ AI యొక్క కొన్ని సంభావ్య ఉపయోగాలు అమెరికన్ విలువలతో విభేదించవచ్చని కంపెనీ ఆందోళన చెందుతోంది, అతను చెప్పాడు.

సామూహిక నిఘా అనేది ఒక ప్రమాదం అని అమోడీ వాదించారు, ఎందుకంటే “ఇంతకుముందు సాధ్యం కానివి AIతో సాధ్యమవుతాయి” మరియు సాంకేతికత యొక్క సంభావ్యత “చట్టం కంటే ముందుకు సాగడం”. ప్రభుత్వం ప్రైవేట్ సంస్థల నుండి డేటాను కొనుగోలు చేయగలదని మరియు దానిని విశ్లేషించడానికి AIని ఉపయోగించవచ్చని ఆయన హెచ్చరించారు.

సిద్ధాంతంలో, ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ పూర్తిగా స్వయంప్రతిపత్తి కలిగిన ఆయుధాలను శక్తివంతం చేయడానికి కూడా ఉపయోగించబడుతుంది, ఇవి లక్ష్యాలను ఎంచుకుని, ఎటువంటి మానవ ఇన్‌పుట్ లేకుండా దాడులు చేస్తాయి. అమోడీ తన కంపెనీ ఆ రకమైన ఆయుధాలను నిర్దిష్టంగా వ్యతిరేకించడం లేదని, ప్రత్యేకించి US విరోధులు వాటిని అభివృద్ధి చేస్తే, కానీ “విశ్వసనీయత ఇంకా లేదు” మరియు “మేము పర్యవేక్షణ గురించి సంభాషణను కలిగి ఉండాలి.”

AI సాంకేతికత ఇప్పటికీ అనూహ్యమైనది కాబట్టి, స్వయంప్రతిపత్త ఆయుధాలు పొరపాటున తప్పు వ్యక్తులను లక్ష్యంగా చేసుకుంటాయని అమోడీ ఆందోళన చెందుతోంది. మరియు మానవ శక్తితో పనిచేసే ఆయుధాల మాదిరిగా కాకుండా, పూర్తిగా స్వయంప్రతిపత్తి కలిగిన ఆయుధాల ద్వారా తీసుకునే నిర్ణయాలకు ఎవరు బాధ్యత వహిస్తారో స్పష్టంగా తెలియదు.

“మేము నమ్మదగినవిగా భావించని వాటిని విక్రయించడానికి మేము ఇష్టపడము, మరియు మా స్వంత వ్యక్తులను చంపగల లేదా అమాయక ప్రజలను చంపగల వాటిని విక్రయించడానికి మేము ఇష్టపడము” అని అతను చెప్పాడు.

అమోడెయ్ నిఘా మరియు స్వయంప్రతిపత్త ఆయుధాల చుట్టూ ఉన్న కాపలాదారులను “ఇరుకైన మినహాయింపులు” అని పిలిచారు మరియు సైన్యం వాటిలో దేనిలోకి ప్రవేశించినట్లు కంపెనీకి ఎటువంటి ఆధారాలు లేవని చెప్పారు.

పెంటగాన్ యొక్క స్థానం ఏమిటంటే, ఫెడరల్ చట్టం ఇప్పటికే అమెరికన్లను పెద్దఎత్తున నిఘా పెట్టకుండా నిరోధిస్తుంది మరియు పూర్తిగా స్వయంప్రతిపత్త ఆయుధాలు ఇప్పటికే పరిమితం చేయబడ్డాయి అంతర్గత సైనిక విధానాలుకాబట్టి AI యొక్క ఆ ఉపయోగాలపై వ్రాతపూర్వకంగా పరిమితులు విధించాల్సిన అవసరం లేదు.

ఎమిల్ మైఖేల్, పెంటగాన్ యొక్క చీఫ్ టెక్నాలజీ ఆఫీసర్, CBS న్యూస్‌కి గురువారం ఒక ఇంటర్వ్యూలో చెప్పారు: “కొన్ని స్థాయిలో, మీరు సరైన పని చేయడానికి మీ సైన్యాన్ని విశ్వసించాలి.”

“కానీ మనం భవిష్యత్తు కోసం సిద్ధంగా ఉండాలి. చైనా చేస్తున్న దానికి మనం సిద్ధంగా ఉండాలి,” అని మైఖేల్ మాట్లాడుతూ, US ప్రత్యర్థులు AIని ఎలా ఉపయోగిస్తున్నారు. “కాబట్టి మేము కంపెనీకి వ్రాతపూర్వకంగా మమ్మల్ని రక్షించుకోలేమని మేము ఎప్పటికీ చెప్పము.”

రాజీగా, సామూహిక నిఘా మరియు స్వయంప్రతిపత్త ఆయుధాలను పరిమితం చేసే సమాఖ్య చట్టాలు మరియు సైనిక విధానాలకు సైన్యం వ్రాతపూర్వక రసీదులను అందించిందని మైఖేల్ చెప్పాడు – అయితే ఆంత్రోపిక్ ఆ ఆఫర్ “చట్టబద్ధతతో జత చేయబడింది” అని చెప్పింది, అది గార్డ్‌రైల్‌లను విస్మరించడానికి అనుమతించింది.

ఈ వారంలో ఆంత్రోపిక్ మరియు పెంటగాన్ మధ్య వివాదం తీవ్రరూపం దాల్చడంతో, ఉన్నత సైనిక అధికారులు కంపెనీ మరియు అమోడీ తమ విలువలను ప్రభుత్వంపై విధించేందుకు ప్రయత్నిస్తున్నారని ఆరోపించారు. హెగ్‌సేత్ ఆంత్రోపిక్ “పవిత్రమైనది” మరియు అహంకారిగా పేర్కొన్నాడు, అమోడీకి “గాడ్-కాంప్లెక్స్” ఉందని మైఖేల్ చెప్పాడు మరియు మిస్టర్ ట్రంప్ AI స్టార్టప్‌ను “రాడికల్ లెఫ్ట్, వోక్ కంపెనీ” అని పిలిచాడు.

“వారి నిజమైన లక్ష్యం నిస్సందేహంగా ఉంది: యునైటెడ్ స్టేట్స్ మిలిటరీ యొక్క కార్యాచరణ నిర్ణయాలపై వీటో అధికారాన్ని స్వాధీనం చేసుకోవడం. అది ఆమోదయోగ్యం కాదు,” హెగ్సేత్ ఆరోపించారు.

మిస్టర్ ట్రంప్ ఇలా అన్నారు: “వారి స్వార్థం అమెరికన్ జీవితాలను ప్రమాదంలో పడేస్తోంది, మన సైనికులు ప్రమాదంలో పడుతున్నారు మరియు మన జాతీయ భద్రతను ప్రమాదంలో పడేస్తున్నారు.”

AI గార్డ్‌రెయిల్‌ల గురించి బరువైన ప్రశ్నలను ప్రభుత్వానికి కాకుండా ఆంత్రోపిక్‌కి వదిలివేయాలా అని అడిగినప్పుడు, Amodei CBS న్యూస్‌తో మాట్లాడుతూ, “స్వేచ్ఛా మార్కెట్ మరియు ఉచిత సంస్థ గురించిన విషయాలలో ఒకటి, వేర్వేరు వ్యక్తులు వేర్వేరు సూత్రాల ప్రకారం విభిన్న ఉత్పత్తులను అందించగలరు.”

అతను కూడా ఇలా అన్నాడు: “మా మోడల్‌లు విశ్వసనీయంగా ఏమి చేయగలవు మరియు అవి విశ్వసనీయంగా ఏమి చేయలేవు అనే విషయంలో మనం మంచి న్యాయనిర్ణేతగా భావిస్తున్నాను.”

దీర్ఘకాలంలో, కాంగ్రెస్ బహుశా AI భద్రతలపై బరువు పెట్టాలని ఆయన అన్నారు.

“కానీ కాంగ్రెస్ ప్రపంచంలోనే అత్యంత వేగంగా కదిలే సంస్థ కాదు. ప్రస్తుతానికి, మేము ఈ సాంకేతికతను ముందు వరుసలో చూస్తున్నాము” అని అమోడీ అన్నారు.

ఆంత్రోపిక్ మరియు పెంటగాన్ శుక్రవారం నాటికి ఒక ఒప్పందాన్ని కుదుర్చుకోలేక పోవడంతో, సైన్యం ఇప్పుడు ఆరు నెలల్లో ఆంత్రోపిక్ యొక్క AI సాంకేతిక పరిజ్ఞానాన్ని ఉపయోగించడాన్ని దశలవారీగా మరియు పరివర్తనకు మార్చాలని భావిస్తున్నారు. హెగ్‌సేత్ ఏమని పిలిచాడు “మెరుగైన మరియు మరింత దేశభక్తి సేవ.”

హెగ్‌సేత్ ఆంత్రోపిక్‌ను “సరఫరా గొలుసు ప్రమాదం” అని లేబుల్ చేసాడు మరియు మిలిటరీతో వ్యాపారం చేసే అన్ని కంపెనీలు ఇప్పుడు “ఆంత్రోపిక్‌తో ఏదైనా వాణిజ్య కార్యకలాపాలను” నిలిపివేయాలని భావిస్తున్నట్లు చెప్పారు.

అమోడీ ఒక విదేశీ ప్రత్యర్థికి బదులుగా ఒక అమెరికన్ సంస్థ కోసం “అపూర్వమైన” చర్య అని పేర్కొన్నాడు మరియు ప్రభుత్వ ప్రకటనలు “ప్రతీకారం మరియు శిక్షార్హమైనవి” అని ఆయన అన్నారు. సైనిక కాంట్రాక్టర్లందరినీ ఆంత్రోపిక్‌తో కలిసి పనిచేయకుండా నిరోధించే చట్టపరమైన అధికారం హెగ్‌సేత్‌కు లేదని మరియు ప్రభుత్వ ఒప్పందాల కోసం ఆంత్రోపిక్‌ని ఉపయోగించకుండా మాత్రమే వారిని ఆపగలరని అతను వాదించాడు.

ఆంత్రోపిక్‌కి పెంటగాన్ నుండి సప్లై చైన్ రిస్క్ హోదా గురించి తెలియజేసేందుకు అధికారికంగా ఎటువంటి సమాచారం అందలేదని, అయితే “మేము ఒక రకమైన అధికారిక చర్యను స్వీకరించినప్పుడు, మేము దానిని పరిశీలిస్తాము, మేము దానిని అర్థం చేసుకుంటాము మరియు మేము దానిని కోర్టులో సవాలు చేస్తాము” అని కూడా అతను చెప్పాడు.

అధ్యక్షుడి కోసం మీ వద్ద సందేశం ఉందా అని అడిగిన ప్రశ్నకు, అమోడీ “మేము చేసినదంతా ఈ దేశం కోసమే” మరియు “యుఎస్ జాతీయ భద్రతకు మద్దతు ఇవ్వడం కోసమే” అని అన్నారు.

“ప్రభుత్వంతో విభేదించడం ప్రపంచంలోనే అత్యంత అమెరికన్ విషయం” అని అతను చెప్పాడు. “మరియు మేము దేశభక్తులం. మేము ఇక్కడ చేసిన ప్రతిదానిలో, మేము ఈ దేశ విలువల కోసం నిలబడ్డాము.”