పెంటగాన్‌కు వ్యతిరేకంగా ఆంత్రోపిక్ కేసు AI నియంత్రణ కోసం స్థలాన్ని తెరవగలదు

శాన్ ఫ్రాన్సిస్కో, యునైటెడ్ స్టేట్స్: కాలిఫోర్నియా న్యాయమూర్తి ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ ద్వారా ఆధారితమైన ఆయుధాల నియంత్రణ కోసం దాని పుష్‌లో ఆంత్రోపిక్‌కు సంభావ్య విజయానికి వేదికను ఏర్పాటు చేశారు, ఇది యునైటెడ్ స్టేట్స్ ప్రెసిడెంట్ డోనాల్డ్ ట్రంప్ పరిపాలనకు ఒక లోపం, ఇది కంపెనీని బిలియన్ల ప్రభుత్వ ఒప్పందాలను కోల్పోకుండా ఒక అడుగు దగ్గరగా తీసుకువస్తుంది.

ట్రంప్ అడ్మినిస్ట్రేషన్ పెరిగిన నియంత్రణపై దాని వైఖరికి ఆంత్రోపిక్‌ను “సరఫరా గొలుసు ప్రమాదం”గా పేర్కొంది, ఇది కంపెనీని కొన్ని సైనిక ఒప్పందాల నుండి నిరోధించే చర్య.

మానవ పర్యవేక్షణ లేకుండా ఆయుధాల కోసం లేదా సామూహిక నిఘా కోసం దాని కృత్రిమ మేధస్సు (AI) నమూనాల వినియోగాన్ని పరిమితం చేయడానికి ప్రయత్నించినందుకు యునైటెడ్ స్టేట్స్ డిపార్ట్‌మెంట్ ఆఫ్ డిఫెన్స్ చట్టవిరుద్ధంగా ఆంత్రోపిక్‌ను శిక్షించడానికి ప్రయత్నిస్తుండవచ్చని జిల్లా న్యాయమూర్తి చెప్పారు.

ఉత్తర కాలిఫోర్నియా జిల్లా కోర్టు న్యాయమూర్తి రీటా లిన్ మంగళవారం మాట్లాడుతూ, “ఇది ఆంత్రోపిక్‌ను నిర్వీర్యం చేసే ప్రయత్నంలా కనిపిస్తోంది.

రక్షణ శాఖ ద్వారా సప్లై చైన్ రిస్క్‌గా పేర్కొనబడకుండా ఆంత్రోపిక్‌కు ప్రాథమిక నిషేధాన్ని అందించడానికి ఇది వేదికగా మారుతుందని న్యాయ విశ్లేషకులు అంటున్నారు.

“వారి పేర్కొన్న లక్ష్యాలకు డిపార్ట్‌మెంట్ ఆఫ్ వార్ పూర్తిగా మద్దతు ఇవ్వలేదు” అని ఇన్‌స్టిట్యూట్ ఫర్ లా అండ్ AIలో సీనియర్ రీసెర్చ్ ఫెలో చార్లీ బుల్లక్, బోస్టన్ ఆధారిత థింక్ ట్యాంక్, రక్షణ శాఖ ఆంత్రోపిక్‌ను సరఫరా గొలుసు ప్రమాదంగా పేర్కొనడం గురించి చెప్పారు.

ఒక US కంపెనీగా నియమించబడటం ఇదే మొదటిసారి మరియు ఇది ప్రభుత్వ కాంట్రాక్టులతో పాటు ప్రభుత్వ కాంట్రాక్టర్ల ఒప్పందాలను కూడా రద్దు చేస్తుంది.

మార్చి 17న, రక్షణ శాఖ తన ఉత్పత్తులను AI-ఆధారిత ఆయుధాల కోసం మానవ పర్యవేక్షణ లేకుండా లేదా దేశీయ నిఘా కోసం ఉపయోగించకూడదనే ఆంత్రోపిక్ యొక్క వైఖరి దాని “సొంత చట్టబద్ధమైన కార్యకలాపాలను నియంత్రించే సామర్థ్యాన్ని” తగ్గిస్తుంది అని కోర్టుకు తెలిపింది.

ఆంత్రోపిక్ యొక్క దావా హోదాను తీసివేయడం అనేది AI యొక్క సామర్థ్యాల పరిధి, అవి జీవితాన్ని ఎలా ఆకృతి చేయగలవు మరియు అవి నియంత్రించబడతాయా అనే దాని గురించి విశదపరుస్తుంది.

“ప్రభుత్వం మరియు కంపెనీల మధ్య మనం ఎలాంటి సంబంధాలు కోరుకుంటున్నాము మరియు పౌరులకు ఎలాంటి హక్కులు ఉన్నాయి అనేదానిని ప్రతిబింబించే ఒక రకమైన సందర్భం ఇది” అని ఆక్స్‌ఫర్డ్ విశ్వవిద్యాలయం యొక్క ఆక్స్‌ఫర్డ్ మార్టిన్ AI గవర్నెన్స్ ఇనిషియేటివ్ సహ-డైరెక్టర్ రాబర్ట్ ట్రాగర్ చెప్పారు.

న్యూయార్క్ యూనివర్శిటీ యొక్క స్టెర్న్ స్కూల్ ఆఫ్ బిజినెస్‌లో బిజినెస్ అండ్ సొసైటీ క్లినికల్ అసోసియేట్ ప్రొఫెసర్ అలిసన్ టేలర్ ఇలా అన్నారు, “యుఎస్‌లో, సాంకేతికత సరుకు రవాణా రైలులాగా ముందుకు సాగుతోంది మరియు మానవ పర్యవేక్షణకు సంబంధించిన ఏదైనా ఆలోచన కష్టతరమవుతోంది. అయితే AI- సంబంధిత ఉద్యోగ నష్టాలు, డేటా సెంటర్లు, నిఘా మరియు ఆయుధాల నుండి ప్రజలు ఆందోళన చెందుతున్నారు.”

గత రెండు వారాలుగా, అనేక రకాల టెక్ కంపెనీలు, థింక్ ట్యాంక్‌లు మరియు లీగల్ గ్రూపులు ఆంత్రోపిక్ వైఖరికి మద్దతుగా కోర్టు బ్రీఫ్‌లను దాఖలు చేశాయి, ఆయుధాలు మరియు భారీ నిఘా కోసం AI యొక్క పర్యవేక్షణ మరియు నియంత్రణను కోరాయి. ఆ మద్దతు మైక్రోసాఫ్ట్ మరియు ఆంత్రోపిక్ యొక్క పోటీదారులైన OpenAI మరియు Google Inc ఉద్యోగుల నుండి కాథలిక్ మోరల్ థియాలజియన్స్ మరియు ఎథిసిస్ట్ వరకు ఉంటుంది.

వారి క్లుప్తంగా, OpenAI మరియు Google DeepMindకి చెందిన ఇంజనీర్లు, వారి వ్యక్తిగత సామర్థ్యాలను నమోదు చేస్తూ, ఈ కేసు “మా పరిశ్రమకు భూకంప ప్రాముఖ్యత” మరియు AI మోడల్స్ యొక్క “తార్కిక గొలుసు తరచుగా వారి ఆపరేటర్ల నుండి దాగి ఉంటుంది మరియు వారి అంతర్గత పనితీరు వారి డెవలపర్‌లకు కూడా అపారదర్శకంగా ఉంటుంది కాబట్టి ఆ నియంత్రణ చాలా ముఖ్యమైనది.”

అటువంటి ఆందోళనల నేపథ్యంలో, NYU యొక్క టేలర్ ఇలా అన్నాడు, “ఆంత్రోపిక్ ఒక ప్రమాదకరమైనది కానీ మంచి పందెం వేస్తుంది, అది జరిగినప్పుడు నైతిక AI కంపెనీగా తనను తాను ఉంచుకోవడం నియంత్రణను రూపొందించడంలో ఒక చేతిని అందిస్తుంది.”

భ్రాంతులు మరియు ఇతర సమస్యలు

ఆంత్రోపిక్ పెంటగాన్ కాంట్రాక్టులపై విస్తృతంగా పని చేసింది మరియు దాని క్లాడ్ గోవ్ మోడల్‌లు పలంటిర్ ప్రాజెక్ట్ మావెన్‌లో విలీనం చేయబడ్డాయి, ఇది డేటా విశ్లేషణ, లక్ష్య ఎంపిక మరియు ఇరాన్‌కి వ్యతిరేకంగా జరుగుతున్న US-ఇజ్రాయెల్ యుద్ధంతో సహా ఇతర అటువంటి పనులకు సహాయపడుతుంది.

AI-ఆధారిత ఆయుధాలు ప్రస్తుతం మానవ పర్యవేక్షణ లేకుండా ఉపయోగించబడనప్పటికీ, ఆంత్రోపిక్ రక్షణ శాఖతో తన ఒప్పందంలో మానవ పర్యవేక్షణను కొనసాగించాలని కోరింది, ఎందుకంటే AI నమూనాలు భ్రాంతి చెందగలవు మరియు ఇంకా పూర్తిగా నమ్మదగినవి కావు. అన్ని AI మోడళ్లలో భ్రాంతి ఆందోళన కలిగిస్తుంది, ఆయుధాలను ఉపయోగించడం వల్ల కలిగే హాని భారీ స్థాయిలో ఉంటుంది.

జార్జ్ మాసన్ యూనివర్సిటీ కాలేజ్ ఆఫ్ ఇంజినీరింగ్ అండ్ కంప్యూటింగ్‌లో సివిల్ ఇంజినీరింగ్ ప్రొఫెసర్ మరియు మాసన్ అటానమీ అండ్ రోబోటిక్ సెంటర్ డైరెక్టర్ మేరీ కమ్మింగ్స్, శాన్ ఫ్రాన్సిస్కోలో సెల్ఫ్ డ్రైవింగ్ కార్ల వల్ల జరిగిన అన్ని ప్రమాదాలలో సగం, అలాంటి కార్లు ఎక్కువగా మోహరించబడిందని, కారు తన వెనుక ఉన్న వస్తువును ఢీకొట్టడం వల్లే జరిగినట్లు కనుగొన్నారు.

“మేము దీనిని ఫాంటమ్ బ్రేకింగ్ అని పిలుస్తాము మరియు ఇది భ్రాంతి వలన కలుగుతుంది,” ఆమె అల్ జజీరాతో చెప్పింది.

ఫిబ్రవరి పేపర్‌లో, “AIని ఆయుధాలలో చేర్చడం వలన భ్రాంతులు సహా సెల్ఫ్ డ్రైవింగ్ కార్ల మాదిరిగానే విశ్వసనీయత సమస్యలు ఎదురవుతాయి” అని ఆమె హెచ్చరించింది.

ఈశాన్య విశ్వవిద్యాలయంలోని బౌవ్ కాలేజ్ ఆఫ్ హెల్త్ సైన్సెస్‌లో ఆరోగ్య వ్యవస్థలపై AI ప్రభావాన్ని పరిశోధించే అసిస్టెంట్ ప్రొఫెసర్ అన్నీకా స్కోయెన్ ఇలా అన్నారు, “భ్రాంతి మాత్రమే ఆందోళన కాదు. ఇలాంటి మోడల్‌లు విభిన్న వర్క్‌ఫ్లోలు, డేటా పక్షపాతాలు లేదా మోడల్ పక్షపాతాలను కలిగి ఉంటాయి. విదేశీ మానిప్యులేషన్ నుండి అవి ఎంత సురక్షితమైనవో మాకు ఇంకా తెలియదు. మరియు మనం ఏమి చేయలేము.

క్లౌడ్ గోవ్‌తో సహా AI మోడల్‌లు మిలటరీ చేత తయారు చేయబడనందున, వాటిని సైనిక వ్యవస్థల్లోకి చేర్చేటప్పుడు అవి ఎంత విశ్వసనీయంగా ఉన్నాయో పరీక్షించాల్సిన అవసరం ఉందని వాషింగ్టన్, DC ఆధారిత థింక్ ట్యాంక్, సెంటర్ ఫర్ స్ట్రాటజిక్ అండ్ ఇంటర్నేషనల్ స్టడీస్‌లోని వాధ్వాని AI సెంటర్ డైరెక్టర్ అలోక్ మెహతా చెప్పారు.

“మూల్యాంకనాలు మరియు బెంచ్‌మార్క్‌ల పరీక్ష వెనుకబడి ఉండవచ్చు. మోడల్‌లు మన వద్ద ఉన్న పరీక్షా వ్యవస్థలను సంతృప్తిపరుస్తాయి.”

మరికొందరు టెక్నాలజీని ఉపయోగించినంత మాత్రాన తప్పులు జరుగుతాయని అంటున్నారు.

“నాకు గుర్తుంది, లో [early] 2020లలో ఇటువంటి సాధనాలతో పౌర మరణాలు తగ్గుముఖం పడతాయనే ఆశ ఉంది” అని బర్కిలీ గోల్డ్‌మన్ స్కూల్ ఆఫ్ పబ్లిక్ పాలసీ మరియు బర్కిలీ రిస్క్ అండ్ సెక్యూరిటీ ల్యాబ్ వ్యవస్థాపకుడు కాలిఫోర్నియా విశ్వవిద్యాలయంలో అసోసియేట్ రీసెర్చ్ ప్రొఫెసర్ ఆండ్రూ రెడ్డి చెప్పారు.

“అయితే ఇది నిజంగా జరగలేదు ఎందుకంటే ఇది మీరు ఫీడ్ చేసే డేటాపై ఆధారపడి ఉంటుంది. సవాలు AI-నెస్ కాదు, కానీ అది చట్టబద్ధమైన లక్ష్యం ఏమిటి,” అతను సైనిక సిబ్బంది సాధనాల ద్వారా అందించబడిన శ్రేణి నుండి లక్ష్యాలను ఎలా ఎంచుకుంటారో చెప్పాడు.

దేశీయ సామూహిక నిఘాపై కూడా, పెంటగాన్ ప్రస్తుతం AIని ఉపయోగిస్తుందో లేదో అస్పష్టంగా ఉన్నప్పటికీ, OpenAI మరియు Google పరిశోధకులు తమ కోర్టు సమర్పణలలో దీని గురించి ఆందోళనలను నొక్కిచెప్పారు.

మొత్తం US జనాభాను పర్యవేక్షించడానికి 70 మిలియన్ కంటే ఎక్కువ కెమెరాలు, క్రెడిట్ కార్డ్ లావాదేవీల చరిత్రలు మరియు ఇతర డేటాను క్రోడీకరించవచ్చని వారు చెప్పారు. “అటువంటి సామర్ధ్యం ఉనికిలో ఉందనే అవగాహన కూడా ప్రజాస్వామ్య భాగస్వామ్యంపై చిల్లింగ్ ప్రభావాన్ని సృష్టిస్తుంది.”

‘ప్రజా సంబంధాల విజయం’

కోర్టు కేసు వరకు మరియు పెరుగుతున్న ప్రజా వ్యతిరేకత మధ్య, ఆంత్రోపిక్ దాని పోటీదారులలో చాలా మంది కంటే పెంటగాన్‌తో లోతైన సంబంధాన్ని కలిగి ఉందని మరియు ఇద్దరికీ ప్రయోజనం కలిగించిందని చెప్పబడింది.

“సైనిక ఉపయోగం కోసం ఆంత్రోపిక్ అత్యుత్తమ ఉత్పత్తిని కలిగి ఉందని పెంటగాన్ భావిస్తోంది, కనుక ఇది కంపెనీపై ఒత్తిడిని వర్తింపజేస్తోంది” అని CSIS యొక్క మెహతా చెప్పారు.

ఆంత్రోపిక్ విషయానికొస్తే, “AI పరిశ్రమకు ఆర్థికశాస్త్రం చాలా సవాలుగా ఉంది. కాబట్టి మీకు దాని బిలియన్ల డాలర్ల ఒప్పందాలతో బలమైన ప్రభుత్వ రంగ వ్యాపారం అవసరం,” అని ఆయన చెప్పారు.

ఆంత్రోపిక్ ఒప్పందం రద్దు అయిన వెంటనే పెంటగాన్‌తో కలిసి పనిచేయడానికి OpenAI ఆంత్రోపిక్ స్థానంలో అడుగుపెట్టింది. కానీ ఆంత్రోపిక్ “పదార్థంలో ఒకటి కాకపోయినా ప్రజా సంబంధాల విజయం” అని NYU యొక్క టేలర్ చెప్పారు.

నైతిక AI కంపెనీగా దాని స్థానం అది ప్రజల ప్రజాదరణను గెలుచుకుంది. రద్దు చేయబడిన ఒప్పందం తర్వాత వారాలలో క్లాడ్ యొక్క డౌన్‌లోడ్‌లు బాగా పెరిగాయి.

అయితే ఒక కంపెనీ లైన్‌లు గీయాల్సి రావడం ప్రభుత్వ వైఫల్యాన్ని సూచిస్తోందని ఆక్స్‌ఫర్డ్ ప్రోగ్రామ్ ఫర్ సైబర్ అండ్ టెక్నాలజీ పాలసీ ఎగ్జిక్యూటివ్ డైరెక్టర్ బ్రియానా రోసెన్ చెప్పారు.

“మొదటిసారిగా, యునైటెడ్ స్టేట్స్ ఇరాన్‌లో పెద్ద ఎత్తున పోరాట కార్యకలాపాలలో లక్ష్యాలను రూపొందించడానికి AIని ఉపయోగిస్తోంది” అని ఆమె చెప్పింది. “మరియు చట్టసభ సభ్యులు ఇప్పటికీ పూర్తిగా స్వయంప్రతిపత్తి కలిగిన ఆయుధాలపై ఎరుపు గీతలు గీయడంపై చర్చిస్తున్నారు. పాలన లేకపోవడం జాతీయ భద్రతకు సంబంధించిన ప్రమాదం.”

AI ఆయుధాల నియంత్రణపై చర్చ ఇతర రంగాలలో AI ఆవిష్కరణను అతిగా నియంత్రించడానికి ప్రజల ఆందోళన మరియు నిరాకరణ మధ్య అంతరాన్ని మాత్రమే పెంచుతుంది. AI నుండి సంభావ్య ఉద్యోగ నష్టాలు మరియు వాతావరణ మార్పు ప్రభావాల గురించి అమెరికన్లు ఆందోళన చెందుతున్నారని పోల్స్ చూపించాయి. క్విన్నిపాక్ విశ్వవిద్యాలయం ఏప్రిల్ 2025 పోల్‌లో 69 శాతం మంది అమెరికన్లు AIని నియంత్రించడానికి ప్రభుత్వం మరింత చేయగలదని భావించారు.

ఈ చీలిక కారణంగా AI పరిశ్రమ 2026 మధ్యంతర ఎన్నికల్లో ప్రధాన దాతగా అవతరించింది. లీడింగ్ ది ఫ్యూచర్, ఓపెన్‌ఏఐ ప్రెసిడెంట్ గ్రెగ్ బ్రాక్‌మన్, పాలంటిర్ సహ వ్యవస్థాపకుడు జో లోన్స్‌డేల్ మరియు ఇతరుల నుండి $100 మిలియన్ కంటే ఎక్కువ అందుకున్న సూపర్ PAC, కాంగ్రెస్ కోసం పోటీ చేస్తున్న న్యూయార్క్ అసెంబ్లీ సభ్యుడు అలెక్స్ బోర్స్‌కు వ్యతిరేకంగా ప్రకటనలకు నిధులు సమకూర్చింది. AI డెవలపర్‌లు భద్రతా ప్రోటోకాల్‌లు లేదా ప్రమాదాలను బహిర్గతం చేయడాన్ని తప్పనిసరి చేసే RAISE చట్టాన్ని బోర్స్ స్పాన్సర్ చేసింది.

ఫిబ్రవరిలో, ఆంత్రోపిక్ పబ్లిక్ ఫస్ట్ యాక్షన్‌కి $20 మిలియన్ల విరాళాన్ని ప్రకటించింది, ఇది బోర్స్‌తో సహా AI నియంత్రణకు అనుకూలంగా అభ్యర్థులకు మద్దతునిస్తుంది.

AI కంపెనీలు తమ మోడల్‌లను పరీక్షించడం మరియు మూల్యాంకనం చేయడం కోసం పరిశ్రమ ప్రమాణాలను అభివృద్ధి చేయాలని చూస్తున్నప్పుడు, ఆంత్రోపిక్ నియంత్రణ కోసం ఒత్తిడి చేస్తోంది, ఎందుకంటే చెడు నటులు అటువంటి నాన్-బైండింగ్ ప్రమాణాలను ఉల్లంఘించవచ్చు అని ఇన్‌స్టిట్యూట్ ఫర్ లా మరియు AI యొక్క బుల్లక్ చెప్పారు.

ఆంత్రోపిక్ కేసుపై కోర్టు నిర్ణయం మరియు రాబోయే మధ్యంతర ఎన్నికల మధ్య, నిపుణులు ఆ సంఘటనలు AI నియంత్రణ యొక్క కోర్సును నిర్ణయించగలవని చెప్పారు.

“ఇది మరింత ఉద్దేశపూర్వక విధాన అభివృద్ధికి స్థలాన్ని సృష్టించగలదు” అని ఆక్స్‌ఫర్డ్ యొక్క రోసెన్ చెప్పారు.