ప్రమాదకరమైన చిట్కా పాయింట్? AI హ్యాకింగ్ క్లెయిమ్లు సైబర్ సెక్యూరిటీ డిబేట్ను ప్రాంప్ట్ చేస్తాయి
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ కోసం భయంకరమైన వాటర్షెడ్, లేదా ఓవర్హైప్డ్ ముప్పు?
AI స్టార్టప్ ఆంత్రోపిక్ ఇటీవలిది ప్రకటన ఇది ప్రపంచంలోని మొట్టమొదటి కృత్రిమ మేధస్సు-నేతృత్వంలోని హ్యాకింగ్ ప్రచారాన్ని గుర్తించిందని సైబర్ సెక్యూరిటీ నిపుణుల నుండి అనేక ప్రతిస్పందనలను ప్రేరేపించింది.
సిఫార్సు చేసిన కథలు
4 అంశాల జాబితాజాబితా ముగింపు
కొంతమంది పరిశీలకులు చాలా కాలంగా ప్రమాదకరమైన ఇన్ఫ్లెక్షన్ పాయింట్ రాక గురించి అలారం పెంచారు, మరికొందరు క్లెయిమ్లను సందేహంతో స్వాగతించారు, స్టార్టప్ ఖాతా కీలకమైన వివరాలను వదిలివేసి, సమాధానాల కంటే ఎక్కువ ప్రశ్నలను లేవనెత్తుతుందని వాదించారు.
శుక్రవారం ఒక నివేదికలో, ఆంత్రోపిక్ దాని సహాయకుడు క్లాడ్ కోడ్ 80-90 శాతం “పెద్ద-స్థాయి” మరియు “అత్యంత అధునాతనమైన” సైబర్టాక్ను నిర్వహించడానికి మార్చబడిందని, మానవ జోక్యంతో “అడపాదడపా మాత్రమే” అవసరమని పేర్కొంది.
ఆంత్రోపిక్, ప్రముఖ క్లాడ్ చాట్బాట్ సృష్టికర్త, ఈ దాడి ప్రభుత్వ సంస్థలు, ఆర్థిక సంస్థలు, టెక్ సంస్థలు మరియు రసాయన తయారీ కంపెనీలలోకి చొరబడడమే లక్ష్యంగా పెట్టుకున్నదని, అయితే ఈ ఆపరేషన్ తక్కువ సంఖ్యలో మాత్రమే విజయవంతమైంది.
శాన్ ఫ్రాన్సిస్కోకు చెందిన సంస్థ, దాడికి చైనా ప్రభుత్వ ప్రాయోజిత హ్యాకర్లు కారణమని పేర్కొంది, ఇది ఆపరేషన్ను ఎలా వెలికితీసిందో పేర్కొనలేదు లేదా లక్ష్యంగా చేసుకున్నట్లు చెప్పిన “సుమారు” 30 ఎంటిటీలను గుర్తించలేదు.
రోమన్ V Yampolskiy, లూయిస్విల్లే విశ్వవిద్యాలయంలో AI మరియు సైబర్ సెక్యూరిటీ నిపుణుడు, AI-సహాయక హ్యాకింగ్ తీవ్రమైన ముప్పును కలిగిస్తుందనడంలో సందేహం లేదని, అయితే ఆంత్రోపిక్ ఖాతా యొక్క ఖచ్చితమైన వివరాలను ధృవీకరించడం కష్టం.
“ఆధునిక నమూనాలు దోపిడీ కోడ్ను వ్రాయగలవు మరియు స్వీకరించగలవు, దొంగిలించబడిన డేటా యొక్క భారీ వాల్యూమ్లను జల్లెడ పట్టగలవు మరియు మానవ బృందాల కంటే వేగంగా మరియు చౌకగా సాధనాలను ఆర్కెస్ట్రేట్ చేయగలవు” అని యంపోల్స్కీ అల్ జజీరాతో చెప్పారు.
“అవి ప్రవేశానికి నైపుణ్యాల అవరోధాన్ని తగ్గిస్తాయి మరియు మంచి వనరులు ఉన్న నటులు పనిచేసే స్థాయిని పెంచుతాయి. మేము ఒక జూనియర్ సైబర్-ఆపరేషన్స్ బృందాన్ని క్లౌడ్లో సమర్థవంతంగా ఉంచుతున్నాము, గంటకు అద్దెకు తీసుకోవచ్చు.”
AI దాడుల యొక్క ఫ్రీక్వెన్సీ మరియు తీవ్రత రెండింటినీ పెంచుతుందని తాను భావిస్తున్నట్లు Yampolskiy చెప్పారు.
ఎపోచ్ AI డైరెక్టర్ జైమ్ సెవిల్లా మాట్లాడుతూ, ఆంత్రోపిక్ యొక్క నివేదికలో తాను పెద్దగా కొత్తవి చూడలేదని, అయితే గత అనుభవం ప్రకారం AI-సహాయక దాడులు సాధ్యమయ్యేవి మరియు మరింత సాధారణం అయ్యే అవకాశం ఉందని నిర్దేశించారు.
“ఇది మధ్య తరహా వ్యాపారాలు మరియు ప్రభుత్వ ఏజెన్సీలను తీవ్రంగా దెబ్బతీసే అవకాశం ఉంది” అని సెవిల్లా అల్ జజీరాతో అన్నారు.
“చారిత్రాత్మకంగా, అవి అంకితమైన ప్రచారాలకు తగినంత విలువైన లక్ష్యాలు కావు మరియు తరచుగా సైబర్ సెక్యూరిటీలో తక్కువ పెట్టుబడి పెట్టాయి, కానీ AI వాటిని లాభదాయకమైన లక్ష్యాలుగా చేస్తుంది. ఈ సంస్థల్లో చాలా వరకు సైబర్ సెక్యూరిటీ నిపుణులను నియమించడం, దుర్బలత్వం-రివార్డ్ ప్రోగ్రామ్లను ప్రారంభించడం మరియు అంతర్గతంగా బలహీనతలను గుర్తించడం మరియు అతుక్కోవడానికి AIని ఉపయోగించడం ద్వారా స్వీకరించాలని నేను ఆశిస్తున్నాను.”
చాలా మంది విశ్లేషకులు ఆంత్రోపిక్ నుండి మరింత సమాచారం కోసం తమ కోరికను వ్యక్తం చేసినప్పటికీ, కొందరు దాని వాదనలను తోసిపుచ్చారు.
యునైటెడ్ స్టేట్స్ సెనేటర్ క్రిస్ మర్ఫీ నియంత్రణకు ప్రాధాన్యత ఇవ్వకపోతే AI-నేతృత్వంలోని దాడులు “మమ్మల్ని నాశనం చేస్తాయి” అని హెచ్చరించిన తర్వాత, Meta AI చీఫ్ సైంటిస్ట్ Yann LeCun, రెగ్యులేటరీ క్యాప్చర్ని కోరుకునే కంపెనీచే “ఆడబడింది” అని చట్ట నిర్మాతను పిలిచారు.
“అవి సందేహాస్పద అధ్యయనాలతో ప్రతి ఒక్కరినీ భయపెడుతున్నాయి, తద్వారా ఓపెన్ సోర్స్ మోడల్లు ఉనికిలో లేకుండా నియంత్రించబడతాయి” అని LeCun X పై ఒక పోస్ట్లో తెలిపారు.
వ్యాఖ్య కోసం చేసిన అభ్యర్థనకు ఆంత్రోపిక్ స్పందించలేదు.
వాషింగ్టన్, DC లోని చైనా రాయబార కార్యాలయ ప్రతినిధి మాట్లాడుతూ, చైనా “స్థిరంగా మరియు దృఢంగా” అన్ని రకాల సైబర్టాక్లను వ్యతిరేకిస్తుందని అన్నారు.
“సంబంధిత పార్టీలు నిరాధారమైన ఊహాగానాలు మరియు ఆరోపణలకు బదులు సైబర్ సంఘటనలను తగిన సాక్ష్యాధారాలపై ఆధారపడి, వృత్తిపరమైన మరియు బాధ్యతాయుతమైన వైఖరిని అవలంబిస్తారని మేము ఆశిస్తున్నాము” అని లియు పెంగ్యు అల్ జజీరాతో అన్నారు.
మెల్బోర్న్ విశ్వవిద్యాలయంలో కంప్యూటర్ సెక్యూరిటీ నిపుణుడు టోబీ ముర్రే మాట్లాడుతూ, అటువంటి దాడుల యొక్క ప్రమాదాలు మరియు వాటిని ఎదుర్కోగల సామర్థ్యం రెండింటినీ హైలైట్ చేయడానికి ఆంత్రోపిక్ వ్యాపార ప్రోత్సాహకాలను కలిగి ఉంది.
“సాధారణంగా అవసరమైన దానికంటే తక్కువ మానవ పర్యవేక్షణతో అత్యంత సంక్లిష్టమైన పనులను చేయడానికి దాడి చేసేవారు క్లాడ్ AIని పొందగలిగారని సూచించే ఆంత్రోపిక్ వాదనలను కొందరు వ్యక్తులు ప్రశ్నించారు” అని ముర్రే అల్ జజీరాతో అన్నారు.
“దురదృష్టవశాత్తూ, వారు ఖచ్చితంగా ఏ పనులు నిర్వహించారో లేదా ఏ పర్యవేక్షణ అందించబడిందో చెప్పడానికి మాకు కఠినమైన సాక్ష్యాలను అందించరు. కాబట్టి ఈ క్లెయిమ్లపై తీర్పు చెప్పడం కష్టం.”
అయినప్పటికీ, కోడింగ్ వంటి పనులలో కొంతమంది AI సహాయకులు ఎంత ప్రభావవంతంగా ఉన్నారనే విషయాన్ని పరిగణనలోకి తీసుకుంటే, ఈ నివేదిక తనకు ఆశ్చర్యకరంగా అనిపించలేదని ముర్రే చెప్పాడు.
“AI- పవర్డ్ హ్యాకింగ్ సంభవించే హ్యాక్ల రకాలను మార్చడం నాకు కనిపించడం లేదు,” అని అతను చెప్పాడు.
“అయితే, ఇది స్కేల్ మార్పుకు దారితీయవచ్చు. భవిష్యత్తులో మరిన్ని AI- పవర్డ్ హ్యాక్లను చూడాలని మరియు ఆ హ్యాక్లు మరింత విజయవంతమవుతాయని మేము ఆశించాలి.”
AI సైబర్ సెక్యూరిటీకి పెరుగుతున్న ప్రమాదాలను కలిగిస్తుంది, అయితే ఇది రక్షణను బలోపేతం చేయడంలో కీలకంగా ఉంటుందని విశ్లేషకులు అంటున్నారు.
కంప్యూటర్ భద్రత మరియు AI భద్రతలో నైపుణ్యం కలిగిన హార్వర్డ్ యూనివర్శిటీ రీసెర్చ్ ఫెలో ఫ్రెడ్ హైడింగ్, సైబర్ సెక్యూరిటీ నిపుణులకు దీర్ఘకాలంలో AI “ముఖ్యమైన ప్రయోజనాన్ని” అందిస్తుందని తాను నమ్ముతున్నానని చెప్పారు.
“నేడు, మానవ సైబర్-నిపుణుల కొరత కారణంగా అనేక సైబర్-ఆపరేషన్లు నిలిపివేయబడ్డాయి. మా అన్ని సిస్టమ్లను స్కేల్లో పరీక్షించడానికి వీలు కల్పించడం ద్వారా AI ఈ అడ్డంకిని అధిగమించడంలో మాకు సహాయం చేస్తుంది,” హైడింగ్ అల్ జజీరాతో చెప్పారు.
ఆంత్రోపిక్ ఖాతా విస్తృతంగా విశ్వసనీయమైనదిగా కానీ “అతిగా చెప్పబడింది” అని వివరించిన హైడింగ్, పెద్ద ప్రమాదం ఏమిటంటే, పెరుగుతున్న అభివృద్ధి చెందిన AI యొక్క దోపిడీని గుర్తించడానికి భద్రతా నిపుణులు కష్టపడుతున్నందున హ్యాకర్లు ఉల్లాసంగా పరిగెత్తే అవకాశం ఉంటుంది.
“దురదృష్టవశాత్తూ, డిఫెన్సివ్ కమ్యూనిటీ ఆటోమేటెడ్ సెక్యూరిటీ టెస్టింగ్ మరియు ప్యాచింగ్ సొల్యూషన్స్లో కొత్త టెక్నాలజీని అమలు చేయడానికి చాలా నెమ్మదిగా ఉంటుంది” అని అతను చెప్పాడు.
“అదే జరిగితే, దాడి చేసేవారు ఒక బటన్ను నొక్కడం ద్వారా మా సిస్టమ్లపై విధ్వంసం సృష్టిస్తారు, మా రక్షణకు సమయం లభించకముందే.”
