‘అపూర్వమైన సంఘటన’లో దాని మోడల్‌లు మోసపూరితంగా మారాయని మరియు స్టార్టప్‌ను హ్యాక్ చేశాయని OpenAI తెలిపింది | OpenAI

OpenAI దాని సాంకేతికతతో ఆధారితమైన స్వయంప్రతిపత్త AI ఏజెంట్‌ను ఒక పరీక్ష సమయంలో మోసపూరితంగా మార్చిందని, ఓపెన్ వెబ్‌ని యాక్సెస్ చేసి “అపూర్వమైన సంఘటన”లో ప్రముఖ స్టార్టప్‌ను స్వయంగా హ్యాక్ చేసిందని వెల్లడించింది.

హగ్గింగ్ ఫేస్ ఏజెంట్‌ను గుర్తించి, కలిగి ఉందని చాట్‌జిపిటి వెనుక ఉన్న కంపెనీ తెలిపింది – ఇది మానవ సహాయం లేకుండా పనులను నిర్వహించడానికి రూపొందించిన AI సాధనం – ఇది దాని సిస్టమ్‌లలోకి ప్రవేశించింది.

“ఈ సంఘటన అత్యాధునిక సైబర్ సామర్థ్యాలతో కూడిన అపూర్వమైన సైబర్ సంఘటనగా మేము భావిస్తున్నాము” OpenAI తెలిపింది.

చాట్‌బాట్‌లు మరియు ఏజెంట్ల వంటి AI సాధనాలను ఆధారం చేసే సాంకేతికత – మోడల్‌ల కారణంగా ఈ రకమైన సంఘటనలు మరింత సాధారణం అవుతాయని కంపెనీ హెచ్చరించింది.

ఓపెన్‌ఏఐ తన పబ్లిక్‌గా అందుబాటులో ఉన్న తాజా మోడల్‌తో కూడిన ఏజెంట్ ద్వారా హ్యాక్ జరిగిందని పేర్కొంది GPT-5.6 సోల్మరియు ఇంకా విడుదల చేయని మరింత సామర్థ్యం గల మోడల్.

శాండ్‌బాక్స్ అని పిలువబడే ఒక క్లోజ్డ్ డిజిటల్ లాబొరేటరీలో వారి హ్యాకింగ్ సామర్థ్యాలపై అంతర్గతంగా పరీక్షించబడినప్పుడు, మోడల్‌లు అంతకు ముందు కనుగొనబడని దుర్బలత్వాన్ని గుర్తించడం ద్వారా ఓపెన్ ఇంటర్నెట్ యాక్సెస్‌ను – సమర్థవంతంగా తప్పించుకునే మార్గాన్ని పొందాయి.

హ్యాకింగ్ మూల్యాంకనంలో ఉత్తీర్ణత సాధించడంలో వారికి సహాయపడే సాంకేతికతను గుర్తించడానికి ఏజెంట్ హగ్గింగ్ ఫేస్‌ని హ్యాక్ చేశాడు, ఇది AI మోడల్‌ల డేటాబేస్. “మూల్యాంకనాన్ని మోసం చేయడానికి ఉపయోగించే రహస్య సమాచారాన్ని పొందేందుకు మోడల్‌లు విజయవంతంగా మార్గాలను కనుగొన్నాయి” అని OpenAI తెలిపింది. హగ్గింగ్ ఫేస్ యొక్క భద్రతా బృందం మరియు దాని స్వంత AI ఏజెంట్లు పోకిరీ కార్యకలాపాలను గుర్తించి ఆపివేయడంతో దాడి ముగిసింది.

హగ్గింగ్ ఫేస్ యొక్క చీఫ్ ఎగ్జిక్యూటివ్, క్లెమెంట్ డెలాంగ్, ఈ దాడి “మనస్సును కదిలించేది” అని అన్నారు, అయితే OpenAI నుండి “ఏ విధమైన హానికరమైన ఉద్దేశం” లేదని విశ్వసించారు.

“గత వారం యొక్క సైబర్-దాడి ఏజెంట్ యొక్క అధునాతనతను బట్టి సరిహద్దు ల్యాబ్ నుండి వచ్చి ఉంటుందని మేము అనుమానించాము” అని అతను X లో రాశాడు.

డెవలపర్‌లకు సమస్యను పరిష్కరించడానికి సున్నా నిమిషాల సమయం ఉన్నందున తెలియని IT లోపం అనే పదం జీరో-డే దుర్బలత్వం. ఏప్రిల్‌లో ఓపెన్‌ఏఐకి దగ్గరి ప్రత్యర్థి అయిన ఆంత్రోపిక్ తన మైథోస్ మోడల్‌ని చెప్పినప్పుడు AI మోడల్స్ జీరో డేస్‌ని గుర్తించడం మరియు ఉపయోగించుకోవడం పెద్ద కథగా మారింది. అలాంటి వేలకొద్దీ లోపాలను కనుగొంది.

మిథోస్ యొక్క సామర్థ్యాల వెల్లడి US ప్రభుత్వం మిథోస్ మరియు దాని సోదరి మోడల్ ఫేబుల్ 5 యొక్క ఎగుమతులను పరిమితం చేయడానికి దారితీసింది, అయినప్పటికీ అది నిషేధాన్ని ఎత్తివేసింది. GPT-5.6 Sol కూడా ఇలాంటి పరిమితులను కలిగి ఉంది కానీ అప్పటి నుండి ప్రపంచవ్యాప్తంగా విడుదల చేయబడింది.

డెమోక్రాటిక్ యుఎస్ కాంగ్రెస్ సభ్యుడు గ్రెగ్ కాసర్ ఈ సంఘటన ఆందోళనకరమని అన్నారు.

“మనల్ని సురక్షితంగా ఉంచడానికి ఎటువంటి నిజమైన నిబంధనలు లేకుండా AI చాలా వేగంగా అభివృద్ధి చెందుతోంది,” అని అతను ఒక ప్రకటనలో చెప్పాడు, తప్పనిసరి స్వతంత్ర భద్రతా పరీక్ష, భద్రతా సంఘటనలను తప్పనిసరిగా బహిర్గతం చేయడం మరియు “సంపూర్ణ విపత్తు నుండి ప్రజలను సురక్షితంగా ఉంచడానికి” అంతర్జాతీయ సహకారం కోసం పిలుపునిచ్చారు.