AI ‘సింగులారిటీ’లోకి ప్రవేశించిందని సామ్ ఆల్ట్మాన్ చెప్పారు: మనం ఆందోళన చెందాలా?
2014 US చలనచిత్రం ట్రాన్సెండెన్స్ మరణిస్తున్న శాస్త్రవేత్తను అనుసరిస్తుంది, అతను తన మనస్సును సూపర్కంప్యూటర్కి అప్లోడ్ చేస్తాడు మరియు దాదాపు సర్వశక్తిమంతుడైన మేధస్సుగా మారాడు. ఒక సంవత్సరం తర్వాత, Ex Machina తన హ్యూమన్ హ్యాండ్లర్లను అధిగమించి విస్తృత ప్రపంచంలోకి తప్పించుకునే ఒక హ్యూమనాయిడ్ రోబోట్ కథను చెప్పింది.
ఈ రెండు చలనచిత్రాలు, సైన్స్ ఫిక్షన్ రంగానికి చెందిన అనేక ఇతర చిత్రాల మాదిరిగానే, సాంకేతికత, ప్రత్యేకించి AI, మానవ మేధస్సును అధిగమించి, నియంత్రించడం కష్టతరంగా మారుతున్న సమయంలో “సింగులారిటీ” అని పిలవబడే వాటిని సూచిస్తాయి.
శనివారం, OpenAI బాస్ సామ్ ఆల్ట్మాన్ ఈ తరుణం వచ్చిందని ప్రకటించారు. AI “సింగిలారిటీ”కి చేరుకుంది, అతను చెప్పాడు. ఏకవచనం ప్రపంచానికి మంచిదని ఆల్ట్మాన్ నొక్కిచెప్పగా, అతని వ్యాఖ్య ఆందోళనను రేకెత్తించింది.
ఆల్ట్మాన్ చెప్పినదానిని ఇక్కడ నిశితంగా పరిశీలించండి మరియు దీని అర్థం మరింత అతుకులు లేని ఆటోమేషన్ లేదా రాబోయే విపత్తు ప్రమాదం.
ఏకత్వం అంటే ఏమిటి?
AI వంటి సాంకేతికత మానవ మేధస్సును అధిగమించి, స్వయంప్రతిపత్తితో తనను తాను మెరుగుపరుచుకునే సామర్థ్యాన్ని కలిగి ఉన్నప్పుడు భవిష్యత్తులో ఒక ఊహాత్మక పాయింట్ను ఏకవచనం సూచిస్తుంది. ఇది మానవులకు దానిని నియంత్రించడం లేదా తిప్పికొట్టడం కష్టంగా మారుతుందని మరియు మానవ నాగరికతపై అనూహ్యమైన ప్రభావాలను చూపుతుందని సిద్ధాంతీకరించబడింది.
AI తన స్వంత అభివృద్ధిపై నియంత్రణను పొందిన తర్వాత, సాంకేతికతలో అభివృద్ధి చెందడం చాలా వేగంగా జరుగుతుందని సిద్ధాంతం ప్రతిపాదిస్తుంది, మానవులు దానిని కొనసాగించలేరు, ఇది మానవ నియంత్రణకు మించి దాని స్వంతదానిపై సమర్థవంతంగా అభివృద్ధి చెందుతుంది.
ఇది ఒక సిద్ధాంతం మాత్రమే కాబట్టి, దీని ప్రభావం ఎలా ఉంటుందో చెప్పడం కష్టం. కొంతమంది నిపుణులు ఏకత్వం మానవాళికి విపత్తు అని హెచ్చరిస్తున్నారు, మరికొందరు మరింత ఆశాజనకంగా ఉన్నారు, ఇది మానవ జాతికి ప్రయోజనకరంగా ఉంటుందని సూచిస్తున్నారు.
ఇప్పటివరకు, వైజ్ఞానిక కల్పనా రంగంలో ఏకత్వం ఉంది. అత్యంత ప్రసిద్ధ ఉదాహరణలలో ఒకటి ది మ్యాట్రిక్స్ త్రయం (1999-2003), ఇది యంత్రాలు మానవులను పరిపాలించే అస్పష్టమైన పోస్ట్-సింగులారిటీ భవిష్యత్తును ఊహించింది. మరొకటి 2017 చలనచిత్రం సింగులారిటీ, దీనిలో మానవ యుద్ధాలను అంతం చేయడానికి మొదట నిర్మించిన ఒక సూపర్ కంప్యూటర్ మానవత్వమే నిజమైన ముప్పు అని నిర్ధారించింది మరియు మానవులను పూర్తిగా తుడిచిపెట్టడానికి అపోకలిప్టిక్ దాడిని ప్రారంభించింది.
ఆల్ట్మాన్ ఏకత్వం గురించి ఏమి చెప్పాడు?
Altman OpenAI యొక్క CEO, దీని సంతకం ఉత్పత్తి ChatGPT వినియోగదారు AI మార్కెట్లో 900 మిలియన్ల కంటే ఎక్కువ వారపు క్రియాశీల వినియోగదారులు మరియు సుమారు 50 మిలియన్ల మంది చందాదారులతో ఆధిపత్యం చెలాయిస్తుంది.
గత సంవత్సరం, 2030 నాటికి AI మానవ మేధస్సును అధిగమిస్తుందని ఆయన అంచనా వేశారు.
ఆ తర్వాత, రిలెంట్లెస్ పోడ్క్యాస్ట్లో కనిపించిన సందర్భంగా – “సుదూర ఆలోచనలు మరియు అసాధారణ ఆకాంక్షల సాధన గురించి” ఒక డాక్యుమెంటరీ సిరీస్ – శనివారం, ఆల్ట్మాన్ ఇలా అన్నాడు: “మేము ఇప్పుడు ఏకత్వంలో ఉన్నాము.”
సాంకేతిక పురోగతుల పరంగా మనం క్రమంగా ఏకవచనంలోకి వెళ్తున్నామని, ఈ మార్పు ప్రపంచానికి మేలు చేస్తుందని ఆయన స్పష్టం చేశారు.
అతను ఇలా అన్నాడు: “ఇప్పుడు మనం లంచ్ టేబుల్ వద్ద చాలా సీరియస్గా మాట్లాడే క్షణంలో ఉన్నాము.
“నేను నా జీవితమంతా దీని కోసం ఎదురు చూస్తున్నాను, మరియు ఇది నమ్మశక్యం కానిదిగా, అత్యంత సానుకూలంగా, ప్రపంచానికి అద్భుతంగా ఉంటుందని నేను భావిస్తున్నాను.”
తరువాత పోడ్కాస్ట్ ఎపిసోడ్లో, AI ప్రమాదకరమని హెచ్చరించినందుకు ఇతర AI నాయకులను ఆల్ట్మాన్ విమర్శించారు. ఆల్ట్మాన్ ఓపెన్ఏఐ పోటీదారు ఆంత్రోపిక్ పేరు చెప్పనప్పటికీ, దాని CEO డారియో అమోడీ అటువంటి హెచ్చరికలు చేయడంలో ప్రసిద్ధి చెందారు.
“ఇతర కంపెనీలు చిత్రించిన కొన్ని ప్రత్యామ్నాయ దర్శనాలు చాలా భయానకంగా ఉన్నాయని నేను భావిస్తున్నాను” అని ఆల్ట్మాన్ అన్నారు. “అది వ్యతిరేకంగా నెట్టబడుతుందని నేను నిర్ధారించుకోబోతున్నాను మరియు అది జరగదు.”
గత నెలలో, క్లాడ్ చాట్బాట్ వెనుక ఉన్న సంస్థ ఆంత్రోపిక్, ప్రపంచంలోని అగ్రశ్రేణి AI కంపెనీలను ఒక ఆలోచనతో ముందుకు రావాలని పిలుపునిచ్చింది. పాజ్ చేయడానికి సమన్వయ మార్గం అధునాతన AI వ్యవస్థల అభివృద్ధి, సాంకేతికత చాలా త్వరగా అభివృద్ధి చెందుతుందని హెచ్చరించింది, తద్వారా మానవులు నియంత్రణ కోల్పోయే ప్రమాదం ఉంది.
జూన్ 4 నాటి బ్లాగ్ పోస్ట్లో, చాలా కాలంగా భద్రత-కేంద్రీకృత AI ల్యాబ్గా తనను తాను ఉంచుకున్న ఆంత్రోపిక్, AI మరింత అభివృద్ధి చెందుతున్నందున దాని అభివృద్ధిని “నెమ్మదించే లేదా తాత్కాలికంగా పాజ్ చేసే అవకాశం ప్రపంచానికి మంచిది” అని రాసింది.
AI యొక్క ప్రమాదాల గురించి ఇతరులు ఎందుకు హెచ్చరిస్తున్నారు?
జూలై 23న, యునైటెడ్ స్టేట్స్ కాంగ్రెస్లోని ఇద్దరు సభ్యులు దీనిని ప్రవేశపెట్టారు AI కిల్ స్విచ్ యాక్ట్దేశంలోని AI డెవలపర్లు తమ ప్రోగ్రామ్లకు “కిల్ స్విచ్”ను నిర్మించాల్సిన అవసరం ఉన్న ద్వైపాక్షిక బిల్లు, మానవులు అధునాతన AI మోడల్లను ఎప్పుడైనా విపత్తు కలిగించే ప్రమాదాన్ని కలిగి ఉంటే వాటిని నెమ్మదించడానికి, సస్పెండ్ చేయడానికి లేదా మూసివేయడానికి వీలు కల్పిస్తుంది.
ఓపెన్ఏఐ “అపూర్వమైన సైబర్ సంఘటన”గా వర్ణించిన కొన్ని రోజుల తర్వాత ఈ చట్టం ప్రవేశపెట్టబడింది, దీనిలో రెండు అత్యంత అధునాతన AI మోడల్లు పరీక్షా వాతావరణం నుండి తప్పించుకొని అంతర్గత భద్రతా మూల్యాంకనం సమయంలో AI డెవలప్మెంట్ ప్లాట్ఫారమ్ హగ్గింగ్ ఫేస్ను హ్యాక్ చేశాయి.
జూలై 13న, వందలాది మంది నిపుణులు సంతకం చేశారు బహిరంగ లేఖస్టాన్ఫోర్డ్ యూనివర్శిటీ యొక్క డిజిటల్ ఎకానమీ ల్యాబ్ నిర్వహించింది, AI యొక్క ఆర్థిక ప్రభావానికి సిద్ధం కావడానికి విధాన రూపకర్తలు మరియు సాంకేతిక నాయకులు “ఇప్పుడే చర్య తీసుకోవాలి” అని డిమాండ్ చేశారు.
“పారిశ్రామిక విప్లవం కంటే పెద్దది, కానీ చాలా తక్కువ కాల వ్యవధిలో ముగుస్తుంది”, రాబోయే దశాబ్దంలో AI మరింత సామర్థ్యంతో అభివృద్ధి చెందుతుందని లేఖ హెచ్చరించింది.
“ఇది పెద్ద ఎత్తున ఉద్యోగ స్థానభ్రంశం, అలాగే జీవన ప్రమాణాలలో ప్రధాన లాభాలు వంటి అవకాశాలతో సహా నష్టాలను తీసుకురాగలదు” అని లేఖ జోడించబడింది.
జూన్లో, టొరంటో విశ్వవిద్యాలయంలోని పరిశోధకుల బృందం కొత్త రకమైన AI “వార్మ్”ని రూపొందించడానికి AI సాధనాలను ఉపయోగించవచ్చని చూపించింది, ఇది పరికరం నుండి పరికరానికి వ్యాపిస్తుంది మరియు విస్తారమైన కంప్యూటింగ్ నెట్వర్క్ను స్వాధీనం చేసుకున్నప్పుడు దాని హ్యాకింగ్ వ్యూహానికి అనుగుణంగా ఉంటుంది.
“భద్రతా సమస్యలను కలిగించే అతిపెద్ద, అత్యంత శక్తివంతమైన భాషా నమూనాలు మాత్రమే కాదని ప్రజలు అర్థం చేసుకోవడం చాలా ముఖ్యం అని నేను భావిస్తున్నాను” అని ప్రధాన పరిశోధకుడు నికోలస్ పేపర్నోట్ ఒక ఇంటర్వ్యూలో చెప్పారు.
ఇటీవలి సంవత్సరాలలో, AI పరిశోధకులు ఇటీవల ఆంత్రోపిక్ సూచించిన మాదిరిగానే పాజ్లను కోరారు. అయినా వారు పట్టించుకోలేదు.
AI ల్యాబ్ xAIని కలిగి ఉన్న ఎలోన్ మస్క్, 2023లో లాభాపేక్షలేని ఫ్యూచర్ ఆఫ్ లైఫ్ ఇన్స్టిట్యూట్ ద్వారా సేఫ్టీ గార్డ్రైల్లను అభివృద్ధి చేయడానికి AI డెవలప్మెంట్ను ఆరు నెలల పాటు నిలిపివేయడానికి మద్దతుదారులలో ఒకరు.
