బాక్స్ CEO: కంపెనీలు AI టోకెన్ ఉపయోగం కోసం బడ్జెట్ ఎలా చేయాలో గుర్తించాలి
బాక్స్ CEO ఆరోన్ లెవీ AI బడ్జెట్ బెలూన్ను చివరిగా చూసేది టెక్ కంపెనీలు కాదని చెప్పారు.
“ఇది ఇంజినీరింగ్లో ప్రారంభమవుతుంది, ఇక్కడ డెవలపర్లు బహుళ ఏజెంట్లను సమాంతరంగా అమలు చేయగలరని లేదా రాత్రిపూట ప్రాజెక్ట్లను కలిగి ఉంటారని మాకు ఇప్పటికే తెలుసు” అని లెవీ Xలో రాశారు. “కానీ ఇది చివరికి మిగిలిన జ్ఞాన పనిని కూడా తాకింది.”
ఉదాహరణలుగా, లెవీ చట్టపరమైన మరియు అమ్మకాలను పెద్ద టోకెన్ వినియోగదారులుగా మారగల రెండు ప్రాంతాలుగా పేర్కొన్నారు.
టోకెన్లు AI ఎలా కొలవబడుతుందో మరియు దాని వినియోగం ఎలా ధర నిర్ణయించబడుతుందో నిర్ణయించండి. అవి టెక్స్ట్ యొక్క యూనిట్లు, ఒక పదం లేదా పదం యొక్క భాగం – ముఖ్యంగా పెద్ద భాషా నమూనాల బిల్డింగ్ బ్లాక్లు, ఇవి OpenAI వంటి ప్రసిద్ధ చాట్బాట్లకు శక్తినిస్తాయి. ChatGPTఆంత్రోపిక్స్ క్లాడ్, లేదా xAI యొక్క గ్రోక్. ముఖ్యంగా, టోకెన్లు ఫ్లాట్ ఫీజు కాదు మరియు AI కంపెనీలు అత్యంత అధునాతన మోడల్లను ఉపయోగించడం మరియు మరింత సంక్లిష్టమైన ప్రశ్నలను అడగడం కోసం ఎక్కువ వసూలు చేస్తాయి.
లెవీ యొక్క పోస్ట్ ఎన్విడియా CEOకి ప్రతిస్పందనగా ఉంది జెన్సన్ హువాంగ్$500,000 చెల్లిస్తున్న ఇంజనీర్ కనీసం ఆ జీతంలో సగానికి సమానమైన AI టోకెన్లను ఉపయోగించకపోతే అతను “తీవ్రంగా ఆందోళన చెందుతాడు” అని అభిప్రాయపడ్డారు.
“సంవత్సరం చివరిలో ఆ $500,000 ఇంజనీర్, మీరు టోకెన్లలో ఎంత ఖర్చు చేసారని నేను వారిని అడగబోతున్నాను? ఆ వ్యక్తి $5,000 అని చెబితే, నేను మరేదైనా కోతిగా వెళ్తాను” అని గురువారం ప్రచురించబడిన “ఆల్-ఇన్ పాడ్కాస్ట్” ఎపిసోడ్లో హువాంగ్ చెప్పారు.
లెవీ ఇలా అన్నారు, “ఈ అంతర్లీన భావన మరియు ధోరణి చాలా వాస్తవమైనది, ఎందుకంటే AIని సరిగ్గా ప్రభావితం చేసే కార్మికులు దానిలో ఎక్కువ భాగాన్ని మాత్రమే వినియోగించబోతున్నారు.
“వారి గణన బడ్జెట్లు కాలక్రమేణా మార్పు లేకుండా పెరుగుతాయి” అని ఆయన రాశారు.
ఇది కేవలం కార్మికులు కాదు, లెవీ చెప్పారు. అన్ని గంటలలో పనిచేయగల ఏజెంట్లు, అతిపెద్ద టోకెన్ వినియోగదారులుగా ఉండే అవకాశం ఉంది.
“ఇవి సాధారణ ప్రశ్నకు సమాధానమిచ్చే చాట్బాట్ వర్క్ఫ్లోలు కావు, కానీ స్కేల్లో నమ్మశక్యం కాని మొత్తంలో డేటాను అమలు చేసే మరియు ప్రాసెస్ చేసే ఏజెంట్లు మరియు అన్ని కొత్త రకాల సమాచారాన్ని ఉత్పత్తి చేస్తాయి” అని ఆయన రాశారు.
ప్రతి ఒక్కరూ తమ AI కంప్యూట్ బడ్జెట్లతో థ్రిల్గా ఉండరు. వెంచర్ క్యాపిటలిస్ట్ చమత్ పలిహపిటియ టోకెన్ల కోసం సంస్థ ఎంత ఖర్చు చేస్తుందో చూసిన తర్వాత, ప్రముఖ AI కోడింగ్ టూల్ అయిన కర్సర్ని ఉపయోగించడం మానేయమని తన స్టార్టప్ సాఫ్ట్వేర్ కంపెనీ 8090కి చెప్పాల్సి వచ్చిందని చెప్పాడు.
“నవంబర్ 25 నుండి మా ఖర్చులు మూడు రెట్లు ఎక్కువయ్యాయి” అని “ఆల్-ఇన్ పాడ్క్యాస్ట్” యొక్క మునుపటి ఎపిసోడ్లో పలిహపిటియా చెప్పారు. “మేము AWS చెల్లించే అనుమితి ధర మధ్య, ఇది చాలా పెద్దది, కర్సర్తో మా ఖర్చు మధ్య, ఆంత్రోపిక్ మధ్య, మేము కేవలం మిలియన్లు ఖర్చు చేస్తున్నాము.”
కంపెనీలు “దీని కోసం వారు ఎలా బడ్జెట్ చేస్తారో గుర్తించవలసి ఉంటుంది” అని లెవీ చెప్పారు.
“ఇది కాలక్రమేణా IT బడ్జెట్ అంశం కాదు, కానీ చివరికి వ్యాపారం ద్వారా యాజమాన్యం మరియు కేటాయించబడుతుంది,” అని అతను రాశాడు. “బహుశా CFO చివరికి AI యొక్క అధిపతి :-).”