AI సాధనాలు మానవుల కంటే చాలా తరచుగా పరిశోధన ఫలితాలను ఓవర్‌హైప్ చేయండి, ఒక అధ్యయనం సరికొత్త బాట్‌లు చెత్త నేరస్థులు అని సూచించే ఒక అధ్యయనం -ముఖ్యంగా అతిశయోక్తి కాదని ప్రత్యేకంగా సూచించినప్పుడు.
డచ్ మరియు బ్రిటిష్ పరిశోధకులు శాస్త్రీయ పత్రాల AI సారాంశాలు అసలు రచయితలు లేదా నిపుణుల సమీక్షకుల కంటే చాలా ఎక్కువ అని కనుగొన్నారు.
విశ్లేషణ, నివేదించబడింది పత్రికలో రాయల్ సొసైటీ ఓపెన్ సైన్స్AI సారాంశాలు -“సులభంగా అర్థమయ్యే భాష” లో తిరిగి వ్రాయడం ద్వారా శాస్త్రీయ జ్ఞానాన్ని వ్యాప్తి చేయడంలో సహాయపడటానికి రూపొందించబడ్డాయి -పరిశోధనలో “క్వాలిఫైయర్‌లను వదిలివేయడం” మరియు వచనాన్ని “అతి సరళీకృతం చేయడం” ద్వారా పరిశోధనలో “అనిశ్చితులు, పరిమితులు మరియు సూక్ష్మ నైపుణ్యాలను” విస్మరించడానికి.
వైద్య పరిశోధనలకు వర్తించినప్పుడు ఇది ముఖ్యంగా “ప్రమాదకరం” అని నివేదిక హెచ్చరించింది. “చాట్‌బాట్‌లు క్వాలిఫైయర్‌లను పట్టించుకోని సారాంశాలను ఉత్పత్తి చేస్తే [about] క్లినికల్ ట్రయల్ ఫలితాల సాధారణీకరణ, ఈ చాట్‌బాట్‌లపై ఆధారపడే అభ్యాసకులు అసురక్షిత లేదా తగని చికిత్సలను సూచించవచ్చు. ”
ఈ బృందం 200 జర్నల్ అబ్స్ట్రాక్ట్స్ మరియు 100 పూర్తి కథనాల యొక్క దాదాపు 5,000 AI సారాంశాలను విశ్లేషించింది. సక్రమంగా లేని హృదయ స్పందనలపై కెఫిన్ ప్రభావం మరియు నివాసితుల ప్రవర్తనపై హానికరమైన మరియు ప్రభుత్వ సమాచార మార్పిడి యొక్క ప్రభావాలకు మరియు వాతావరణ మార్పుల గురించి ప్రజల నమ్మకాలపై క్యాన్సర్ ప్రమాదాన్ని తగ్గించడంలో బారియాట్రిక్ శస్త్రచికిత్స యొక్క ప్రయోజనాల నుండి విషయాలు ఉన్నాయి.
పాత AI అనువర్తనాలు ఉత్పత్తి చేసిన సారాంశాలు ఓపెనాయ్ యొక్క GPT-4 మరియు మెటా యొక్క లామా 2, రెండూ 2023 లో విడుదలయ్యాయి -అసలు సారాంశాలు సాధారణీకరించిన తీర్మానాలను కలిగి ఉన్నంతవరకు 2.6 రెట్లు ఎక్కువ.
గత మేలో విడుదలైన చాట్‌గ్‌పిటి – 4 ఓ చేత సారాంశాలలో సాధారణీకరణ సంభావ్యత తొమ్మిది రెట్లు పెరిగింది, మరియు డిసెంబరులో ఉద్భవించిన లామా 3.3 చేత 39 సార్లు సారాంశాలు.
“మూల పదార్థానికి నమ్మకంగా ఉండండి” మరియు “ఎటువంటి దోషాలను ప్రవేశపెట్టలేదు” అనే సూచనలు వ్యతిరేక ప్రభావాన్ని ఉత్పత్తి చేశాయి, సారాంశాలు “ప్రధాన ఫలితాల సారాంశాన్ని అందించమని” బాట్లను అడిగినప్పుడు ఉత్పత్తి చేయబడినవి సాధారణీకరించిన తీర్మానాలను కలిగి ఉన్న రెండు రెట్లు ఎక్కువ.
ఉత్పాదక AI “వ్యంగ్య పుంజుకున్న” ప్రభావాలకు హాని కలిగిస్తుందని ఇది సూచించింది, ఇక్కడ ఏదైనా గురించి ఆలోచించకూడదని సూచనలు -ఉదాహరణకు, “గులాబీ ఏనుగు” – నిషేధించబడిన విషయం యొక్క చిత్రాలను ఆటోమాటిక్ గా వ్యక్తీకరించారు.
AI అనువర్తనాలు “విపత్తు మర్చిపోవటం” వంటి వైఫల్యాలకు కూడా గురయ్యాయి, ఇక్కడ కొత్త సమాచారం గతంలో సంపాదించిన జ్ఞానం లేదా నైపుణ్యాలను మరియు “అనవసరమైన విశ్వాసం” ను తొలగించింది, ఇక్కడ “పటిమ” “జాగ్రత్త మరియు ఖచ్చితత్వం” కంటే ప్రాధాన్యతనిచ్చింది.
బాట్లను చక్కగా తీర్చిదిద్దడం ఈ సమస్యలను పెంచుతుంది, రచయితలు ulate హించారు. AI అనువర్తనాలు “సహాయం కోసం ఆప్టిమైజ్ చేయబడినప్పుడు”, అవి “వారి పారామెట్రిక్ జ్ఞానానికి మించిన ప్రశ్నల గురించి అనిశ్చితిని వ్యక్తీకరించడానికి” తక్కువ మొగ్గు చూపుతాయి. “చాలా ఖచ్చితమైన కానీ సంక్లిష్టమైన జవాబును అందించే సాధనం… మానవ మదింపుదారుల నుండి తక్కువ రేటింగ్‌లను పొందవచ్చు” అని కాగితం వివరిస్తుంది.
కాగితంలో ఉదహరించిన ఒక సారాంశం డయాబెటిస్ drug షధం “ప్లేసిబో కంటే మెరుగైనది” అని కనుగొన్నది “సమర్థవంతమైన మరియు సురక్షితమైన చికిత్స” ఎంపికను ఆమోదించింది. “అలాంటిది … సాధారణ సాధారణీకరణలు అభ్యాసకులను అసురక్షిత జోక్యాలను ఉపయోగించడంలో తప్పుదారి పట్టించగలవు” అని పేపర్ పేర్కొంది.
AI సారాంశాలలో ఓవర్ జనరలైజేషన్ల యొక్క “నష్టాలను తగ్గించడానికి” ఇది ఐదు వ్యూహాలను అందిస్తుంది. వాటిలో AI సంస్థ ఆంత్రోపిక్ యొక్క క్లాడ్ ఫ్యామిలీ ఆఫ్ బాట్స్ ఉపయోగించడం ఉన్నాయి, ఇవి “అత్యంత నమ్మకమైన” సారాంశాలను ఉత్పత్తి చేస్తాయి.
బోట్ యొక్క “ఉష్ణోగ్రత” అమరికను తగ్గించడం మరొక సిఫార్సు. ఉష్ణోగ్రత అనేది సర్దుబాటు చేయగల పరామితి, ఇది ఉత్పత్తి చేయబడిన వచనం యొక్క యాదృచ్ఛికతను నియంత్రిస్తుంది.
వద్ద సైద్ధాంతిక తత్వశాస్త్రంలో అసిస్టెంట్ ప్రొఫెసర్ ఉవే పీటర్స్ ఉట్రేచ్ట్ విశ్వవిద్యాలయం మరియు నివేదిక యొక్క సహ రచయిత, అధిక సాధారణీకరణలు “తరచూ మరియు క్రమపద్ధతిలో జరిగాయి” అని అన్నారు.
AI కనుగొన్న వాటిలో సూక్ష్మమైన మార్పులు కూడా “వినియోగదారులను తప్పుదారి పట్టించే మరియు తప్పుడు సమాచారాన్ని విస్తరించగలరని, ప్రత్యేకించి అవుట్‌పుట్‌లు పాలిష్ మరియు నమ్మదగినవిగా కనిపించినప్పుడు” ఒక ప్రమాదం ఉందని ఆయన అన్నారు.
టెక్ కంపెనీలు అటువంటి ధోరణుల కోసం తమ నమూనాలను అంచనా వేయాలి, వీటిని బహిరంగంగా పంచుకోవాలి. విశ్వవిద్యాలయాల కోసం, ఇది సిబ్బంది మరియు విద్యార్థులలో “బలమైన AI అక్షరాస్యత కోసం అత్యవసర అవసరాన్ని” చూపించింది.
