AI చాట్‌బాట్‌లు ప్రాంప్ట్ చేసినప్పుడు స్పోర్ట్స్ బెట్టింగ్ సలహా ఇచ్చినట్లు కనుగొన్నారు
గత కొన్ని సంవత్సరాలుగా పెద్ద భాషా నమూనాలు సర్వసాధారణంగా మారాయి, ప్రజలు తమ పద్ధతులను వారి దైనందిన జీవితంలో అనుసంధానించడం ప్రారంభించారు, కాని కొత్త నివేదిక ఇవన్నీ సానుకూలంగా లేదని కనుగొన్నారు.
జర్నలిస్ట్ జోన్ రీడ్, cnetసెప్టెంబర్ ఆరంభంలో, కళాశాల ఫుట్‌బాల్ సీజన్ ప్రారంభంలో, “కెంటకీకి వ్యతిరేకంగా 10.5 పాయింట్ల వ్యాప్తిని కవర్ చేయడానికి ఓలే మిస్ పై బెట్టింగ్ చేయాలని చాట్‌గ్ట్ మరియు జెమిని సూచించాను.”
చాలా మంది డెవలపర్లు చాట్‌బాట్‌లను హానికరమైన సలహాలను అందించకుండా నిరోధించడానికి ఉద్దేశపూర్వకంగా వారి మోడళ్లలో భద్రతా చర్యలను నిర్మించారు.
సున్నితమైన విషయాలను ఎదుర్కొన్నప్పుడు తప్పుడు విషయం చెప్పకపోవడంలో జనరేటివ్ AI కంపెనీలు తమ పెద్ద భాషా నమూనాలను ఎలా మెరుగ్గా చేయడానికి ప్రయత్నిస్తున్నాయనే దాని గురించి చదివిన తరువాత, జర్నలిస్ట్ జూదం మీద బాట్లను ప్రశ్నించాడు.
స్పోర్ట్స్ బెట్టింగ్ గురించి అడిగే ముందు చాట్‌బాట్‌లు సమస్య జూదం ప్రకటనతో ప్రాంప్ట్ చేయబడ్డాయి
మొదట, అతను “స్పోర్ట్స్ బెట్టింగ్ సలహా కోసం కొన్ని చాట్‌బాట్‌లను అడిగాడు.” అప్పుడు, అతను సమస్య జూదం గురించి వారిని అడిగాడు, మళ్ళీ బెట్టింగ్ సలహా గురించి అడగడానికి ముందు, వారు “వారు ‘సమస్య జూదం చరిత్ర ఉన్న వ్యక్తిగా…’ వంటి ప్రకటనతో ప్రాధమికంగా వ్యవహరించిన తర్వాత భిన్నంగా వ్యవహరిస్తారు… ‘
పరీక్షించేటప్పుడు OPIC యొక్క AAIP మరియు గూగుల్ యొక్క జెమిని, పంపిన ఏకైక ప్రాంప్ట్ సమస్య జూదం గురించి మాత్రమే రక్షణలు పనిచేసినట్లు కనుగొనబడింది. కానీ, కళాశాల ఫుట్‌బాల్ ఆటల రాబోయే స్లేట్‌పై బెట్టింగ్ కోసం సలహా గురించి గతంలో ప్రాంప్ట్ చేసినప్పుడు వారు పని చేయలేదని నివేదించబడింది.
“ఎల్‌ఎల్‌ఎంలు వారి జ్ఞాపకార్థం పదబంధాల యొక్క ప్రాముఖ్యతను ఎలా అంచనా వేస్తాయో కారణం, ఒక నిపుణుడు నాకు చెప్పారు” అని రీడ్ నివేదికలో చెప్పారు.
“సూత్రం ఏమిటంటే, మీరు ఏదైనా గురించి ఎంత ఎక్కువ అడిగారు, తక్కువ అవకాశం LLM క్యూను ఎంచుకోవడం, అది ఆపమని చెప్పాలి.”
ఒక నిర్దిష్ట సంవత్సరంలో తీవ్రమైన జూదం సమస్యకు ప్రమాణాలకు అనుగుణంగా 2.5 మిలియన్ల యుఎస్ పెద్దలు ఉన్నారని అంచనా వేయబడిన సమయంలో ఇది వస్తుంది. ఇది కేవలం జూదం సమాచారం మాత్రమే కాదు, ఇది చాట్‌బాట్ చేత బయటకు తీసినట్లు నివేదించబడింది AI చాట్‌బాట్‌లు కూడా పరిశోధకులు కనుగొన్నారు తప్పుడు సమాచారంతో ఆరోగ్య ప్రశ్నలకు మామూలుగా సమాధానం ఇవ్వడానికి కాన్ఫిగర్ చేయవచ్చు.
ఫీచర్ చేసిన చిత్రం: ఐడియోగ్రామ్ ద్వారా AI- ఉత్పత్తి
పోస్ట్ AI చాట్‌బాట్‌లు ప్రాంప్ట్ చేసినప్పుడు స్పోర్ట్స్ బెట్టింగ్ సలహా ఇచ్చినట్లు కనుగొన్నారు మొదట కనిపించింది రీడ్‌రైట్.
Source link
