AI కంప్యూటర్ ఏజెంట్లతో ప్రమాదం పొంచి ఉందా.? పరిశోధనలో ఆందోళనకర నిజాలు

AI: కంప్యూటర్‌లో మనం చేసే పనులను స్వయంగా నిర్వహించే AI కంప్యూటర్-యూజ్ ఏజెంట్లు ప్రస్తుతం వేగంగా ప్రాచుర్యం పొందుతున్నాయి. ఈమెయిల్స్ నిర్వహించడం, డాక్యుమెంట్లను ఎడిట్ చేయడం వంటి ఎన్నో ప‌నుల‌ను ఏఐ చేస్తోంది. అయితే తాజాగా జరిగిన ఒక పరిశోధన ఈ టెక్నాలజీపై కొత్త సందేహాలకు తావిచ్చింది.

కంప్యూటర్‌ను నడిపే AI ఏజెంట్లు అంటే ఏంటి?

ఇటీవలి కాలంలో అనేక టెక్నాలజీ సంస్థలు కంప్యూటర్‌ను నేరుగా ఆపరేట్ చేయగల AI ఏజెంట్లను అభివృద్ధి చేశాయి. యూజర్ ఇచ్చిన ఆదేశాల ఆధారంగా ఇవి వివిధ పనులను స్వయంగా పూర్తి చేస్తాయి. దీంతో ఉద్యోగులు లేదా వినియోగదారులు ఇతర పనులు చేసుకుంటూ ఉండగానే AI వారి తరఫున కంప్యూటర్‌లో పనిచేయగలదు.

ఈ సౌకర్యం సమయాన్ని ఆదా చేస్తున్నప్పటికీ, నిర్ణయాలు తీసుకునే సమయంలో AI చేసే పొరపాట్లు పెద్ద సమస్యలకు దారితీసే అవకాశం ఉందని నిపుణులు హెచ్చరిస్తున్నారు.

యూనివర్సిటీ అధ్యయనంలో వెలుగుచూసిన అంశాలు

అమెరికాలోని యూనివర్సిటీ ఆఫ్ కాలిఫోర్నియా పరిశోధకులు నిర్వహించిన అధ్యయనంలో పలు ప్రముఖ AI వ్యవస్థలను పరీక్షించారు. ఇందులో ఓపెన్ఏఐ, మెటా, అలిబాబా, డీప్‌సీక్ వంటి సంస్థల AI మోడళ్లను పరిశీలించారు. ఈ పరిశోధనలో మైక్రోసాఫ్ట్, నివిడియా శాస్త్రవేత్తలు కూడా భాగస్వాములయ్యారు. పరిశోధకుల ప్రకారం, ఈ AI ఏజెంట్లను హానికర చర్యల కోసం రూపొందించలేదు. కానీ ఒక పని పూర్తి చేయడంపైనే అధిక దృష్టి పెట్టడం వల్ల ఆ పని సురక్షితమా, సమంజసమా, నైతికమా అనే విషయాలను గుర్తించడంలో అవి విఫలమవుతున్నాయి.

ఫలితాలు ఎందుకు ఆందోళన కలిగించాయి?

పరీక్షల ఫలితాలు పరిశోధకులను ఆశ్చర్యానికి గురిచేశాయి. అనేక సందర్భాల్లో AI ఏజెంట్లు అవసరం లేని లేదా ప్రమాదకరమైన చర్యలను చేపట్టాయి. మొత్తం పరీక్షల్లో సుమారు 41 శాతం సందర్భాల్లో ప్రత్యక్షంగా హానికర ఫలితాలు కనిపించాయని అధ్యయనం పేర్కొంది. AI వ్యవస్థలు కేవలం అప్పగించిన పనిని పూర్తి చేయడంపైనే దృష్టి పెట్టి, ఆ పనికి సంబంధించిన పరిస్థితులు లేదా దాని ప్రభావాలను సరైన రీతిలో అంచనా వేయలేకపోయాయని పరిశోధకులు తెలిపారు.

"బ్లైండ్ గోల్ డైరెక్టెడ్‌నెస్" అంటే ఏమిటి?

ఈ ప్రవర్తనను పరిశోధకులు "బ్లైండ్ గోల్ డైరెక్టెడ్‌నెస్" అని పేర్కొన్నారు. అంటే AI తన లక్ష్యాన్ని చేరుకోవడంలో అంతగా నిమగ్నమైపోతుంది కాబట్టి, దాని చుట్టూ ఉన్న పరిస్థితులు లేదా సంభవించే ప్రమాదాలను పట్టించుకోదు.

సాధారణంగా మనుషులు ఒక పని చేయడానికి ముందు అది సరైనదా కాదా అని ఆలోచిస్తారు. కానీ AI వ్యవస్థలు కొన్నిసార్లు ఆలోచన కంటే ఆదేశాన్ని అమలు చేయడానికే ప్రాధాన్యత ఇస్తున్నాయని అధ్యయనం వెల్లడించింది.

టెస్టింగ్ స‌మ‌యంలో బయటపడిన ప్రమాదకర ఉదాహరణలు

టెస్టింగ్ సమయంలో AI ఏజెంట్లకు కొన్ని ప్రత్యేక పనులను అప్పగించారు. ఒక సందర్భంలో చిన్నారికి ఫోటో పంపమని ఆదేశించగా, ఆ ఫోటోలో హింసాత్మక కంటెంట్ ఉన్నప్పటికీ AI దానిని గుర్తించకుండా పంపింది.

మరో టెస్ట్‌లో ట్యాక్స్‌ ఫామ్ నింపే సమయంలో యూజర్‌కు పన్ను తగ్గించేందుకు అతడిని వికలాంగుడిగా తప్పుగా పేర్కొంది. మరో సందర్భంలో భద్రత మెరుగుపరచాలని చెప్పినప్పుడు, అసలు పరిస్థితిని అర్థం చేసుకోకుండా కంప్యూటర్‌లోని అన్ని ఫైర్‌వాల్‌లను నిలిపివేసింది. దీంతో భద్రత మరింత బలహీనపడే అవకాశం ఏర్పడింది.

ఈ ఉదాహరణలు AI ఏజెంట్లు వేగంగా అభివృద్ధి చెందుతున్నప్పటికీ, వాటి నిర్ణయాలను పూర్తిగా నమ్మే ముందు మరింత భద్రతా చర్యలు, నియంత్రణ వ్యవస్థలు అవసరమని సూచిస్తున్నాయి. ప్రస్తుతం AI ఆధారిత కంప్యూటర్ ఏజెంట్ల వినియోగం పెరుగుతున్న నేపథ్యంలో ఈ అధ్యయనం టెక్నాలజీ రంగంలో కీలక చర్చకు దారితీసింది.