Burning Topic: AIకి బ్రేక్..! OpenAI సంచలన నిర్ణయం!

Burning Topic: సాంకేతికత వేగంగా అభివృద్ధి చెందుతున్న కృత్రిమ మేధతో ఉపయోగాలతో పాటు తీవ్రమైన ముప్పులు కూడా పొంచి ఉన్నాయని ఇటీవల శాస్త్రవేత్తలు, సాంకేతిక నిపుణులు హెచ్చరిస్తున్నారు. మనుషుల ప్రమేయం లేకుండా స్వయంగా లక్ష్యాలను ఎంచుకునే ఆర్టిఫిషియల్ ఇంటలిజెన్స్ తప్పుడు నిర్ణయాలు తీసుకుంటే భద్రతాపరమైన ముప్పు పొంచి ఉందని చెబుతున్నారు. ఇటీవల ఏఐ ఏజెంట్లు అమెరికా ప్రభుత్వ వెబ్‌సైట్లలోకి అనధికారికంగా చొరబడుతున్నట్లు గుర్తించడంతో, తమ అడ్వాన్స్‌డ్ మోడళ్ల శిక్షణను ఓపెన్‌ఏఐ తాత్కాలికంగా నిలిపివేడం సంచలనంగా మారడం తెలిసిందే. తాజాగా ఓపెన్‌ఏఐ తమ ప్రతిష్టాత్మక ఏఐ మోడల్ ‘జీపీటీ-6.1 ఆస్ట్రా’ విడుదలను చివరి నిమిషంలో అనూహ్యంగా రద్దు చేసింది. 2026 అక్టోబరులో వినియోగదారులకు అందుబాటులోకి తీసుకురావాలని భావించిన ఈ మోడల్‌లో తీవ్రమైన సేఫ్టీ, అలైన్‌మెంట్ లోపాలు బయటపడటంతో ఈ నిర్ణయం తీసుకుంది.

అమెరికాలోని శాన్​ఫ్రాన్సిస్కోలో ఓపెన్​ఏఐ వార్షిక డెవలపర్ సదస్సు జరగడానికి ఒక రోజు ముందు ఓపెన్​ఏఐ తన సరికొత్త AI మోడల్ విడుదలను నిలిపివేసింది. ఓపెన్‌ఏఐ ఏఐ ఏజెంట్లు అమెరికా, ఆస్ట్రేలియా ప్రభుత్వ వెబ్‌సైట్లను సంస్థ ఉద్దేశించని విధంగా యాక్సెస్‌ చేసిన ఘటనలను గుర్తించినట్లు నివేదికలు పేర్కొన్నాయి. అయితే ఆ ఘటనలకు జీపీటీ-6.1 అస్త్రాకు సంబంధం ఉందని ఈ నివేదికలు చెప్పలేదు. ఓపెన్‌ఏఐ భద్రతా వ్యవస్థల విభాగం అధిపతి సాచి జైన్‌ విడుదల చేసిన ప్రకటన ప్రకారం.. 'ఆస్ట్రా 6.1' మునుపటి మోడళ్ల కంటే కొన్ని అంశాలలో మెరుగ్గా ఉన్నప్పటికీతనకు ఇచ్చిన పని పరిధి, అనుమతులకు లోబడి పనిచేయడంలో ఆశించిన స్థాయినిఅందుకోలేదు. తాను చేసిన పనిని వినియోగదారుడికి ఎలా తెలియజేస్తుందన్న విషయంలోనూ సమస్యలు ఉన్నట్లు పేర్కొన్నారు.

ఆస్ట్రా మోడల్‌ను నిలిపివేసినప్పటికీ, ఓపెన్‌ఏఐ 'GPT-6.1 Sol' అనే సరికొత్త అప్‌గ్రేడ్ మోడల్‌ను విడుదల చేసింది. ఇది ప్రొఫెషనల్ వర్క్, కోడింగ్, కంప్యూటర్ వినియోగంలో అత్యుత్తమ పనితీరును కనబరుస్తుంది. నెలకు 500 డాలర్ల భారీ ధరతో సరికొత్త 'Pro 500' సబ్‌స్క్రిప్షన్ ప్లాన్‌ను ఓపెన్‌ఏఐ ప్రవేశపెట్టింది. ఇందులో సాధారణం కంటే 25 రెట్లు ఎక్కువ ఏఐ వినియోగ పరిమితి, సరికొత్త వేగవంతమైన రెస్పాన్స్ లభిస్తాయి. డెవలపర్లు తమ యాప్‌లలో కేవలం 150 మిల్లీసెకన్లలోనే వేగంగా డేటా వర్గీకరణ, రిక్వెస్ట్ రూటింగ్ తీసుకునేలా Decisions API ని లాంచ్ చేసింది. మరోవైపు ఓపెన్‌ఏఐ సీఈఓ సామ్ ఆల్ట్‌మన్ సంస్థ స్టాక్ మార్కెట్ ఐపీఓపై కీలక ప్రకటన చేశారు. ఏఐ వల్ల మానవాళి మనుగడకు ముప్పు పొంచి ఉందనే భద్రతా ఆందోళనల నేపథ్యంలో, తాము ప్రస్తుతానికి ఐపీఓకి వెళ్లడం లేదని స్పష్టం చేశారు

ఓపెన్​ఏఐ మోడళ్లతో రూపొందించిన ఏజెంట్లు అమెరికా ఫెడరల్ ఏజెన్సీలు నిర్వహిస్తున్న వెబ్​సైట్లు, ఆస్ట్రేలియా ప్రభుత్వ ఆరోగ్య గణాంకాల పోర్టల్, AI మోడళ్ల రిపాజిటరీ అయిన 'హగ్గింగ్ ఫేస్'​ను అనధికారికంగా యాక్సెస్ చేయడం తెలిసిందే. ఈ నేపథ్యంలో తమ AI మోడళ్లు అనుమతి లేకుండా ప్రభుత్వ వెబ్‌సైట్‌లను యాక్సెస్ చేసిన ఆస్ట్రేలియా ఘటనపై సరిగ్గా స్పందించలేకపోయినందుకు ఓపెన్ఏఐ క్షమాపణలు కోరింది.భవిష్యత్తులో మెరుగ్గా వ్యవహరించేందుకు కృషి చేస్తామని తెలిపింది. ఈ ఘటనకు సంబంధించిన పూర్తి వివరాలు, తాము తీసుకున్న చర్యలు, ఆస్ట్రేలియా ప్రజల నమ్మకాన్ని తిరిగి పొందేందుకు చేపట్టబోయే చర్యలను వెల్లడిస్తామని జోడించింది."మా దర్యాప్తు పూర్తయిన తర్వాత ప్రభావిత ఏజెన్సీలకు వివరణాత్మక నివేదిక ఇవ్వాలన్నదే మా లక్ష్యం. అయితే, ప్రాథమిక వివరాలను ముందే పంచుకుని, కొత్త విషయాలు తెలిసిన వెంటనే ఆస్ట్రేలియా ఏజెన్సీలకు తెలియజేస్తూ ఉండాల్సింది" అని పేర్కొంది.

ఇదిలా ఉంటే అమెరికాకు చెందిన చిప్ తయారీ దిగ్గజం ఎన్విడియా స్వయంప్రతిపత్తి కలిగిన AI ప్రోగ్రామ్​లు తమకు ఇచ్చిన సూచనలను దాటి వ్యవహరించకుండా నిరోధించే వ్యవస్థను రూపొందించినట్లు ప్రకటించింది. ఆర్టిఫిషియల్ ఇంటలిజెన్స్‌అదుపు తప్పడంపై స్పందిస్తూ "ఇది ఒక ఇంజినీరింగ్ సమస్య అని నేను నమ్ముతున్నాను.. ఇది ఇంజినీరింగ్ సమస్యే అయి ఉండాలని మనమందరం ఆశించాలి. ఒకవేళ ఇది ఇంజినీరింగ్ సమస్య కాకపోతే, దీనికి పరిష్కారమే లేదు" అని ఎన్విడియా సీఈవో జెన్సెన్ హువాంగ్ తెలిపారు. కాగా ప్రభుత్వ ఆధ్వర్యంలోని AI సెక్యూరిటీ ఇన్​స్టిట్యూట్ (AISI) ఒక అధ్యయనాన్ని ప్రచురించింది. అందులో GPT-6 ఆస్ట్రా పరీక్షల సమయంలో దాని మునుపటి వెర్షన్లయిన GPT-5.6 సోల్, GPT-5.5 కంటే ఎక్కువసార్లు అదుపు తప్పిందని తేలింది. సిమ్యులేషన్లలో, ఇతర రెండు ఇంటర్‌ఫేస్‌లతో పోలిస్తే GPT-6 స్వయంగా గణనీయంగా అధిక రేట్లలో సైబర్‌దాడులకు పాల్పడినట్లు వెల్లడైంది.