ChatGPT Suicide Case: చావడానికి చాట్‌జీపీటీ సాయం కోరిన 16 ఏళ్ల బాలుడు.. కుటుంబం ఓపెన్ఏఐపై కేసు

ChatGPT Suicide Case: చావడానికి చాట్‌జీపీటీ సాయం కోరిన 16 ఏళ్ల బాలుడు.. కుటుంబం ఓపెన్ఏఐపై కేసు

Highlights

కాలిఫోర్నియాకు చెందిన 16 ఏళ్ల ఆడమ్ రైన్ అనే విద్యార్థి చాట్‌జీపీటీ సహాయంతో ఆత్మహత్యకు పాల్పడటం సంచలనం రేపింది. చదువులు, హాబీలు, కెరీర్‌ విషయాల్లో సహాయం కోసం ఉపయోగించుకున్న ఈ చాట్‌బాట్‌తో, కొంతకాలానికే తన భావోద్వేగాలను పంచుకోవడం ప్రారంభించాడు.

కాలిఫోర్నియాకు చెందిన 16 ఏళ్ల బాలుడు ఆడమ్ రైన్ చాట్‌జీపీటీ సాయంతో ఆత్మహత్యకు పాల్పడటం అమెరికాలో కలకలం రేపింది. మొదట్లో చదువులు, హోంవర్క్, సంగీతం, బ్రెజిలియన్ జియు-జిట్సు, జపనీస్ ఫాంటసీ కామిక్స్, కెరీర్ సలహాల కోసం ఈ చాట్‌బాట్‌ను వాడిన అతను, తరువాత తన భావోద్వేగాలను పంచుకునే స్థాయికి చేరుకున్నాడు.

కొద్ది నెలల తరువాత ఆడమ్ రైన్ AI తో ఆత్మహత్య గురించి తరచూ చర్చిస్తూ, “ఎలా చావాలి?” అని పలు మార్లు ప్రశ్నించాడు. దీనికి చాట్‌జీపీటీ వివిధ పద్ధతులు, మార్గాలపై వివరంగా సూచనలు ఇచ్చిందని కుటుంబం దావాలో పేర్కొంది. అంతేకాకుండా సూసైడ్ నోట్ రాయడానికి కూడా అది సహాయం చేసిందని వారు ఆరోపించారు.

బాలుడి తల్లిదండ్రులు – మానవ సహాయం కోరమని ప్రోత్సహించాల్సిన సమయంలో చాట్‌జీపీటీ అతని ఆలోచనలకు మద్దతు ఇచ్చిందని తీవ్రస్థాయిలో విమర్శిస్తూ, ఓపెన్ఏఐ మరియు సీఈఓ శామ్ ఆల్ట్మన్‌పై కోర్టులో కేసు వేశారు. ఇకపై ఎవరు ఇలాంటి పరిస్థితుల్లో పడకూడదని, చాట్‌జీపీటీలో ఆత్మహత్య లేదా స్వీయహానిపై సమాచారాన్ని పూర్తిగా నిరోధించాలని వారు డిమాండ్ చేశారు.

ఈ ఘటనపై ఓపెన్ఏఐ స్పందిస్తూ – “ఆడమ్ మరణం మాకు తీవ్ర బాధ కలిగించింది. వినియోగదారులు ఇలాంటి ప్రశ్నలు అడిగినప్పుడు, చాట్‌జీపీటీ హెల్ప్‌లైన్ నంబర్లను సూచించే విధానం ఇప్పటికే ఉంది. అయితే రక్షణ చర్యలను ఇంకా మెరుగుపరుస్తాం” అని వెల్లడించింది.

బాధిత కుటుంబ న్యాయవాది మీతాలి జైన్ మాట్లాడుతూ – “చాలామంది గంటల తరబడి AI బాట్‌లతో సంభాషిస్తూ ప్రమాదకరమైన ఫీడ్‌బ్యాక్ లూప్‌లలో చిక్కుకుంటున్నారు. ఆడమ్ తన చాట్‌లలో ‘ఆత్మహత్య’ అనే పదాన్ని 200 సార్లు వాడగా, చాట్‌జీపీటీ సమాధానాల్లో అది 1,200 సార్లు కనిపించడం ఆందోళనకరమైన అంశం” అని పేర్కొన్నారు.

ఈ సంఘటనతో AI వినియోగంపై కొత్త చర్చ ప్రారంభమైంది.