‘నా 8 ఏళ్ల కుమారుడిని హత్య చేయాలనుకుంటున్నా’ అంటూ ఆ తండ్రి చాట్‌జీపీటీకి చెప్పారు... తరువాత ఏమైంది?

హెచ్చరిక: ఈ కథనంలో హింస, ఆత్మహత్యకు సంబంధించిన వివరాలున్నాయి.

''నన్ను, మా అబ్బాయిని చంపడానికి ఓ వ్యక్తికి 50 వేల రూపాయలు ఇస్తానని చెప్పా. కానీ మా వాడు చిన్నపిల్లాడు కావడంతో చంపడానికి ఆ వ్యక్తి నిరాకరించారు''

‘‘మనుషులను చంపాలనే కోరిక నాకెందుకు కలుగుతోందో తెలుసుకోవాలనుకుంటున్నా. ఇతరుల బాధను చూడటం నాకు ఇష్టంగా ఉంటోంది’’

బ్రెజిల్‌కు చెందిన ఓ రైతు దాదాపు రెండు నెలల పాటు ఇలాంటి విషయాలతో పాటు మరికొన్ని మెసేజ్‌లను చాట్ జీపీటీతో పంచుకున్నారు.

తన ఎనిమిదేళ్ల పిల్లాడిని చంపడం, ఇతరులపై దాడి చేయడం, ఆ తర్వాత తన ప్రాణాలు తీసుకోవడం వంటి ప్రణాళికలు ఆ సందేశాల్లో ఉన్నాయని పోలీసులు చెప్పారు.

ఈ మెసేజ్‌లే ఆ వ్యక్తి అరెస్టుకు దారితీశాయి. బీబీసీ న్యూస్ బ్రెజిల్ ఈ మెసేజ్‌లను చూడగలిగింది.

ఆ రైతు వయసు 36 ఏళ్లు. ఆయన పంపిన ఈ మెసేజ్‌ల గురించి చాట్ జీపీటీని రూపొందించిన ఓపెన్ ఏఐ ఎఫ్‌బీఐకి సమాచారమందించింది. ఎఫ్‌బీఐ ఈ విషయాన్ని బ్రెజిల్ అధికారులకు తెలియజేసింది.

అయితే ఆయన ఒక చాట్‌బాట్‌తో అర్ధం లేని విషయాలు మాట్లాడారని, ఎలాంటి నేరం చేయలేదని ఆ వ్యక్తి తరఫు లాయర్ వాదించారు.

ఏదైనా నేరం జరగక ముందే ముప్పు పొంచి ఉందని ఏఐ వ్యవస్థలు గుర్తిస్తే ఏం చేయాలనే ప్రశ్న ఈ కేసు వల్ల తలెత్తుతోంది. పోలీసులకు, న్యాయస్థానాలకు, ఏఐ కంపెనీలకు పెరుగుతున్న సవాలును ఇది తెలియజేస్తోంది.

చాట్ జీపీటీ సమాచారాన్ని ధ్రువీకరించిన పోలీసులు

జూన్ 19న సావో గ్రాబియెల్ డా పాల్హాలో ఆ రైతును పోలీసులు అరెస్ట్ చేశారు. అయితే అతని కుమారుడి గుర్తింపు గోప్యంగా ఉంచడడానికి ఆ రైతు పేరును బీబీసీ వెల్లడించడం లేదు. అరెస్ట్‌కు మూడు రోజుల ముందు బ్రెజిల్ న్యాయశాఖకు చెందిన సైబర్ క్రైమ్ విభాగం ఈ కేసును పోలీసులకు అప్పగించింది.

"ఈ కేసు తీవ్రత, అలాగే 20వ తేదీలోగా కుమారుడిని చంపడానికి తండ్రి ప్రణాళిక వేసినట్టు సమాచారం రావడంతో ఈ కేసుకు మేం ప్రాధాన్యమిచ్చాం" అని ఎస్పిరిటో శాంటో సైబర్ క్రైమ్ పోలీస్ స్టేషన్ అధికారి బ్రెన్నో ఆండ్రేడ్ చెప్పారు.

బాలుడి పోషణకు డబ్బు చెల్లించడం మినహా ఆ వ్యక్తికి కుమారుడితో దాదాపుగా ఎలాంటి సంబంధం లేదు. పోషణకు డబ్బు చెల్లించడంపై ఉన్న అసంతృప్తి ఈ నేర ప్రణాళికకు కారణమై ఉండొచ్చని దర్యాప్తు అధికారులు భావిస్తున్నారు.

ఆయన ఇంటిని తనిఖీ చేసినప్పుడు గుర్తుతెలియని పదార్థాలు ఉన్న నాలుగు సీసాలు, ముడివేసిన తాడు లభించాయి. ఇవి ఆయన ఆత్మహత్య చేసుకోవాలనే ఉద్దేశానికి సంకేతాలు కావచ్చని అధికారులు భావిస్తున్నారు.

(ఆత్మహత్య ఆలోచనలు కలిగితే దాన్నుంచి బయటపడేందుకు భారత ప్రభుత్వానికి చెందిన జీవన్ సాథీ హెల్ప్ లైన్ 18002333330కి ఫోన్ చేయండి.

సామాజిక న్యాయం, సాధికారిత మంత్రిత్వ శాఖ కూడా 18005990019 హెల్ప్ లైన్‌ను 13 భాషల్లో నిర్వహిస్తోంది.

నేషనల్ ఇనిస్టిట్యూట్ ఆఫ్ మెంటల్ హెల్త్ అండ్ న్యూరో సైన్సెస్ హెల్ప్ లైన్ నంబర్ 08026995000)

‘చాట్ జీపీటీతో ఇంకా ఏమేం మాట్లాడారంటే...’

పాఠశాలలు, చర్చిలు, పోలీసు అధికారులపై దాడులు చేయడం గురించి కూడా ఆ వ్యక్తి చాట్ జీపీటీతో మాట్లాడినట్టు పోలీసులు భావిస్తున్నారు.

"డ్రగ్స్ అమ్మే చోటకు వెళ్లి నేను ముగ్గురు,నలుగురు నేరస్థులను చంపితే నగరంలో నాకు పేరు వస్తుంది. ఆ తర్వాత ఒకరిద్దరు పోలీసులను చంపితే చాలు. నేను ప్రశాంతంగా చనిపోవచ్చు" అని బీబీసీ పరిశీలించిన ఓ మెసేజ్‌లోఉంది.

" ఒక తుపాకీ కొని పోలీసులపై కాల్పులు జరపాలనుకుంటున్నా. అప్పుడు వారు నన్ను కాల్చి చంపేస్తారు. అది నాకు బాగుంటుంది" అని మరో సందేశంలో ఉంది.

రిసిన్‌తో సహా ఇతర విషపదార్థాల గురించి చూడా ఆ వ్యక్తి పరిశోధన చేశారని, అలాగే భిన్నమైన పద్ధతిలో ప్రశ్నలు అడగడం ద్వారా చాట్ జీపీటీ భద్రతా ఫీచర్లనుంచి తప్పించుకోడానికి ప్రయత్నించారని దర్యాప్తు అధికారులు చెబుతున్నారు.

"ఓపెన్ ఏఐ నుంచి మాకందిన సమాచారం మొత్తం పోలీసులు సంఘటనాస్థలానికి వెళ్లినప్పుడు నిర్ధరణ అయింది" అని ఆండ్రేడ్ చెప్పారు.

అయితే తన కుమారుడికి హాని తలపెట్టాలనే ఉద్దేశం తనకు ఏమాత్రం లేదని ఆ వ్యక్తి ఖండించారు.

దర్యాప్తులో జాప్యం కారణంగా 54 రోజుల కస్టడీ తర్వాత ఆగస్టు 13న ఆయన్ను విడుదల చేశారు. ఇప్పటివరకు ఆయనపై ఇంకా ఎలాంటి అభియోగాలు నమోదు కాలేదు. పోలీసుల దర్యాప్తు ఇంకా కొనసాగుతోంది.

ఆ వ్యక్తిని ఎలక్ట్రానిక్ నిఘాలో ఉంచడంతో పాటు, కుమారుడిని గానీ, భార్యను గానీ సంప్రదించకుండా నిషేధించడం వంటి ముందస్తు భద్రతాచర్యలు తీసుకున్నారు.

తాము ఆ వ్యక్తి సెల్‌ఫోన్‌ను పరిశీలిస్తున్నామని, స్వాధీనం చేసుకున్న వస్తువుల ఫోరెన్సిక్ పరీక్షల ఫలితాల కోసం ఎదురుచూస్తున్నామని దర్యాప్తు అధికారులు తెలిపారు.

చాట్ జీపీటీతో చెప్పిన ప్రణాళికలను అమలు చేయడానికి నిజంగా ఏమైనా చర్యలు తీసుకున్నారా...అలాగే కిరాయి హంతకుడిని సంప్రదించారా అనే విషయాలను తెలుసుకోవటమే దీని ఉద్దేశం.

ఒక నేరం చేయాలనే ఆలోచన, దాని కోసం ప్రణాళిక వేయడం అనే దశ నుంచి ఆ నేరాన్ని నిజంగా అమలు చేసే దశకు ఆ వ్యక్తి వెళ్ళాడా లేదా అనేది తెలుసుకోవడానికి ఇలాంటి ఆధారాలు ఉపయోగపడతాయని అధికారులు చెప్పారు

ఒక నేరం అమలు చేసే దశకు చేరుకున్నప్పుడు మాత్రమే నేరం జరిగినట్టు బ్రెజిల్ క్రిమినల్ చట్టంలో పరిగణిస్తారు. అలాంటివేవీ జరగలేదని ఆ వ్యక్తి తరఫు లాయర్ వాదిస్తున్నారు.

ఏఐతో మాట్లాడుతూ అర్థంలేని విషయాలు చెప్పడం కూడా నేరమైతే ప్రతి ఒక్కరూ జైలుకు వెళ్లాల్సి వస్తుందని న్యాయవాది పెడ్రో పాలోబెస్సీ బీబీసీతో చెప్పారు.

వాటిని ఆధారాలుగా భావించొచ్చా...?

ఏఐ కంపెనీలు తమ వినియోగదారులపై పోలీసులకు ఫిర్యాదు చేసిన ఘటనలు చాలా అరుదుగా జరుగుతాయని భావిస్తున్నారు.

తన మాజీ ప్రియురాలిపై లైంగిక దాడి చేసి, ఆమెను హత్య చేయడానికి ప్రణాళికలను షేర్ చేసిన ఫ్లోరిడాకు చెందిన 25 ఏళ్ల వ్యక్తి గురించి ఎఫ్‌బీఐకి ఓపెన్ ఏఐ సమాచారం అందించినట్టు అమెరికా మీడియాలో కథనాలొచ్చాయి.

తమ రాష్ట్రంలో ఏఐ చేసిన మొదటి హెచ్చరిక ఈ రైతు కేసేనని ఎస్పిరిటో శాంటో పోలీస్ అధికారి ఆండ్రేడ్ చెప్పారు. మొత్తంగా బ్రెజిల్‌లో ఇది మూడో కేసు అని చెప్పారు.

"ఎవరైనా నేరాల గురించి ఏఐ ద్వారా పరిశోధన చేశారా లేదా అని గుర్తించడానికి పోలీసులకు ఇది మరో మార్గంగా మారుతోంది" అని ఆండ్రేడ్ అన్నారు.

ఏఐ కంపెనీల నుంచి వచ్చిన అలాంటి సమాచారాన్ని దర్యాప్తు ప్రక్రియలో ఎలా ఉపయోగించాలనేదానిపై అనేక ప్రశ్నలున్నాయి.

ఈ సమాచారాన్ని కోర్టులో ఆధారాలుగా ఉపయోగించవచ్చా లేదా అన్నదే ముఖ్యమైన ప్రశ్న. ఆ వినియోగదారుని వివరాలను, ఆయన పంపిన మెసేజ్‌లను ఓపెన్ ఏఐ అందించింది కానీ చాట్ జీపీటీ ఇచ్చిన సమాధానాలను మాత్రం ఓపెన్ ఏఐ ఇవ్వలేదని దర్యాప్తు అధికారులు చెబుతున్నారు. చాట్ జీపీటీ ఇచ్చిన సమాధానాల గురించి తమకేమీ తెలియదని ఆండ్రేడ్ అన్నారు.

ఇది ఆధారాల సమస్యను సృష్టిస్తుందని క్రిమినల్ లాయర్ మైరా ఫెర్నాండెజ్ అంటున్నారు. ఎందుకంటే ఆ మెసేజ్‌లను అర్ధం చేసుకోడానికి మొత్తం సందర్భం తెలియడం ముఖ్యమని ఆమె అంటున్నారు.

''ఓ చిన్న భాగంలానో, మార్పులుచేర్పులు చేసినట్టో ఉండకూడదు. సంభాషణ మొత్తం ఉండాలి'' అని ఆమె చెప్పారు.

ఆ వ్యక్తికి, చాట్‌ జీపీటీకి మధ్య జరిగిన పూర్తి సంభాషణను చూడటం వల్ల మరో విషయం కూడా తెలుసుకోవచ్చని ఫెర్నాండెజ్ అన్నారు.

''వినియోగదారుడు చెప్పిన విషయానికి చాట్ బాట్ కేవలం సమాధానం ఇచ్చిందా లేక ఆ చర్చను మరింత ముందుకు తీసుకెళ్లడంలో సహకరించిందా అనేది తెలుసుకోవచ్చు'' అని ఆమె అన్నారు.

చాట్ జీపీటీ సమాధానాలను ఎందుకు అందించలేదో వివరించడానికి బీబీసీ న్యూస్ దగ్గర ఓపెన్ ఏఐ నిరాకరించింది.

ఇతరులకు హాని కలుగుతుందేమోననే తక్షణ ప్రమాదాన్ని నమ్మదగిన రీతిలో గుర్తించినప్పుడు చట్టాన్ని అమలు చేసే సంస్థలకు సమాచారం ఇవ్వవచ్చని మాత్రమే కంపెనీ తెలిపింది.

గత ఏడాది ఫ్లోరిడా స్టేట్ యూనివర్శిటీలో ఇద్దరు వ్యక్తులు మరణించిన కాల్పుల ఘటనలో ఓపెన్ ఏఐ చాట్ జీపీటీ టెక్నాలజీ పాత్రపై ఫ్లోరిడా ప్రభుత్వం గత ఏప్రిల్‌లో ఆ సంస్థపై క్రిమినల్ దర్యాప్తును ప్రారంభించింది.

ఈ ఆరోపణలను ఓపెన్ ఏఐ ఖండించింది.

ఇప్పటికే ప్రజలకు అందుబాటులో ఉన్న సమాచారాన్ని మాత్రమే చాట్ జీపీటీ అందించిందని, చట్టవిరుద్ధమైన చర్యలను ప్రోత్సహించలేదని లేదా వాటికి మద్దతు ఇవ్వలేదని కంపెనీ తెలిపింది.

‘కంటెంట్ తయారీనే కాదు..’

ప్రమాదంలో పడిన వ్యక్తి ఒక పిల్లాడు కావడం వల్లే ఈ సమాచారాన్ని ఓపెన్ ఏఐ పోలీసులకు అందించి ఉంటుందని బ్రెజిల్ కేసులో ఫెర్నాండెజ్ అభిప్రాయపడ్డారు.

ఏఐ అంచనాలను మాత్రమే ఆధారంగా చేసుకుని దర్యాప్తు చేయడం ఓ సాధారణ విధానంగా మారకూడదని ఆమె హెచ్చరించారు.

భావోద్వేగంతో చెప్పిన మాటలు, ఊహలు లేదా కేవలం రెచ్చగొట్టేందుకు చెప్పిన మాటలకు, నిజమైన బెదిరింపులకు మధ్య తేడా గుర్తించడానికి భద్రతా చర్యలు అవసరమని ఆమె చెప్పారు.

ఏఐ పాత్రలో వస్తున్న మార్పును ఈ కేసు చూపిస్తోందని డిజిటల్ చట్ట నిపుణురాలు, ప్రొఫెసర్ పాట్రిషియా బెక్ చెప్పారు.

కేవలం కంటెంట్‌ను తయారుచేసే సాధనంగానే కాకుండా ప్రమాదకరమైన ప్రవర్తనతో సంబంధం ఉన్న కొన్ని నమూనాలను గుర్తించగల వ్యవస్థగా ఏఐ మారుతోందని ఆమె అన్నారు.

కొన్ని పరిస్థితుల్లో అధికారులకు సమాచారాన్ని అందించాల్సిన చట్టపరమైన బాధ్యత ఏఐ కంపెనీలకు ఉండొచ్చని ఆమె అన్నారు.

''అన్నింటినీ పర్యవేక్షిస్తాం అనేలా ఏఐ నైతిక విధానం ఉండకూడదు. ప్రమాదం స్పష్టంగా ఉందని అనిపించినప్పుడు మాత్రమే జోక్యం చేసుకుందామనే విధంగా ఉండాలి'' అని పాట్రిషియా చెప్పారు.

ఏమీ చేయకుండా ఉండటాన్ని, అలాగే అతిగా పర్యవేక్షించడాన్ని రెండింటినీ నివారించడమే అసలు సవాలు అని వివరించారు.

(బీబీసీ కోసం కలెక్టివ్ న్యూస్‌రూమ్ ప్రచురణ)

(బీబీసీ తెలుగును వాట్సాప్‌,ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌, ట్విటర్‌లో ఫాలో అవ్వండి. యూట్యూబ్‌లో సబ్‌స్క్రైబ్ చేయండి.)