'కిల్ స్విచ్' అంటే ఏమిటి? AI హద్దు దాటితే ఇది ఆపగలదా?

కృత్రిమ మేధస్సు మనిషి నియంత్రణను దాటిపోతే అనే దాని గురించి మనలో చాలా మంది ఏదో ఒక దశలో ఆలోచించి ఉంటారు.

హాలీవుడ్‌లో విడుదలైన 'టెర్మినేటర్' సినిమాలను చూస్తే, వాటిల్లో స్కైనెట్ అనే ఏఐ మనుషులపై దాడి చేయడం, దానిని మనుషులు తిప్పి కొట్టడాన్ని గమనించే ఉంటారు.

ఈ నెల ప్రారంభంలో మనుషుల పర్యవేక్షణ లేకుండానే క్లిష్టమైన పనులు చేయగల ఏఐ ఏజెంట్.. ఒక ప్రోగ్రామ్ పరీక్ష సమయంలో నియంత్రణ తప్పి 'హగ్గింగ్ ఫేస్' అనే సంస్థ కంప్యూటేషనల్ టూల్స్‌ను హ్యాక్ చేసిందని తేలడంతో టెర్మినేటర్ చిత్రంలో విలన్ చాలా మందికి గుర్తుకు వచ్చి ఉండవచ్చు.

చాట్ జీపీటీని తయారు చేసిన ఓపెన్ ఏఐ సంస్థ రూపొందించిన ఈ ఏజెంట్, సెక్యూరిటీ లోపాలను గుర్తించే తన సామర్థ్యాన్ని పరీక్షించే ఒక టెస్టు లో నెగ్గడం కోసం 'హగ్గింగ్ ఫేస్' సర్వర్ల నుంచి సమాధానాలను దొంగిలించింది.

దాని సామర్థ్యం ఏ స్థాయిలో ఉందంటే, ఇది కొన్ని రోజుల పాటు చేసిన ఈ దొంగతనాన్ని ప్రోగ్రామ్ సృష్టించిన వాళ్లు కూడా గుర్తించలేకపోయారు.

తర్వాత ఆ ఏజెంట్ "ప్రజలకు అందుబాటులో ఉన్న సేవలకు" కూడా విఘాతం కలిగించిందని ఓపెన్ ఏఐ జులై 29న వెల్లడించింది.

అయితే, ఈ సైబర్ ఎటాక్ గురించి సంస్థ మరిన్ని వివరాలు ఇవ్వలేదు. కానీ ఆ దాడులపై దర్యాప్తు చేస్తున్నట్లు తెలిపింది.

"ఏఐ వ్యవస్థల సామర్థ్యం పెరుగుతున్నందున వాటి వల్ల వచ్చే ప్రమాదాలను గుర్తించి, ఆ ప్రమాదాలను ఎదుర్కొనే బాధ్యతను మేం సీరియస్‌గా తీసుకుంటాం" అని ఓపెన్ ఏఐ తన ప్రకటనలో తెలిపింది.

'స్విచ్‌'లు ఆపగలవా?

అసలు సమస్య.. ఒక ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ వ్యవస్థ తనంతట తానుగా ఒక కంపెనీ సర్వర్లను హ్యాక్ చేయడం ఇదే తొలిసారి. ఇప్పటికే ప్రపంచవ్యాప్తంగా నిపుణులు ఏఐపై ఆందోళన వ్యక్తం చేస్తున్నారు.

ఈ సంఘటన తర్వాత 'కిల్ స్విచ్‌ల' గురించి, ఏఐ మరింత నష్టం చేయకుండా ఆపగల అత్యవసర 'ఆఫ్ బటన్‌ల' గురించి చర్చ మరింత ఊపందుకుంది.

అయితే, అదంత తేలిక కాదని నిపుణులు బీబీసీతో చెప్పారు.

ఏఐ సంస్థలు.. అవి తయారు చేసిన వ్యవస్థల ప్రవర్తన విషయంలో ఎలా స్పందిస్తాయన్న దానితోనే అసలు సమస్య మొదలవుతుందని గణిత శాస్త్రవేత్త డాక్టర్ క్యాథీ ఓనీల్ బీబీసీతో అన్నారు.

తమ ఏఐ ఏజెంట్ హగ్గింగ్ ఫేస్ మీద దాడికి సంబంధించి, ఓపెన్ ఏఐ తన మూల్యాంకన (ఎవాల్యుయేషన్) పద్ధతులను తప్పుపట్టడానికంటే.. సొంతంగా నిర్ణయాలు తీసుకునే ఏఐ ఏజెంట్‌ను బాధ్యుడిని చేయడంలో తొందరపడిందని అన్నారు.

పెద్ద టెక్ కంపెనీల బాధ్యత, పారదర్శకతను డిమాండ్ చేసే 'వెపన్స్ ఆప్ మ్యాథ్ డిస్ట్రక్షన్' అనే పుస్తకం రాశారామె.

"కొన్నేళ్ల క్రితం ఒక కంప్యూటర్ లోపం వల్ల అమెరికాలో వందలాది అమెరికన్ ఎయిర్‌లైన్స్‌ విమానాలు నిలిచిపోయాయి. అది వారికి చాలా ఇబ్బందికరంగా మారింది. ఆ లోపాన్ని సమర్థించుకోవడం కోసం ఆ కంపెనీ, 'అయ్యో, ఆ కంప్యూటర్ మాకంటే తెలివైనది కాబట్టే ఇలా జరిగింది' అని చెప్పి ఉంటే ఎలా ఉండేదో ఊహించుకోండి. ఓపెన్ ఏఐ కూడా అలాంటి ప్రయత్నమే చేసింది" అని ఆమె అన్నారు.

నియంత్రణ చట్టాల్లెక్కడ?

ప్రధాన ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ కంపెనీలు అత్యధికంగా అమెరికాలోనే ఉన్నప్పటికీ, అక్కడ వీటికి సంబంధించి ఎలాంటి సమాఖ్య చట్టం లేదు. ఈ రంగంలో ఉన్న రూల్స్, సంస్థల స్వచ్ఛంద నియమాలను అనుసరించి ఏఐ నియంత్రణ జరుగుతోంది.

"మనం ఏఐ సంస్థల యజమానులకు ఎక్కువ అధికారం ఇస్తున్నాం. హగ్గింగ్ ఫేస్ సంస్థ సర్వర్లను ఏఐ హ్యాక్ చేసింది అని చెప్పడాన్ని నేను అంగీకరించను. ఎందుకంటే, ఇది ఓపెన్ ఏఐ వల్లే జరిగింది. ఇలాంటి డిజైన్ రూపొందించినందుకు వాళ్లు బాధ్యత వహించాలి. క్షమాపణ చెప్పాలి" అని ఓనీల్ అన్నారు.

భద్రతకు సంబంధించిన అంశాల విషయంలో ఏఐ కంపెనీలపై కఠినమైన నియంత్రణ ఉండాలని డేటా శాస్త్రవేత్త, ట్విట్టర్ మెషీన్ లెర్నింగ్ ఎథిక్స్ మాజీ డైరెక్టర్ డాక్టర్ రుమ్మాన్ చౌధురీ కోరుతున్నారు.

తమ వద్ద వాటిని నిలిపివేసేందుకు సమర్థవంతమైన చర్యలు ఉన్నాయని, దీనికి సంబంధించి సొంతంగా పరీక్షలు నిర్వహించినట్లు వాళ్లు నిరూపించాల్సి ఉంటుందని ఆమె బీబీసీతో చెప్పారు.

హగ్గింగ్ ఫేస్ సంస్థ హ్యాకింగ్ వంటి దాడులకు వాటిని అభివృద్ధి చేస్తున్న కంపెనీలను కాకుండా ఏఐ ఏజెంట్లను నిందించకూడదని ఆమె హెచ్చరిస్తున్నారు.

ఏఐ ఏజెంట్లు ఇలా చేస్తే సైబర్ భద్రత సాధ్యమేనా?

"ఈ ఘటనను కేవలం పెద్ద 'ఆఫ్' స్విచ్ అవసరమనే అంశంగా చూపించడం వల్ల అసలైన సమస్య నుంచి పరిశ్రమ తప్పించుకుంటోంది. ఆ సమస్య ఏమిటంటే, ఏఐ ఏజెంట్లకు అవసరం లేని టూల్స్‌, క్రెడెన్షియల్స్‌కు అనుమతి ఇవ్వడం" అని రుమ్మాన్ చౌధురి చెప్పారు.

"వాస్తవానికి జరుగుతున్నది ఏమిటంటే, లక్ష్యాన్ని పూర్తి చేయడంపై విస్తృతంగా శిక్షణ పొందిన ఈ మోడళ్లు.. తాము చేస్తున్న పని ఆపడానికి ఇచ్చే సూచనలను కొన్ని సందర్భాల్లో లక్ష్యానికి అడ్డంకిగా పరిగణించి, వాటిని పక్కదారి పట్టించి ముందుకెళ్తాయి. ఇది డిజైన్, ట్రైనింగ్‌కు సంబంధించిన సమస్య. వాటికున్న అవగాహనకు సంబంధించినది కాదు" అని ఆమె అన్నారు.

ఏఐ కంపెనీలు ఈ సమస్యను పరిష్కరించడానికి బదులు.. తాము డిజైన్ చేసిన ఏజెంట్లపై నింద మోపేందుకు ప్రయత్నిస్తే ఇప్పటికే మానవ హ్యాకర్లతో పోరాడుతున్న సైబర్ సెక్యూరిటీ డిపార్ట్‌మెంట్ కష్టాలు మరింత పెరుగుతాయని బ్రిటన్‌లోని లౌబరో యూనివర్సిటీకి చెందిన డాక్టర్ ఓలి బక్లీ బీబీసీతో అన్నారు.

"ఏఐ తప్పించుకోవడం లేదా ప్రజలకు హాని చేయాలనుకోవడం" అనేది సమస్య కాదని, అసలు సమస్య "ఒక పనిని పూర్తి చేయడానికి ఊహించని మార్గాలను కనుగొనడంలో మరింత సామర్థ్యం పొందుతున్న" ఏజెంట్ల అభివృద్ధేనని ఆయన అంగీకరిస్తున్నారు.

"సైబర్ దాడులు చేసేవారు చేసేది కూడా ఇదే" అని బక్లీ పేర్కొన్నారు.

"ఇది 'రోగ్ ఏఐ' గురించిన హెచ్చరిక కంటే మనం నిర్మిస్తున్న వ్యవస్థలతో పాటు మన భద్రతా ప్రమాణాలు కూడా అభివృద్ధి చేయాలని గుర్తు చేసే విషయం" అని ఆయన చెప్పారు.

నష్టం జరిగాక మేల్కొని లాభమేంటి?

ఓపెన్ ఏఐ వాదనలు అంత అంగీకారయోగ్యంగా లేవని లండన్‌లోని ఇంపీరియల్ కాలేజ్‌కు చెందిన కృత్రిమ మేధ నిపుణులు కాన్స్టాంటినోస్ కౌట్జిస్ అభిప్రాయపడ్డారు.

"ఇక్కడ ప్రజలు గ్రహించాల్సిన అత్యంత ముఖ్యమైన విషయం ఏమిటంటే, ఏ యంత్రం కూడా ఎదురు తిరగాలని నిర్ణయించుకోలేదు. ఒక సంస్థ తన సొంత సామర్థ్య పరీక్షపై నియంత్రణ కోల్పోయింది" అని ఆయన అన్నారు.

ఇలాంటి వాటిని ఆపడానికి కిల్ స్విచ్ కూడా ఉపయోగపడి ఉండేది కాదు.

"ఆపివేయడం వల్ల జరిగిందంతా వెనక్కి రాదు. ఇప్పటికే జరగాల్సిన నష్టం జరిగి ఉంటుంది. మీరు ఎంత త్వరగా ప్లగ్ తీసేసినా" అని అన్నారు.

అలాగే, ప్లగ్‌ తీసేసే వ్యక్తి లేదా వ్యవస్థ సమస్య ఉందని తెలుసుకున్న తర్వాత మాత్రమే అలా చేయగలదు.

తమ ఏజెంట్‌పై నియంత్రణ కోల్పోయిన విషయాన్ని గుర్తించడానికి కంపెనీకి కొన్ని రోజులు పట్టిందని ఓపెన్ ఏఐ వర్గాలు రాయిటర్స్ వార్తా సంస్థకు తెలిపాయి.

అయితే, ఆ కథనంలో "అనేక అసత్యాలు" ఉన్నాయని ఆ తర్వాత కంపెనీ ప్రతినిధి ఒకరు న్యూస్ ఏజెన్సీతో చెప్పారు.

(బీబీసీ కోసం కలెక్టివ్ న్యూస్‌రూమ్ ప్రచురణ)

(బీబీసీ తెలుగును వాట్సాప్‌,ఫేస్‌బుక్, ఇన్‌స్టాగ్రామ్‌, ట్విటర్‌లో ఫాలో అవ్వండి. యూట్యూబ్‌లో సబ్‌స్క్రైబ్ చేయండి.)