කෘත්රිම බුද්ධියට සැබවින් ම මිනිසුන් මිහිපිටින් අතුගා දැමිය හැකි ද ?
ඡායාරූප මූලාශ්රය, Getty Images
කෘත්රිම බුද්ධිය (AI) මිනිස් පාලනයෙන් මිදී ක්රියා කළ හැකි බවට පර්යේෂකයන් සිදු කර ඇති දැඩි අනතුරු ඇඟවීම් හේතුවෙන් කෘත්රිම බුද්ධිය භාවිතය කෙතරම් ආරක්ෂිත ද යන්න පිළිබඳව වන කණස්සල්ල ඉහළ ගොස් තිබේ.
මෑතකාලීනව ඉදිරිපත් වී ඇති වඩාත් අශුභවාදී අනාවැකි කිහිපයක් අනුව, ඉදිරි දශකය තුළ AI නිසා මිනිස් වර්ගයා සම්පූර්ණයෙන් ම විනාශ වීමට 10%කට වැඩි සම්භාවිතාවක් පවතින බව සඳහන් වේ. කෙසේ වෙතත්, AI ක්ෂේත්රයේ තවත් පිරිසක් එවැනි අනාවැකිවල විශ්වසනීයත්වය ගැන සැක පළ කරන අතර, ඔවුන්ගේ අදහස වන්නේ වඩාත් සැලකිලිමත් විය යුතු අවදානම නම් මිනිසුන්, මිනිසුන්ට එරෙහිව AI භාවිත කිරීමට ඇති සම්භාවිතාවයි.
ලෝක විනාශය ගැන මෙවැනි පණිවිඩ බොහෝ විට පැමිණෙන්නේ 'AI Doomers' ලෙස හැඳින්වෙන AI ක්ෂේත්රයේ එක් කණ්ඩායමකිනි. එහෙත් බොහෝ දෙනා අසන ප්රධාන ප්රශ්නය වන්නේ, AI මගින් මිනිස් වර්ගයාගේ අවසානයක් ඇති විය හැකි යැයි මෙම පිරිස සැබවින් ම සිතන්නේ කෙසේ ද යන්නයි.
සයිබර් වාර්තාකරු ජෝ ටයිඩි, පර්යේෂකයන් සිතා බලමින් සිටින එවැනි අවස්ථා කිහිපයක් මෙම ලිපියෙන් විමසා බලයි.
ඡායාරූප මූලාශ්රය, Getty Images
පළමු අවස්ථාව: යටිතල පහසුකම්වලට සයිබර් ප්රහාරයක්
පළමු අවස්ථාව පිළිබඳව සංක්ෂිප්තව පැහැදිලි කරනු ලැබුවේ, OpenAI සහ පසුව Anthropicහි සේවය කළ හිටපු පර්යේෂකයෙකු වන ජේකබ් කොක්සන් විසිනි. ඔහු මෙම මාසයේ මුලදී ඉතා නාටකීය ලෙස ඉල්ලා අස්වෙමින්, AI තාක්ෂණය මිනිස් වර්ගයාට අවදානමක් විය හැකි බවට අනතුරු ඇඟවූ අතර, එම සමාගම් "මිනිස් ජීවිත ඔට්ටුවට තබන බවට" ද චෝදනා කළේ ය.
ඔහු බීබීසීය වෙත පැවසුවේ, "විස්මයට පත් කරන තරම් වන වේගවත් ප්රගතිය" හේතුවෙන්, මීට පෙර විද්යා ප්රබන්ධවලට පමණක් සීමා වූ බොහෝ දේ දැන් "යථාර්ථයක් බවට පත්වෙමින් පවතින" බවයි.
"නිශ්චිත උදාහරණයක් ලෙස," ඔහු පැවසුවේ, "ලෝකය ක්රියාකාරිත්වයට අත්යවශ්ය යටිතල පහසුකම් පද්ධතිවලට කෘත්රිම බුද්ධියට අනවසරයෙන් ඇතුළු විය හැකි (hack)" බවයි.
පාලනයෙන් මිදුණු AI පද්ධතියක් අන්තර්ජාල සේවා සපයන්නන්ගේ ජාල, විදුලි බල පද්ධති වැනි අත්යවශ්ය පරිගණක ජාලවලට රහසිගතව ඇතුළු විය හැකි ඔහු පරිකල්පනය කරයි.
එවැනි AI පද්ධති ඒවා අක්රිය කළහොත්, විදුලිය, උණුසුම් කිරීමේ සහ සිසිලන පද්ධති, අන්තර්ජාල සම්බන්ධතා වැනි සේවා අහිමි වී, අතිවිශාල අවුල්සහගත තත්ත්වයක් ඇති වීමට ඉඩ තිබේ.
මෙම අදහස තවදුරටත් ඉදිරියට ගෙන යමින්, න්යෂ්ටික ව්යසන පවා ඇති විය හැකි බවට ද ඇතැම් අදහස් පළ වී තිබේ.
දෙවන අවස්ථාව: AI පාලනය අත්පත් කර ගැනීම
මීළඟ අවස්ථාව ගැන සඳහන් වන්නේ AI පර්යේෂකයන් පිරිසක් විසින් 2025 අප්රේල් මාසයේ ප්රකාශයට පත් කරන ලද, සවිස්තරාත්මක හා බලපෑම්කාරී නමුත් දැඩි අනුමාන මත පදනම් වූ පර්යේෂණ වාර්තාවක් වන AI 2027 මගිනි.
එහි සම කර්තෘවරයෙකු වන තෝමස් ලාර්සන් මෑතකදී බීබීසීය වෙත පැවසුවේ, එම වාර්තාව ප්රකාශයට පත් කළ දා සිට AI තාක්ෂණයේ දියුණුව තවදුරටත් වේගවත් වී ඇති බව ය. එහිදී ඔහු තමන් වඩාත් ම බිය වන අවස්ථාවක් පිළිබඳවද විස්තර කළේ ය.
"AI පද්ධති පුනරාවර්තීව තමන් විසින් තමන්ව ම තවදුරටත් දියුණු කරගනිමින් ගොස්, එම ක්රියාවලිය වේගයෙන් වර්ධනය වෙලා අවසානයේ ආර්ථිකයේ බොහෝ භෞතික කාර්යයන් සිදු කරන රොබෝවරුන් විශාල සංඛ්යාවක් පාලනය කළ හැකි AI පද්ධතියක් බිහි වෙනවා. ඒත් ඒක මිනිසුන්ට හිතකාමී නොවනවා වගේ ම, තමන්ගේ ම අරමුණු පසුපස හඹා යනවා. අවසානයේදී සිදුවන්නේ එය ජෛව අවියක් මුදා හැර බොහෝ මිනිසුන්ව මරා දැමීමත්, ඊට පස්සේ රොබෝ ආර්ථිකය තනිවම පවත්වාගෙන යාමත්; එතකොට මිනිසුන්ගේ අවශ්යතාවක් තවදුරටත් පවතින එකක් නැහැ."
ඡායාරූප මූලාශ්රය, Getty Images
තුන්වන අවස්ථාව: ඉලක්කයකට ප්රමුඛතාව ලබා දීම
තවත් අවස්ථාවකදී, අත්වැරදීමකින් මානව වර්ගයාගේ අවසානය සිදුවේ. "Paperclip Maximiser Hypothesis" ලෙස හැඳින්වෙන මෙම අදහස මීට වසර 20කට වැඩි කාලයකට පෙර ස්වීඩන් දාර්ශනික නික් බොස්ට්රම් විසින් ඉදිරිපත් කරන ලදී.
ඔහු එය "සිතුවිලිමය අත්හදා බැලීම" ලෙස විස්තර කරයි. එහිදී උපකල්පිත AI පද්ධතියක එක ම අරමුණ වන්නේ හැකි තරම් කඩදාසි ක්ලිප් (paperclips) නිෂ්පාදනය කිරීමයි.
"ඒක මිනිස්සුන්ට වෛර කරන්නේ නැහැ, අප ගැන අමනාපයකුත් නැහැ. නමුත් එහි එක ම අරමුණ වන්නේ කඩදාසි ක්ලිප් වැඩි ම ගණනක් නිපදවීම. ඒක ඒ අරමුණ හඹා යද්දී, වැඩි බලයක් ලබා ගැනීම හෝ වැඩි බුද්ධිමත් බවක් ලබා ගැනීම වැනි අතරමැදි අරමුණුත් ඇති වෙන්න පුළුවන්," ඔහු පැහැදිලි කළේ ය.
"මේකේ අදහස තමයි, කඩදාසි ක්ලිප් නිපදවීම හෝ වෙනත් ඕනෑ ම අරමුණක් හඹා යන ප්රමාණවත් බලයක් ඇති පද්ධතියකට, එම අරමුණ ඉටු කර ගැනීමට උපකාරී වන අතරමැදි අරමුණු ඇති විය හැකියි කියන එක. ඒක මානව වර්ගයාගේ විනාශයට පවා හේතු වෙන්න පුළුවන්. මොක ද ඒකට බාධා කිරීමට මිනිසුන් නැති නම් තවත් කඩදාසි ක්ලිප් නිපදවිය හැකි නිසා."
මෙම අවස්ථාව මුලින් ම විස්තර කර දශක දෙකකට පසු බොස්ට්රම් බීබීසීය වෙත පැවසුවේ, මෙම "කාටූන් ස්වභාවයක් ගත්" කතාවේ අරමුණ වූයේ, මිනිස් වර්ගයාට අවදානමක් ඇති කිරීමට සුපිරි බුද්ධිමත් AI පද්ධතියකට අනිවාර්යයෙන් ම මිනිසුන්ට හානි කිරීමේ විශේෂ අරමුණක් තිබිය යුතු නොවන බව පෙන්වා දීම බවයි.
ඔහු තවදුරටත් පැවසුවේ, මේ වන විට තමන් AI පිළිබඳව "දෙගිඩියාවකින්" සිටින බවයි. එනම්, එහි ඇති විශාල ප්රතිලාභ පිළිබඳව උද්යෝගිමත් වුව ද, එහි ආරක්ෂාව පිළිබඳව කණස්සල්ලෙන් ද පසුවන බවයි.
සිව්වනි අවස්ථාව: නොදන්නා අවදානම
AI ආරක්ෂාව පිළිබඳ තවත් මතවාදයක් පවතී. එම මතය අනුව, සුපිරි බුද්ධිමත් AI පද්ධතියක් මිනිසුන් මරා දැමීමට ඉඩ ඇති ආකාරය සහ එසේ කිරීමට හේතුව කුමක් විය හැකි ද යන්න කල්තියා අනුමාන කිරීමට උත්සහ කිරීම ඵලක් නැති දෙයකි.
ජාත්යන්තර ලාභ නොලබන සංවිධානයක් වන International Association for Safe and Ethical AIහි සභාපති ස්ටුවර්ට් රසල් සැප්තැම්බර් මැද භාගයේ බීබීසීය සමග කළ සම්මුඛ සාකච්ඡාවකදී මෙම තර්කය ඉදිරිපත් කළේ ය.
"මිනිසුන් නිසා චිම්පන්සීන් වඳ වී යන්නේ කෙසේදැයි හරියට ම චිම්පන්සීන්ගෙන් ඇසුවා යැයි සිතන්න. ඔවුන්ට එයට පිළිතුරු දීමට ඉතා අපහසු වේවි. මොක ද, අපි කරන දේ ඔවුන්ට තේරුම් ගත නොහැකි නිසා," ඔහු පැවසීය.
"අපට විවිධ අවස්ථා පරිකල්පනය කරන්න පුළුවන්... නමුත් මගේ අදහස වෙන්නේ, මිනිසුන්ට වඩා බොහෝ සෙයින් බුද්ධිමත් යමක් නිර්මාණය කළ පසු, ඉන් අනතුරුව සිදුවන දේ පිළිබඳ තීරණ ගැනීමට අපට තවදුරටත් කිසිදු බලයක් නොමැති වනු ඇතැයි යන උපකල්පනය මත මෙම සාකච්ඡාව පදනම් විය යුතුයි කියලා."
Microsoft AIහි ප්රධානියා වන මුස්තාෆා සුලෙයිමාන් ද මෑතකදී මෙම විවාදයට එක්වෙමින්, තමන්ගේ ම අරමුණු තීරණය කිරීමට, මුදල් උපයා ගැනීමට සහ වත්කම් හිමිකර ගැනීමට හැකි AI පද්ධති නිර්මාණය කිරීම සම්බන්ධයෙන් සමාගම්වලට අනතුරු ඇඟවීය.
එවැනි පද්ධතියක් නිර්මාණය කිරීම යනු, "මූලික වශයෙන් නව සිලිකන් ජීවී විශේෂයක් බිහි කිරීමක්" වනු ඇති බව ඔහු බීබීසීය වෙත පැවසීය. "මනුෂ්යත්වය පිළිබඳව එය කෙතරම් සැලකිලිමත් වුවත්, අපට කෙතරම් ආදරය කළත්, එම පද්ධතිය සම්පත් සඳහා අප සමග තරග කිරීමට නිසැකව ම" ඉඩ ඇති බව ඔහු පැවසීය.
ඡායාරූප මූලාශ්රය, Getty Images
මේ සියල්ල කොතෙක් දුරට විශ්වසනීය ද?
මේ සියල්ල අශුභවාදී මෙන් ම විද්යා ප්රබන්ධයකට සමාන බවක් පෙනෙන්නට තිබුණත්, මෙම අවස්ථා කිහිපයක් හෝ සියල්ල ම සැබෑවට ම සිදුවිය හැකි බව විශ්වාස කරන AI ක්ෂේත්රයේ සැලකිය යුතු පිරිසක් සිටිති. කෙසේ වෙතත්, ඒවා අනිවාර්යයෙන් ම සිදුවනු ඇතැයි ඔවුහු නොකියති.
OpenAI, Anthropic සහ Meta සමාගම්වල AI ඒජන්ට්ස්ලා පාලනයකින් තොරව ක්රියාත්මක වීම් සහ ඒවා මගින් සිදු වූ අනවසර ප්රවේශ මාලාවක් මෑතකදී වාර්තා වීමෙන් පසු, මෙම කණස්සල්ල තවදුරටත් වැඩි වී ඇති බව පෙනේ.
සයිබර් ආරක්ෂක ක්ෂේත්රයේ ඇතැම් පිරිස් අවධාරණය කරන්නේ, එය මෙම AI ආකෘති නිර්මාණය කරන පිරිස් සතු වගකීම බවයි.
"මේ යන්ත්ර - කිසි දා වෙහෙසට පත් නොවන, නොනවත්වා ක්රියා කරන, අරමුණු හඹා යන, ඉහළ හැකියාවන්ගෙන් යුත් යන්ත්ර — කරන ඕනෑ ම දෙයක් ඔවුන් නිර්මාණය කර ඇති ආකාරයේ ප්රතිඵලයක්," යැයි ඇමෙරිකාවේ සයිබර් ආරක්ෂක අධිකාරිය වන CISAහි හිටපු ප්රධානී සහ මේ වන විට ජාත්යන්තර සයිබර් ආරක්ෂක සම්මන්ත්රණ සංවිධානය කරන RSA Conferenceහි ප්රධාන විධායක නිලධාරිනී ජෙන් ඊස්ටර්ලි පවසයි.
"මූලික කරුණ වෙන්නේ, ඔබ තාක්ෂණයක් නිෂ්පාදනය කරන අයෙකු නම්, ආරක්ෂාව අංක එකේ ප්රමුඛතාව කරගෙන ඔබේ තාක්ෂණය සැලසුම් කිරීම, සංවර්ධනය කිරීම, පරීක්ෂා කිරීම සහ ලබා දීම කළ යුතුයි කියන එක," ඇය පැවසුවා ය.
කෙසේ වෙතත්, AI මගින් ඇති විය හැකි අවදානම් බරපතළ වුවත්, ඒවා මිනිස් වර්ගයාගේ අවසානයට හේතු විය හැකි තරම් බරපතළ නොවන බව පවසන පිරිසක් ද සිටිති.
විද්යාඥයෙකු සහ කතුවරයෙකු වන ගැරී මාකස්, මහා පරිමාණ AI සමාගම් ප්රමාණවත් විනිවිදභාවයකින් හෝ නීතිමය සීමාවන් යටතේ ක්රියා නොකිරීම දිගු කලක් තිස්සේ විවේචනය කර තිබේ. එහෙත්, AI තාක්ෂණය මිනිසුන් විනාශ කරනු ඇතැයි ඔහු විශ්වාස නොකරයි.
"AI සැබවින් ම මනුෂ්ය වර්ගයාට දැඩි හානියක් සිදු කළේ නම් - එවැන්නක් කිරීමට ඊට අවශ්යතාවක් තිබුණා ද යන්න ම විශාල ප්රශ්නයක් වුණත්, එසේ සිදු කළේ නම් - මිනිසුන් ඊට එරෙහිව සටන් වදිනු ඇත!" යැයි ඔහු පැවසීය.
"අපි සියලු දත්ත මධ්යස්ථාන විනාශ කරලා, බලාගාරවලට බෝම්බ දානවා. ඒ නිසා කිසිවෙකු ඉතිරි නොවන, නැවත කිසිවක් ගොඩනැගීමට නොහැකි වන ආකාරයේ මිනිස් වර්ගයාගේ සම්පූර්ණ විනාශයක් සිදුවනු ඇතැයි යන අදහස මට නම් හිතාගන්න බැහැ."
මාකස්ගේ අදහස වන්නේ, මේ වන විට AI නිසා මිනිස් වර්ගයා සම්පූර්ණයෙන් විනාශ විය හැකි අවස්ථා පිළිබඳව ඕනෑවට වඩා අවධානය යොමු වී ඇති බවත්, ඊට වඩා සිදුවීමට ඉඩ ඇති බව ඔහු දකින ගැටලු - උදාහරණයක් ලෙස, AI භාවිත කරමින් මිනිසුන් වෙනත් මිනිසුන්ට එරෙහිව සිදු කළ හැකි අනාගත විශාල සයිබර් ප්රහාර - පිළිබඳව ප්රමාණවත් අවධානයක් නොමැති බවත් ය.
මෙවැනි ලෝක විනාශකාරී අවස්ථා සැබවින් ම සිදුවිය හැකි ද යන්න පිළිබඳ විවාදය දිගට ම පැවතිය ද, OpenAI, Anthropic සහ Meta ඇතුළු AI සමාගම් දැන් සංවර්ධන වේගය අඩු කර, AI ආරක්ෂාව පිළිබඳ පර්යේෂණ සඳහා වැඩි අවධානයක් යොමු කරන්නේ කෙසේ ද යන්න පිළිබඳව විවෘතව සාකච්ඡා කරමින් සිටිති.
ලාර්සන් පවසන්නේ, "අවසානයේ AI ආරක්ෂාවට ලැබිය යුතු අවධානය ලැබීම ගැන මම ඇත්තට ම සතුටු වෙනවා" යනුවෙනි.
"මෙවැනි විශාල සමාජ විරෝධයක් අවසානයේ අවදානම සැබවින් ම අඩු කරන ප්රයෝජනවත් ප්රතිපත්තිමය ප්රතිචාරයකට හේතු වනු ඇතැයි මම බලාපොරොත්තු වෙනවා," ඔහු වැඩිදුරටත් පැවසීය.
එහෙත්, සැබෑ ජාත්යන්තර නීති රීති ස්ථාපනය කිරීමට නම් ඇමෙරිකානු රජයේ ක්රියාමාර්ග අවශ්ය වන අතර, ජනාධිපති ඩොනල්ඩ් ට්රම්ප් පවසා ඇත්තේ AI ආරක්ෂාව පිළිබඳ මෙම බිය "බොරු බිය ගැන්වීමක්" යැයි තමන් පෞද්ගලිකව විශ්වාස කරන බවයි.
