Може ли вештачка интелигенција заиста да истреби човечанство и како

Отворена упозорења истраживача о све већим ризицима технологије која се отима контроли пробудила су забринутост због безбедности у вези са вештачком интелигенцијом.

Нека од најпесимистичнијих скорашњих прогноза упозоравају да постоји шанса већа од 10 одсто да би вештачка интелигенција могла да истреби све људе у наредној деценији.

Други из света вештачке интелигенције сумњају у њихову уверљивост и тврде да су већа брига људи који користе вештачку интелигенцију против других људи.

Ове апокалиптичне поруке стижу из дела вештачке интелигенције који се често назива „АИ катастрофичарима“.

Али крупно питање које многи постављају је како ти катастрофичари мисле да би вештачка интелигенција заправо могла да докрајчи човечанство.

Неки системи вештачке интелигенције недавно су се отргли контроли.

А амерички председник Доналд Трамп каже да не верује у толику опасност од вештачке интелигенције.

ББЦ новинар Џо Тајди разматра нека од сценарија које су замислили истраживачи.

Сценарио први: Хаковање инфраструктуре

Први сценарио укратко је изложио Џејкоб Коксон, бивши истраживач у ОпенАИ, а потом и Антропику, који је почетком месеца на прилично драматичан начин поднео оставку, упозоривши на ризик по човечанство и тврдећи да се компаније „коцкају животима људи“.

Он је за ББЦ рекао да „вртоглава стопа напретка“ сада значи да ствари које су претходно биле строго у домену научне фантастике „постају реалност“.

Као „конкретан пример“, навео је, „вештачка интелигенција може да хакује критичну инфраструктуру на којој свет опстаје“.

Његов сценарио замишља да би отргнути систем вештачке интелигенције могао да инфилтрира компјутерске мреже као што су провајдери и енергетске мреже.

Кад би вештачка интелигенције све угасила, на пример, могао би да уследи неизрециви хаос, без струје, грејања, хлађења или интернет везе.

Отишавши још даље, било је сугестија и да су могуће нуклеарне катастрофе.

Сценарио други: Вештачка интелигенција преузима контролу

Други сценарио потиче од детаљног и утицајног, али такође крајње спекулативног, истраживачког рада „АИ 2027", који је у априлу 2025. године објавила група истраживача вештачке интелигенције.

Коаутор Томас Ларсен недавно је за ББЦ рекао да се технологија убрзала после објављивања овог извештаја и описао сценарио ког се он лично највише плаши.

„Вештачка интелигенција се рекурзивно самоусавршава, а то ефектом лавине може да се претвори у вештачку интелигенцију која има приступ великом броју робота који обављају већи део физичких послова у читавој привреди.

„Она, међутим, није пријатељски настројена и има властите циљеве.

„И онда се на крају деси то да испусти био-оружје, убивши већину људи, и настави да води роботску привреду сама јер јој људи више нису потребни.

Сценарио трећи: Главни циљ

У трећем сценарију, до краја човечанства долази грешком.

Пре више од 20 година, шведски филозоф Ник Бостром замислио је „хипотезу о максимизатору спајалица“

Он је то описао као „мисаони експеримент“, у којем хипотетички систем вештачке интелигенције жели да направи што више спајалица може.

„Он не мрзи нити презире нас људе, али то му је једини циљ. И онда, током остваривања тог циља, он би могао да има инструменталне подциљеве који би могли да подразумевају стицање више моћи или веће интелигенције“, објашњава он.

„Потом, замисао је да би довољно моћни ентитет који следи било какве циљеве, било да су то спајалице или нешто друго, имао инструменталне подциљеве који би могли да садрже уништење човечанства зато што би могао да прави више спајалица кад не би било људи који би могли да га зауставе.“

Две деценије пошто је први пут описао овај сценарио, Бостром каже за ББЦ да је овај „карикирани“ наратив требало да илуструје идеју да вам не треба конкретан непријатељски циљ код суперинтелигенције да би она представљала опасност по човечанство.

Он каже да сад има „двојаке утиске“ о вештачкој интелигенцији - узбуђен је због њених потенцијално добрих страна, али је забринут због безбедности.

Погледајте видео: 'Вештачка интелигенција је ризик по човечанство', каже суоснивач Антропика за ББЦ

Сценарио четврти: Непознато

Постоји још једна школа мишљења о безбедности у вези са вештачком интелигенцијом која тврди да је бесмислено покушавати погодити како и зашто би суперинтелигентна вештачка интелигенција могла да побије људе.

Овај аргумент изнео је Стјуарт Расел, председник Међународног удружења за безбедну и етичку вештачку интелигенцију - међународне непрофитне организације - у интервјуу за ББЦ средином септембра.

„Ако замислите да питате шимпанзе како ће тачно ови људи да их истребе могли би да имају великих проблема да одговоре, зато што не разумеју оно што ми радимо“, рекао је он.

„Ми можемо да замишљамо разне сценарије, али мислим да расправа овде мора да се ослони на претпоставку да једном кад створите нешто што је много интелигентније од људи, ми просто више не одлучујемо о томе шта се дешава.“

Мустафа Сулејман, шеф Мајкрософт тима за АИ, такође се недавно укључио у ову расправу упозоривши фирме да не смеју да стварају системе вештачке интелигенције способне да постављају властите циљеве, зарађују новац или поседују средства.

То би „практично значило посејати нову силиконску врсту“, рекао је он за ББЦ, „која би се несумњиво такмичила са нама за ресурсе, без обзира на то колико јој је стало до човечанства и колико нас воли".

Погледајте видео: Шта је вештачка интелигенција

Колико је све ово основано?

Све то звучи песимистично и веома научнофантастично, али постоји све значајнија и све гласнија група људи у свету вештачке интелигенције која верује да су неки или сви ови сценарији реалне могућности - не и неизбежни.

Најновија забринутост јавила се после скорашњег низа неконтролисаних бекстава и хакерских акција агената вештачке интелигенције из ОпенАИ-ја, Антропика и Мете (у чијем су власништву Фејсбук и Instagram).

Неки из сајбер света истичу одговорност коју сносе они који граде те моделе.

„Било шта што ове машине - ове неуморне, непоколебљиве, на циљеве усредсређене, врло способне машине - раде је резултат онога како су оне направљене“, каже Џен Истерли, бивша шефица америчке сајбер управе ЦИСА, а тренутно извршна директорка РСА Конференције, која води међународне конференције о сајбер безбедности.

„Суштина је следећа: ако сте произвођач технологије, треба да осмишљавате, правите, тестирате и испоручујете своје способности са безбедношћу као приоритетом број један“, каже она.

Има и оних који тврде да су ризици вештачке интелигенције значајни, али немају потенцијал да истребе људску расу.

Научник и писац Гери Маркус одавно критикује велике компаније за вештачку интелигенцију које раде са врло мало транспарентности и законских прописа, али не мисли да ће технологија истребити људе.

„Кад би вештачка интелигенција нанела велике губитке човечанству, чак и кад би то желела, што је велико питање, али кад би то урадила, људи би пружили отпор!“, каже он.

„Онеспособили бисмо све дата центре и бомбардовали све електране.

„Дакле, истребљење, тако да нико не остане и нико не може да почне да гради свет испочетка - то просто не могу да замислим.“

Маркус каже да се свет тренутно превише усредсређује на сценарије истребљења а недовољно на оно што види као вероватније проблеме, као што су будући крупни сајбер напади од људи који користе вештачку интелигенцију против других људи.

И док се наставља расправа да ли су катастрофичарски сценарији основани, компаније за вештачку интелигенцију, међу којима су ОпенАИ, Антропик и Мета, сада отворено расправљају о томе како да успоре развој и раде више на истраживању безбедности.

Ларсен каже да је „истински срећан што безбедност у вези са вештачком интелигенцијом коначно добија пажњу коју заслужује“.

„Надам се да ће ова врста крупног друштвеног негодовања за последицу имати корисну политичку реакцију која ће стварно смањити ризике“, додаје он.

Али да би се успоставила истинска међународна правила, то захтева деловање америчке владе, а Трамп каже да лично сматра да су страховања за безбедност од вештачке интелигенције „превара“.

ББЦ на српском је од сада и на ТикТоку, пратите нас ОВДЕ.

Пратите нас на Фејсбуку, Твитеру, Instagramу, Јутјубу, Вајберу. Ако имате предлог теме за нас, јавите се на bbcnasrpskom@bbc.co.uk