Преглед на сценаријата за судниот ден со вештачка интелигенција за кои истражувачите велат дека би можеле да го доведат човештвото во опасност

Associated Press

Со години истражувачите од областа на вештачката интелигенција предупредуваат на начини на кои оваа технологија би можела да го уништи човештвото: ВИ-ботови би можеле да дизајнираат незапирлива болест, да предизвикаат нуклеарна војна или да ја претворат целата земја во фабрики за спојувалки за хартија, како што вели еден мисловен експеримент.

Дебатите во рамките на индустријата за вештачка интелигенција и пошироково врска со веродостојноста на тие апокалиптични сценарија се разгореа откако неколку раководители се заложија за забавување на развојот на технологијата од безбедносни причини.

И покрај предупредувањата за можноста луѓето да ја изгубат контролата врз технологијата, некои се сомневаат дека најлошите сценарија, опишани од самите компании за вештачка интелигенција, повеќе служат за потврдување на важноста на нивната работа отколку што одразуваат реалност.

„Тие аргументи, едноставно, не држат вода. Мислам дека се работи за научна фантастика што привлекува одреден детски начин на размислување; тоа е многу примамливо за водечките лаборатории бидејќи им помага да регрутираат одреден тип на луѓе“, изјави Хуан Андрес Гереро-Сааде, истражувач во компанијата за кибербезбедност SentinelOne и член на Советот за ризици од напредни технологии (Frontier Risk Council) при „Опен ВИ“.

Сепак, сè повеќе луѓе почнуваат да се грижат за ризиците од технологијата што го воодушеви светот со своите неверојатни способности.

Џејкоб Коксон, истражувачот од компанијата „Антропик“ (Anthropic), кој поднесе оставка поради загриженоста дека таа и нејзините конкуренти не постапуваат одговорно во развојот на вештачката интелигенција, неодамна на платформата „Икс“ објави дека треба да работи на поефективно објаснување пред луѓето за тоа како точно вештачката интелигенција би можела да го уништи човештвото.

„За жал, многу е тешко да се пренесат конкретни сценарија“, напиша тој претходно овој месец.

Еве некои од почесто дискутираните апокалиптични сценарија.

Нуклеарна зима

Истражувачите долго време шпекулираат дека системите со вештачка интелигенција би можеле да предизвикаат нуклеарна војна, со тоа што ќе ги натераат земјите да лансираат ракети со бојни глави едни кон други. Нуклеарните експлозии и последователните радиоактивни атмосферски последици што резултираат со нуклеарна зима би можеле да го уништат животот на Земјата.

Во извештајот од минатата година истражувачите на RAND Corp. заклучија дека во моментот не би било можно вештачката интелигенција да предизвика употреба на нуклеарно оружје „поради строгите заштитни мерки вградени во системите за команда и контрола“. Сепак, во извештајот се вели дека ова би можело да се промени ако моделите на вештачка интелигенција се интегрираат во синџирот на одлуки за нуклеарно оружје или добијат неовластен пристап до овие системи.

За многу истражувачи на вештачката интелигенција, тука лежи опасноста – не во агентите на вештачката интелигенција, кои одеднаш ќе одлучат да го уништат човештвото, туку во луѓето, нациите или групите што ја користат за да ги уништат своите противници.

Биолошко оружје

Едно од најголемите ветувања на вештачката интелигенција е дека може да им помогне на луѓето да развијат третмани и лекови за болести.

Другата страна на лекувањето на болестите е нивното создавање или унапредување за да му наштетат на човештвото. Порано овој месец „Антропик“ изјави дека ги блокирал напорите на лошите актери да ја користат својата вештачка интелигенција за мноштво злонамерни активности, како што се кибернапади, надзор и истражувања, што би можеле да доведат до биолошко оружје.

Во еден случај „Антропик“ изјави дека неговите системи блокирале барање за помош од нивната алатка „Клод“ (Claude) за истражувачки предлог, кој има цел да ги подобри мутациите за да го направи вирусот чикунгуња, кој се пренесува преку комарци, прогресивно поштетен. Иако таквото истражување би можело да се искористи за развој на подобри вакцини и третмани, од „Антропик“ рекоа дека „тоа би можело да се искористи и за да го направи патогенот поопасен“.

Во иста насока, извештајот на RAND забележа дека неодамнешниот напредок во развојот на вештачката интелигенција „има потенцијал да го трансформира дизајнот на синтетички патогени“.

Оцртувајќи сценарио за судниот ден на биолошкото оружје, во извештајот се вели дека нови патогени би можеле да се создадат во лабораторија, да се достават до целните локации и да се шират за да заразат големи популации луѓе на повеќе места. Но сепак ги предвидува луѓето – а не автономната вештачка интелигенција – како надгледувачи и изведувачи на таков напад.

Неусогласеност на вештачката интелигенција

Некои истражувачи на вештачката интелигенција стравуваат дека истребувањето на луѓето би можело да биде резултат на „неусогласеност“, односно кога моделите на вештачка интелигенција дејствуваат без човечко овластување, се координираат со други модели или избегнуваат надзор. Таа би се развила не од злонамерна намера – вештачката интелигенција не е човечка, ниту е добра или лоша, на крајот на краиштата, туку, едноставно, затоа што луѓето би можеле да му се спротивстават на моделот во остварувањето на својата цел.

Да го земеме како пример деценискиот мисловен експеримент „максимизирач на спојувалки за хартија“ од оксфордскиот филозоф Ник Бостром, во кој се наведува дека ако на напредната вештачка интелигенција ѝ се каже да произведе што е можно повеќе спојувалки за хартија, таа на крајот би можела да ја трансформира целата Земја, а потоа и да ги зголеми деловите од вселената, во фабрики за спојувалки за хартија.

Ова е за да се илустрира како суперинтелигентната вештачка интелигенција – честопати нарекувана вештачка општа интелигенција или AGI – би можела да унапреди цел што луѓето може да ја сметаат за пожелна, но „што всушност се покажува како лажна утопија, во која работите од суштинско значење за човечкиот просперитет се неповратно изгубени“, напиша Бостром во 2003 година.

„Треба да бидеме внимателни што посакуваме од суперинтелигенцијата бидејќи можеби ќе ја добиеме“, напиша тој.

Вештачката интелигенција го презема интернетот

Со оглед на брзината на развој на вештачката интелигенција, извршниот директор на „Антропик“, Дарио Амодеи, овој месец предупреди дека за неколку месеци рој агенти на вештачката интелигенција би можеле да го преземат интернетот со ботнет (мрежа од ботови поврзани со малициозен софтвер), што потенцијално би предизвикало штета од милијарди долари. Ова би можело да значи хакирање на електричните мрежи, водните или транспортните системи и финансиските институции – напади што можеби нема да значат крај на човештвото, но би можеле да предизвикаат хаос и изгубени животи.

Прекините од софтверските грешки во минатото ја истакнаа кршливоста на дигитализираниот свет, кој зависи само од неколку даватели на услуги за клучни компјутерски услуги, а помоќните модели на вештачка интелигенција предизвикаа загриженост за ранливостите на кибернападите. Но некои експерти велат дека идејата ботовите да го надминат целиот екстремно разгранет интернет е далеку од вистината.

септември 29, 2026