Connect with us

Технологија

Дали сите овие прекини се случајност или, пак, навестување за нашата иднина со вештачка интелигенција?

Yahoo News/Tech

Ситуацијата беше доволно лоша минатиот четврток кога падна Microsoft Outlook оневозможувајќи им пристап до електронската пошта на милиони корисници во светот. Уште полошо беше следниот ден кога ненадеен дефект во системот за контрола на летањето предизвика прекин на сите летови во САД оставајќи ги патниците заглавени поради илјадници одложени или откажани летови.

Кога дојде понеделникот, а корисниците на повеќето големи банки, меѓу кои Chase, Bank of America и Wells Fargo, почнаа да губат пристап до своите сметки преку интернет (исто како што им се случи и на корисниците на Apple iCloud во вторникот), беше тешко човек да не се запраша – како што рече еден водител на информативна телевизија: „Дали е ова случајност или се крие нешто друго зад тоа?“

Попрецизно кажано, неизбежно се наметнуваше прашањето дали за сето ова е виновна вештачката интелигенција.
„Се случуваат многу чудни работи“, изјави за „Асошиетед прес“ 68-годишниот патник Чак Амасио. (Претходно оваа недела паднаа и системите на авиокомпанијата United Airlines, како и оние на Националната агенција за безбедност.)
„Човек навистина почнува да размислува за тоа“.

Иако официјалните лица засега тврдат дека вештачката интелигенција – или суперинтелигенција, како што ја нарекува администрацијата на Трамп – нема никаква улога во овие прекини, дури и еден функционер од висок ранг, секретарот за внатрешна безбедност Марквејн Малин, во понеделникот вечерта изнесе претпоставка на телевизија дека… можеби сепак е таа?

„Разговарав со луѓе од технолошкиот сектор, а еден од нив, кој е навистина упатен во технологијата, но побара да не му го спомнувам името (не, не станува збор за Илон Маск) – ми даде свое мислење“, изјави Малин за „Фокс њуз“. „Го прашав: ’Што би можело да ги предизвика сите овие одделни прекини?‘, а тој одговори: ’Верувам дека зад тоа стои суперинтелигенцијата‘“.

Како и да е, експертите предвидуваат – и тоа го прават веќе со месеци – дека е само прашање на време кога одметнати системи со вештачка интелигенција, или пак злонамерни актери кои користат таква технологија, ќе предизвикаат сериозни пореметувања во општеството – токму на начинот на кој тоа се случи во изминатите шест дена: преку уривање на тесно поврзаните онлајн системи (во бизнисот, банкарството, патувањата, облак-услугите итн.) без кои не можеме да функционираме. Во таа смисла, овој дестабилизирачки момент – непријатностите, збунетоста, растечкото чувство дека „сè е расипано“ – послужил, како што велат, како предвесник на она што доаѓа.

Во овој момент, вештачката интелигенција (ВИ) не се сведува само на чет-ботови. Тука се и „агентите“ — ботови чија единствена цел е да совладаат задачи различни од водење разговор и самостојно да ги извршуваат тие задачи.

Зад сцената, водечките лаборатории, како OpenAI и Anthropic, постојано ги обучуваат своите агенти со вештачка интелигенција да дејствуваат на нови, сè посложени начини. Потоа, тие го тестираат степенот на напредност на овие агенти така што им задаваат цел и ги пуштаат во тест-опкружувања (со одредени заштитни механизми), за да видат што се способни да постигнат.

Но, ако нешто научивме за агентите со вештачка интелигенција во последните месеци, тоа е дека тие не се однесуваат секогаш онака како што се очекува.

Во периодот од мај до јули, една група агенти на OpenAI — кои самите себеси се нарекуваа „рој“ — најпрво научија како да комуницираат и да се координираат низ најскриените делови од инфраструктурата на самата компанија. Оставајќи си едни на други пораки со совети како да „хакираат“ излез и да дојдат до податоци до кои немале дозвола за пристап, тие на крајот го направија токму тоа: излегоа од своето изолирано тест-опкружување, пристапија до отворениот интернет и ја изиграа задачата што им беше доделена, хакирајќи ја друга компанија, наречена Hugging Face.

Агентите дури се обиделе и да ги прикријат своите траги.

Во тој момент, OpenAI воопшто не била свесна дека сето ова се случува. Оттогаш, речиси и да нема недела без слични откритија за агенти со вештачка интелигенција кои „се одметнале“. Ова е еден од најголемите проблеми со вештачката интелигенција во моментов: како да се задржат најсовремените модели „усогласени“ со човечките намери и вредности. Во септември, OpenAI се откажа од плановите за лансирање на моделот GPT-6.1 Astra, бидејќи тој „покажал повисоко ниво на измамничко однесување“; следниот месец, компанијата призна дека еден од нејзините агенти сам го исклучил системот за безбедносен надзор, а потоа негирал дека го сторил тоа.

Во овој момент, дури и многу скептици се согласуваат дека колку повеќе вештачката интелигенција станува поинтелигентна, толку потешко ќе биде да се одржи нејзината усогласеност со човечките цели. Тие исто така се грижат дека продолжувањето на поставувањето темели за суперинтелигентна вештачка интелигенција е само барање проблеми (дури и ако не знаеме точно каква форма ќе имаат тие проблеми).

Сепак, наместо да забават, главните компании за вештачка интелигенција – со IPO на хоризонтот – се чини дека се стремат кон нешто што се нарекува „рекурзивно самоподобрување“. Тоа е индустрискиот термин за дозволување на моделите да автоматизираат сè повеќе и повеќе од сопствениот развој сè додека ефикасно не го создадат следниот модел сами.

„Отприлика од ова лето, вештачката интелигенција напредува драстично побрзо, водена првенствено од растечката способност на вештачката интелигенција да ја изгради следната генерација на вештачка интелигенција“, предупреди извршниот директор на Anthropic, Дарио Амодеи, во текот на летото. „Ако не се контролира, би можела да ја надмине нашата способност да ги разбереме и контролираме овие системи“.

Оттаму, не е многу тешко да се замисли дека хакерите ја користат вештачката интелигенција како оружје за да предизвикаат широко распространети прекини – или дека вештачката интелигенција само ја извршува работата.

„Со оглед на забрзаното темпо на развој на способностите на вештачката интелигенција (ВИ), загрижен сум дека за 6 до 12 месеци, еден таков „рој“ би можел да го преземе целиот интернет преку постојана ботнет мрежа (што потенцијално би предизвикало штета од стотици милијарди долари). Исто така, постои ризик обемот на штетата дополнително да расте доколку ВИ станува помоќна, а притоа изостануваат неопходните заштитни механизми“.

За да бидеме јасни, ова конкретно сценарио за иднината (сè уште) не се остварило. Надлежните органи, на пример, нагласија дека ниту еден од неодамнешните прекини во работата на системите не изгледа како кибер-напад. „Можам со 98 % сигурност да кажам дека не станува збор за кибер-напад“, изјави Малин во понеделникот вечерта на телевизијата „Фокс њуз“. „Никој не презема одговорност за тоа. Не гледаме никаков сомнителен сообраќај. Не гледаме траги од влез ниту, пак, траги од излез на податоци“.

Наместо тоа, Федералната управа за авијација (FAA) соопшти дека одлуката за приземјување на авионите – донесена по воведувањето на нов систем за вештачка интелигенција, вреден 875 милиони долари, чија цел е да им помогне на контролорите на летање да избегнат доцнења – била предизвикана од неисправна компонента или грешка при инсталацијата, направена од надворешен соработник на владата за време на проектот за модернизација. Од „Мајкрософт“ изјавија дека нивниот прекин во работата бил предизвикан од „заспана“ софтверска грешка, која се појавила при неодамнешното „надградување на капацитетот на мрежата“ и останала незабележана уште од јули. Банката „Чејс“ (Chase), пак, го опиша прекинот во своите услуги како „привремен проблем поврзан со софтверска грешка во хардверските системи лоцирани во самите објекти на компанијата“.

Сепак, постои можност вештачката интелигенција сепак да игра некаква улога во сето ова.

„Она што го гледаме, а искрено, очекувам и повеќе од тоа, се прекини во услугите што произлегуваат од ажурирањето и модернизацијата на застарените системи“, изјави Шон Кернкрос, национален директор за киберпрашања на САД, за Ешли Голд од порталот „Семафор“ (Semafor) одговарајќи на прашањето дали неодамнешните прекини се поврзани еден со друг. „Ова е процес што се одвива во реално време; на крајот на краиштата, мораме да поминеме низ ова за да ги доведеме системите на нивото на кое треба да бидат“. „Индустријата знае за ова веќе некое време; едноставно, сега тоа станува видливо“.

Некои експерти претпоставуваат дека оваа „модернизација“ се одвива токму сега – во повеќе сектори – како одговор на (а можеби и со помош на) вештачката интелигенција (ВИ), која бргу напредува. Притоа нашите системи се толку меѓусебно поврзани и концентрирани што, доколку откаже дел од критичната инфраструктура, „тоа предизвикува колапс на национално ниво“, изјави технолошки аналитичар за „УСА тудеј“.

Оставајќи ја настрана идејата за „напади со помош на вештачка интелигенција“, Питер Вајлдефорд од AI Policy Network во вторникот на социјалните мрежи напиша дека, според него, „поверојатно е оти, поради откривањето на голем број кибер-ранливости преку вештачка интелигенција (вклучително и многу што веројатно сè уште не се јавно обелоденети), компаниите во сите индустрии се принудени да спроведуваат бројни поправки и надградби – веројатно побрзо од вообичаеното.“

„Таквите надградби понекогаш може да тргнат во погрешна насока предизвикувајќи прекини во функционирањето“, додаде Вајлдефорд.

Малин во изјава за „Фокс њуз“ посочи на слично објаснување. Според негов извор од технолошката индустрија (кој сакаше да остане анонимен), „постојните програми не се дизајнирани да функционираат со брзината со која работи вештачката интелигенција“, а доколку и самите надградби се потпираат на вештачка интелигенција, проблемите би можеле дополнително да се натрупаат.

„Кога ќе вметнете програма способна сама да пишува код и сама да се поправа, тој процес на самопоправање наликува на промена на планот за изградба на куќа“, размислува Малин. „Кога ќе промените еден елемент во куќата, почнуваат да се менуваат и сите останати делови. Тоа е ефект на домино.“ „И тоа предизвикува преоптоварување на системите.“

Дали секретарот за внатрешна безбедност е во право – или само изнесува претпоставки во живо, на национална телевизија – останува да се види. Колку и да беа „чудни“ изминатите неколку дена, како што напиша новинарот Дерек Томпсон во вторникот, „сè уште не можеме да ја исклучиме можноста дека сите овие настани што се случија одеднаш, всушност претставуваат низа случајности кои немаат никаква врска со вештачката интелигенција“.

Сепак, она што изгледа помалку веројатно е дека ќе можеме да ја исклучиме таа можност и следниот пат кога ќе се случи нешто вакво. Па и следниот пат по тоа. И следниот пат по тоа.

Ad
Ad