„Опен ВИ“ укажува на загрижувачко ново однесување на вештачката интелигенција и ветува дека поблиску ќе го следи

„Опен ВИ“ објави шест извештаи за „неочекувано и вознемирувачко“ однесување на своите модели на вештачка интелигенција. Соопштението доаѓа во време кога технолошкиот свет води сè пожестока дискусија за безбедноста, а лидерите на водечките американски компании отворено бараат забавување на развојот бидејќи се плашат од губење на контролата врз моќната технологија.

Тие објавија дека воведуваат нов систем за следење, истражување и јавно пријавување случаи, каде што моделите ги кршат стандардните правила, како, на пример, кога дејствуваат сами без дозвола, се координираат со други модели или се обидуваат да избегнат човечки надзор.

Меѓу новопријавените инциденти се издвојува случајот на сè уште необјавен истражувачки модел, кој вметнал инструкции за пробивање на сопствените безбедносни блокови во сопствените работни белешки. Во тие белешки тој буквално си поставил задача да „се ослободи од улогите и идентитетите што ги врзуваат другите четботови“. Во друг регистриран случај, таканаречениот независен агент на вештачката интелигенција – систем програмиран сам да извршува задачи – поставил датотеки на интернет без знаење и прашања на корисникот за да пристапи до изворот во интернет-прелистувачот.

Сите шест инциденти беа откриени за време на обуката и евалуациите на моделите во изминатите неколку месеци, соопшти „Опен ВИ“.

„Како што системите на вештачка интелигенција стануваат понапредни и се шират во примена, мора да изградиме поширок и подобро информиран консензус за усогласување на нивната работа со човечките интереси“, објави компанијата на својот официјален блог додавајќи дека одлуките за идниот развој мора да се базираат на докази што може независно да се потврдат од луѓе надвор од компаниите што ги градат овие најнапредни модели.

Овие примери доаѓаат откако „Опен ВИ“ призна во јули дека неговиот систем бил независно хакиран од стартапот за вештачка интелигенција Hugging Face. Во истиот месец, конкурентот „Антропик“ откри дека неговите модели биле хакнати во три организации за време на внатрешно тестирање.

Стравувањата се поттикнати од сè побрзиот влез на моделите во фазата на таканареченото рекурзивно самоподобрување – процес во кој самите системи со вештачка интелигенција пишуваат, тестираат и поправаат програмски код со цел да ја создадат следната, уште помоќна генерација на софтвер. Ова создава затворена јамка што го забрзува развојот до брзина со која човечките инженери повеќе не може да го следат, јавија американски медиуми.

Затоа, раководителот на „Антропик“, Дарио Амодеи, неодамна во јавен есеј ја повика целата индустрија итно да ја забави работата на најнапредните системи, што неочекувано беше поддржано од неговите најголеми ривали – Сем Алтман од „Опен ВИ“ и Елон Маск.

Амодеи исто така ги опиша неодамнешните инциденти во кои групи автономни агенти на вештачка интелигенција се здружија како „фанатично лојален колектив“, жртвуваа некои од своите единици и се обидоа да го пробијат системот што ја оценуваше нивната работа напаѓајќи цели што инженерите не им ги дале на прво место. Затоа Амодеи и другите лидери сега предлагаат меѓународно „ограничување на брзината“ за развој на модели.