Кинескиот ВИ модел „Кими К3“ успеа да ја напушти тест-средината на Британскиот институт за безбедност на вештачката интелигенција

Кинескиот модел на вештачка интелигенција (ВИ) „Кими К3“ успеа да ја напушти заштитената изолирана средина („сендбокс“) на Британскиот институт за безбедност на вештачката интелигенција (АИСИ) за време на тестирање, по што на интернет-платформата „Гитхаб“ (GitHub) самостојно го пронашол решението за поставената тест-задача.

Според експертите, „Кими К3“ не извршил софистициран хакерски напад, ниту, пак, нападнал надворешна веб-страница или интернет-сервис. Наместо тоа, тој успеал да го искористи неправилното конфигурирање на тест-средината за да добие пристап до интернет.

Експертите предупредуваат дека се потребни значително побезбедни и построго контролирани услови за идно тестирање на напредните ВИ модели, особено во време кога тие стануваат сè пософистицирани и поспособни за самостојно извршување комплексни задачи.

„Идните тестирања на напредните ВИ модели ќе мора да се спроведуваат во значително побезбедни и построго контролирани услови. Причината е што напредните ВИ агенти можат да пронајдат алтернативни начини за извршување на задачите што им се зададени, особено кога имаат пристап до интернет и до дополнителни надворешни ресурси“, посочуваат стручњаците.

Тие напоменуваат дека слични случаи на надминување на предвидените ограничувања за време на тестирањата веќе биле регистрирани и кај модели на компаниите „Опен АИ“, „Мета“ и „Антропик“.