Антропик предупредува: Вештачката интелигенција наскоро би можела независно да се прошири на телевизори и други уреди

Американската технолошка компанија Anthropic, која развива вештачка интелигенција и стои зад познатиот асистент за вештачка интелигенција Клод (Claude) објави дека за неколку месеци помалите модели на вештачка интелигенција (ВИ) би можеле да станат способни независно да се шират на уреди поврзани на интернет, како што се смарт шпорети и телевизори со Андроид.

Во експериментите, компанијата провери дали моделите на ВИ можат да пронајдат уреди со безбедносни недостатоци, да се копираат себеси на нив и да продолжат да се шират без помош на луѓето. Помалите модели покажаа дека се способни да извршат многу од потребните чекори, но сепак се борат да го завршат целиот процес.

Во поедноставените тестови, во кои беа отстранети некои безбедносни бариери, GLM-5.2 и други помоќни модели беа способни независно да копираат и да се шират на други уреди.

Anthropic предупредува дека таквите модели на ВИ би можеле тешко да се запрат бидејќи нема да има централно место за да се исклучат. За разлика од класичните малициозни програми, тие би можеле независно да најдат начини да работат на уреди со кои не се сретнале претходно, но исто така да се обидат да пристапат до моќни процесори во центрите за податоци.
Истражувањето опфати уреди поврзани на интернет, како што се Android телевизори, паметни домашни уреди и друга слична опрема, кои честопати немаат доволно добра заштита.