„Антропик“ ја блокира употребата на ВИ за можни истражувања за биолошко оружје

Американската компанијата за вештачка интелигенција „Антропик“ соопшти дека последниве месеци блокирала неколку обиди од страна на истражувачи кои се обиделе да го користат нејзиниот софтвер „Клод“ во врска со можен развој на биолошко оружје.

Во детален извештај за обидот за злоупотреба на ВИ-моделите, „Антропик“ наведе пет случаи поврзани со можни истражувања за биолошко оружје. Конкурентот на развивачот на „Чет-ГПТ“, „Опен-АИ“, сепак, предупреди дека намерите зад ваквите барања може да бидат тешки за утврдување бидејќи истото истражување може да служи и за медицински и за воени цели. „Антропик“ рече дека случаите сепак покажуваат дека научници од региони каде што пристапот е ограничен, вклучително и некои со врски со властите, се обиделе тајно да пристапат до ВИ развиена од американски компании, соопшти компанијата.

Ниту вклучените истражувачки институции, ни земјите во коишто се наоѓаат не беа спомнати.

Сомнителните истражувачи не побарале специфична научна помош, туку организациска поддршка, како што е помош при изготвување документи. Во еден случај блокиран од компанијата, на пример, истражувач се обидел да го искористи „Клод“ да му помогне во изготвувањето апликација за финансирање за истражување на вирус. Предложената работа вклучувала наводно истражување за зголемена преносливост на патогенот. Таквиот пристап најчесто се користи во лабораториите, при развој на контрамерки, но може да се искористи и во развојот на биолошко оружје.

Моделите на вештачка интелигенција генерално се дизајнирани да одбијат помош, прашани за или околу развој на биолошко оружје. Но, „Антропик“ наведе дека кога истражувањето може да послужи и за медицински или легитимни воени цели, понекогаш може да биде тешко да се повлече јасна линија меѓу безопасна и злонамерна замисла.

Во друг случај, „Клод“ бил користен во обид да се изготви план за истражување за варијанта на птичји грип способна да се шири кај цицачи. Компанијата нагласи дека таквото истражување може да помогне во спречување болести, но исто така, може да пренесе штетно знаење што може да се злоупотреби во развојот на оружје. „Клод“ бележи и обид за употреба за подготвување квартални извештаи за напредокот на истражувањата што вклучуваат токсин, соопшти „Антропик“.