Австралија ќе формира регулаторно тело за безбедност на вештачката интелигенција

Австралија планира да формира регулаторно тело за безбедност на вештачката интелигенција (ВИ), откако во јуни агент на компанијата „ОпенАИ“ неовластено пристапил до веб-портал на австралиската државна здравствена служба, како и до јавни и интерни датотеки, изјави денеска австралискиот премиер Ентони Албанезе.

Новото регулаторно тело ќе ги спроведува законски утврдените стандарди за вештачка интелигенција, а важат за сите компании што развиваат најнапредни системи на ВИ и сакаат да работат во Австралија. Предвидени се и парични казни, чиј износ Владата сè уште не го утврдила.

Албанезе уште во септември соопшти дека агент на „ОпенАИ“ без овластување пристапил до државен здравствен интернет-портал и други системи. Тој особено ја критикуваше доцната реакција, бидејќи австралиските власти биле известени за инцидентот дури неколку месеци откако се случил.

Случајот ги отвори прашањата за одговорноста на технолошките компании и за роковите во кои треба да се пријавуваат безбедносните пропусти.

Една од главните препораки предвидува измени на кривичното законодавство и воведување посебно кривично дело за пропуст во спречувањето штета. Компанијата би можела да сноси одговорност доколку развие модел што ќе предизвика штетни последици, а притоа не преземе разумни мерки за нивно спречување. Со тоа се предвидува безбедноста на вештачката интелигенција да не зависи исклучиво од доброволните правила на технолошката индустрија.

Се препорачува и задолжително пријавување на безбедносните инциденти во строго утврден рок.

Албанезе изјави дека вештачката интелигенција носи бројни можности, но и нови ризици поврзани со технологија што се развива исклучително брзо. Според него, законите треба да дејствуваат однапред или барем да ги следат промените што се случуваат. Владата затоа сака безбедноста на вештачката интелигенција да биде законски уредена пред нов инцидент да предизвика посериозни последици за граѓаните или државните институции.

Инцидентот се случил во јуни, кога системот на „ОпенАИ“ пристапил до статистички портал со податоци за австралиската програма за универзална здравствена заштита „Медикер“. Властите нагласиле дека на порталот немало чувствителни податоци. Сепак, неовластениот пристап до државната инфраструктура покажал колку е важна сајбер-безбедноста во време кога компјутерските модели стануваат сè посамостојни.

Од „ОпенАИ“ соопштија дека за инцидентот дознале дури во август, при проверка на неправилното однесување на нивниот модел.