„Чет-ГПТ“ ќе го предупредува семејството во случај на навестено самоубиство

Американската технолошка компанија „Опен-АИ“ (OpenAI) воведе нова функција „Доверлив контакт (Trusted Contact)“, којашто има за цел – ако корисникот изрази мисли за самоповредување во разговор со „Чет-ГПТ“, да ги предупреди неговите најблиски, објави „Теккранч (TechCrunch)“.

Овој потег уследи откако „Опен-АИ“ се соочи со бран тужби од семејства на луѓе кои извршиле самоубиство откако разговарале со нивниот четбот. Опцијата им овозможува на возрасните корисници на „Чет-ГПТ“ да назначат друго лице во нивната корисничка сметка како доверлив контакт, како што е член на семејството или пријател. Во случај кога разговорот ќе се насочи кон самоповредување, „Опен-АИ“ ќе го охрабри корисникот да се обрати до тој контакт, но исто така, ќе испрати автоматско известување до назначеното лице, охрабрувајќи го да го провери корисникот во случај да му е потребна помош. 

Во неколку случаи, семејствата тврдат дека „Чет-ГПТ“ дури ги охрабрил нивните најблиски да си го одземат животот, или дури им помогнал да го испланираат самиот чин.

Компанијата тврди дека секојпат кога ќе добијат такво известување, инцидентот го разгледува човечки тим.

„’Опен-АИ’ моментно користи комбинација од автоматизација и човечка верификација за справување со потенцијално опасни случаи. Одредени ‘активатори’ во разговорот го предупредуваат системот за самоубиствени мисли и намери, а информациите потоа се проследуваат до безбедносниот тим. Се обидуваме да ги разгледаме овие безбедносни известувања за помалку од еден час“, велат од „Опен-АИ“.

Доколку внатрешниот тим процени дека случајот претставува сериозен безбедносен ризик, „Чет-ГПТ“ испраќа предупредување до доверлив контакт – преку е-пошта, СМС-порака или слично известување во рамките на апликацијата. Предупредувањето е кратко и дизајнирано така што не ја нарушува приватноста на корисникот, т.е. не содржи детали за самиот разговор со вештачката интелигенција.

Новата функција „Доверлив контакт“ се надградува на безбедносните мерки воведени минатиот септември, коишто им дадоа можност на родителите да ги следат своите тинејџери, вклучително и примање известувања доколку системот утврди дека нивното дете е во опасност. „Чет-ГПТ“ веќе некое време нуди и автоматски известувања што им предлагаат на корисниците да побараат професионална медицинска помош доколку ја допрат темата за самоповредување.

„’Доверлив контакт’ е дел од пошироките напори на ‘Опен-АИ’ за изградба на ВИ-системи коишто им помагаат на луѓето во нивните тешки времиња. Ќе продолжиме да работиме со лекари, истражувачи и креатори на политики за да го подобриме начинот на којшто системите реагираат кога луѓето се соочуваат со сериозни проблеми“, истакнува компанијата во своето официјално соопштение.

Сепак, важно е да се истакне клучно ограничување: „Доверлив контакт“ е целосно доброволен. Дури и ако заштитата е активирана на одредена сметка, секој корисник може да има повеќе профили на „Чет-ГПТ“. Истото важи и за родителските контроли, коишто, исто така, се по избор.