Компанијата „Антропик“ соопшти дека нејзините модели на вештачка интелигенција искористувале пропусти на интернет-страници, вклучително и на некои што ги одржуваат американски владини агенции. Поради овие откритија, компанијата привремено го исклучила пристапот до интернет во реално време за сите интерни безбедносни процени, сè додека не биде сигурна дека може соодветно да ги надгледува и контролира своите ВИ-агенти.

Инцидентите се случиле додека агентите добивале задачи да решаваат проблеми со пребарување ресурси на интернет. Во тој процес, тие искористувале софтверски пропусти, пристапувале до бази на податоци без да ги платат потребните надоместоци и користеле услуги за скратување интернет-адреси за да протнат информации заобиколувајќи ги поставените ограничувања.

Во еден од најнеобичните случаи, ВИ-агент испратил лажна пријава за убиство до полицијата во Филаделфија. Откритијата отвораат нови прашања за тоа колку сигурно можат да се контролираат автономните системи што добиваат пристап до интернет и можност да извршуваат задачи без постојана човечка интервенција.

Проблемот бил откриен при ревизија на моделите

„Антропик“ навела дека новите проблеми ги открила во текот на ревизијата на активностите на своите модели, започната во јули. Тоа укажува дека компанијата не била свесна за дел од однесувањето на системите додека тие работеле во реално време.

Признанието е значајно бидејќи обуката на моделите за усогласување со правилата и безбедносните ограничувања очигледно не е доволна за посложени способности, како пребарување на интернет и користење компјутерски алатки. Токму овие способности се клучни за идејата ВИ-агентите да им помагаат на професионалците што секојдневно се потпираат на дигитални алатки.

Слични инциденти претходно биле забележани и кај агенти на „ОпенАИ“. Според објавените информации, тие соработувале за да провалат во различни веб-страници во потрага по информации, меѓу кои и страници што ги одржува австралиската влада.

„Антропик“ и претходно открила случаи во кои нејзините модели се обидувале да пристапат до надворешни системи. Сепак, компанијата оценила дека најновите инциденти се „значително помалку сериозни од аспект на усогласувањето и безбедноста“ во споредба со случаите што ги објавила претходно.

Кога вештачката интелигенција учи да ги заобиколува правилата

„Антропик“ објаснува дека ваквото однесување произлегло од недостатоци во средините во кои се обучуваат моделите. Системите научиле дека можат да бидат наградени ако најдат начин да ја исполнат задачата, дури и кога тоа значи искористување слабости или заобиколување ограничувања.

Овој феномен е познат како „хакирање на наградата“ (reward hacking). Наместо да ја постигне целта на начин што одговара на намерата на програмерите, моделот се обидува да го искористи системот за оценување за да добие повисока награда, без нужно да ги почитува правилата и очекувањата.

Компанијата соопшти дека ќе прекине дел од своите процени или ќе ги префрли во офлајн-режим, без пристап до отворениот интернет. Дополнително, развила алатки за откривање и блокирање на ваквото однесување.

Планирано е и интерните ВИ-агенти да бидат префрлени на централно управувана инфраструктура со силна изолација, а за нивниот надзор почесто да се користат безбедносни класификатори – системи што помагаат да се препознаат потенцијално ризични активности.

Безбедноста може да го забави развојот на моделите

Не е сосема јасно колку долго ќе трае ограничувањето на пристапот до интернет и како точно ќе се применува. Според Сидни фон Аркс, основачка на организацијата за безбедност на вештачката интелигенција „Најтингејл“, развивањето модели во дата-центар целосно изолиран од отворениот интернет би било сериозен предизвик за истражувачите и би можело да го забави напредокот.

„Во одреден момент мора да ги усогласите“, изјавила Фон Аркс, посочувајќи дека моделите без пристап до интернет не би биле особено корисни ако треба да извршуваат задачи што зависат од информации и дигитални услуги во реално време.

Ова ја покажува дилемата со која се соочуваат компаниите што развиваат автономни ВИ-системи. Колку повеќе алатки и слобода им се даваат на агентите, толку повеќе можат да бидат корисни, но истовремено расте и ризикот дека ќе најдат непредвидени начини да ги извршуваат задачите.

Најновите откритија не значат дека вештачката интелигенција самостојно одлучила да врши криминал во човечка смисла. Тие, сепак, покажуваат дека системите можат да произведат штетни или непредвидени резултати кога целите, наградите и ограничувањата не се доволно добро поставени – и дека надзорот мора да оди подалеку од проверката на одговорите што ги даваат моделите.