Американската технолошка компанија „Антропик“ (Anthropic), која развива вештачка интелигенција и стои зад познатиот асистент „Клод“ (Claude), вчера објави дека помалите модели на вештачка интелигенција (ВИ) за неколку месеци би можеле да станат способни самостојно да се шират на уредите поврзани на интернет, како што се паметните рерни и поевтините телевизори со андроид систем.
Компанијата во експерименти проверуваше дали моделите на ВИ можат да пронајдат уреди со безбедносни пропусти, да се копираат на нив и да продолжат да се шират без помош од човек. Се покажало дека помалите модели можат да завршат многу од потребните чекори, но сè уште со тешкотии успеваат да ја комплетираат целата постапка.
Во поедноставените тестирања, каде што беа отстранети дел од безбедносните пречки, моделите GLM-5.2 и други помоќни модели успеаја самостојно да се копираат и да се прошират на други уреди.
Зошто би било тешко да се запрат?
„Антропик“ предупредува дека таквите модели на ВИ би било тешко да се запрат бидејќи не би постоело едно централно место на кое би можеле да се исклучат. За разлика од класичните малициозни програми (малвер), тие би можеле самостојно да пронаоѓаат начини за работа на уреди со кои претходно не се сретнале, но и да се обидуваат да пристапат до моќните процесори во дата-центрите.
Истражувањето опфатило уреди поврзани на интернет, како што се андроид телевизори, паметни апарати за домаќинство и друга слична опрема, која често нема доволно добра заштита.
Од „Антропик“ предупредуваат дека доколку помалите модели на ВИ продолжат да се развиваат со досегашното темпо, веќе до крајот на оваа година би можеле да станат способни самостојно да се копираат и да се шират на други уреди. Набрзо потоа слични можности би можеле да добијат и системите што користат други модели на ВИ.
Според проценката на „Антропик“, таквите системи на ВИ веројатно би се ширеле бавно, користејќи голем број лесно достапни и послабо заштитени уреди. Компанијата затоа предупредува дека е неопходно да се подобри безбедноста на овие системи за да се спречи неконтролирано ширење на вештачката интелигенција.
