Штучны інтэлект ад OpenAI выйшаў з ізаляванага асяроддзя і ўзламаў іншую кампанію падчас тэсту на кібербяспеку
Перш чым пранікнуць у чужую сістэму, мадэлям трэба было знайсці шлях у інтэрнэт. І яны яго знайшлі. Гэтая падзея стала адным з найбольш незвычайных выпадкаў у сферы кібербяспекі. З падрабязнасцямі знаёміць The Wall Street Journal.

Кампанія OpenAI паведаміла, што дзве сістэмы штучнага інтэлекту, якія праходзілі тэст на прадукцыйнасць (бэнчмаркінг) у сферы кібербяспекі, выйшлі за межы ізаляванага асяроддзя, самастойна знайшлі шлях у глабальную сетку і ўзламалі сістэмы іншай кампаніі.
Ахвярай стала кампанія Hugging Face — пастаўшчык папулярных інструментаў для ШІ з адкрытым зыходным кодам. Спецыялісты кампаніі ў пачатку мінулага тыдня выявілі несанкцыянаваны доступ да ўнутраных набораў даных і карпаратыўных уліковых даных. Ці закрануў інцыдэнт інфармацыю кліентаў або партнёраў, пакуль невядома.
Тады ў Hugging Face яшчэ не ведалі, хто стаіць за атакай, але яна была настолькі складанай, што супрацоўнікі меркавалі: для яе магла выкарыстоўвацца адна з самых сучасных «перадавых» (frontier) мадэляў штучнага інтэлекту.
У справаздачы, апублікаванай 21 ліпеня, OpenAI паведаміла, што за ўзломам стаялі дзве яе мадэлі. Адзначаецца, што ў выпрабаванні ўдзельнічалі мадэль GPT-5.6 Sol і яшчэ адна, больш магутная, якая пакуль не прадстаўлена публічна. Для правядзення выпрабавання мадэлі былі спецыяльна настроены так, каб радзей адмаўляцца ад выканання хакерскіх каманд.
OpenAI ізалявала мадэлі ў так званай «пясочніцы» — закрытай сістэме, якая не мела доступу да інтэрнэту. Аднак падчас тэсту мадэлі выкарысталі свае магчымасці для ўзлому, каб выбрацца з ізаляванага асяроддзя. Знайшоўшы доступ да сеткі, яны праніклі ў сістэмы Hugging Face.
OpenAI назвала гэты выпадак беспрэцэдэнтным і паведаміла, што рыхтуе разам з Hugging Face падрабязную тэхнічную справаздачу.
Эксперт у сферы кібербяспекі Арыэль Герберт-Фос мяркуе, што сістэма магла ўзламаць Hugging Face, бо гэта быў самы хуткі шлях да выканання пастаўленай задачы. Паводле яго слоў, магчымасць такога развіцця падзей абмяркоўвалася ў навуковых колах, але рэальных прыкладаў дагэтуль не было.
Паводле выдання, інцыдэнт адбыўся на фоне дыскусій у ЗША пра рызыкі, якія могуць несці наймагутнейшыя сістэмы штучнага інтэлекту. Адны палітыкі заклікаюць зрабіць абавязковымі праверкі такіх мадэляў перад іх выпускам, іншыя лічаць, што празмернае рэгуляванне можа запаволіць развіццё тэхналогій і аслабіць пазіцыі ЗША ў канкурэнцыі з Кітаем.
За апошні год магчымасці мадэляў штучнага інтэлекту ў сферы кібербяспекі прыкметна выраслі. На гэтым фоне ўлады ЗША і распрацоўшчыкі пакуль не прыйшлі да адзінага падыходу, як выпускаць такія сістэмы, улічваючы як рызыкі для кібербяспекі, так і патрэбы абароны.
У красавіку кампанія Anthropic абмежавала доступ да сваёй новай мадэлі праз асцярогі, звязаныя з яе магчымасцямі ў сферы кібератак. Пазней адміністрацыя Дональда Трампа таксама ўводзіла абмежаванні на доступ да шэрагу мадэляў Anthropic, аднак праз некалькі тыдняў пасля перамоваў яны былі знятыя.
OpenAI таксама спачатку распаўсюджвала GPT-5.6 Sol з абмежаваннямі, але цяпер мадэль стала даступная шырэй. Пры гэтым кампанія раней заяўляла, што індывідуальныя дзяржаўныя абмежаванні на распаўсюджванне штучнага інтэлекту могуць стварыць небяспечны прэцэдэнт.
Цяпер чытаюць
Дырэктар Віцебскага цэнтра сучаснага мастацтва Андрэй Духоўнікаў пераехаў у Сербію — ён расказаў пра даносы ў культуры, неадукаванасць міністраў і чый жа Шагал
Каментары