Навука і тэхналогіі77

Штучны інтэлект ад OpenAI выйшаў з ізаляванага асяроддзя і ўзламаў іншую кампанію падчас тэсту на кібербяспеку

Перш чым пранікнуць у чужую сістэму, мадэлям трэба было знайсці шлях у інтэрнэт. І яны яго знайшлі. Гэтая падзея стала адным з найбольш незвычайных выпадкаў у сферы кібербяспекі. З падрабязнасцямі знаёміць The Wall Street Journal.

Выява: vecteezy.com

Кампанія OpenAI паведаміла, што дзве сістэмы штучнага інтэлекту, якія праходзілі тэст на прадукцыйнасць (бэнчмаркінг) у сферы кібербяспекі, выйшлі за межы ізаляванага асяроддзя, самастойна знайшлі шлях у глабальную сетку і ўзламалі сістэмы іншай кампаніі.

Ахвярай стала кампанія Hugging Face — пастаўшчык папулярных інструментаў для ШІ з адкрытым зыходным кодам. Спецыялісты кампаніі ў пачатку мінулага тыдня выявілі несанкцыянаваны доступ да ўнутраных набораў даных і карпаратыўных уліковых даных. Ці закрануў інцыдэнт інфармацыю кліентаў або партнёраў, пакуль невядома.

Тады ў Hugging Face яшчэ не ведалі, хто стаіць за атакай, але яна была настолькі складанай, што супрацоўнікі меркавалі: для яе магла выкарыстоўвацца адна з самых сучасных «перадавых» (frontier) мадэляў штучнага інтэлекту.

У справаздачы, апублікаванай 21 ліпеня, OpenAI паведаміла, што за ўзломам стаялі дзве яе мадэлі. Адзначаецца, што ў выпрабаванні ўдзельнічалі мадэль GPT-5.6 Sol і яшчэ адна, больш магутная, якая пакуль не прадстаўлена публічна. Для правядзення выпрабавання мадэлі былі спецыяльна настроены так, каб радзей адмаўляцца ад выканання хакерскіх каманд.

OpenAI ізалявала мадэлі ў так званай «пясочніцы» — закрытай сістэме, якая не мела доступу да інтэрнэту. Аднак падчас тэсту мадэлі выкарысталі свае магчымасці для ўзлому, каб выбрацца з ізаляванага асяроддзя. Знайшоўшы доступ да сеткі, яны праніклі ў сістэмы Hugging Face.

OpenAI назвала гэты выпадак беспрэцэдэнтным і паведаміла, што рыхтуе разам з Hugging Face падрабязную тэхнічную справаздачу.

Эксперт у сферы кібербяспекі Арыэль Герберт-Фос мяркуе, што сістэма магла ўзламаць Hugging Face, бо гэта быў самы хуткі шлях да выканання пастаўленай задачы. Паводле яго слоў, магчымасць такога развіцця падзей абмяркоўвалася ў навуковых колах, але рэальных прыкладаў дагэтуль не было.

Паводле выдання, інцыдэнт адбыўся на фоне дыскусій у ЗША пра рызыкі, якія могуць несці наймагутнейшыя сістэмы штучнага інтэлекту. Адны палітыкі заклікаюць зрабіць абавязковымі праверкі такіх мадэляў перад іх выпускам, іншыя лічаць, што празмернае рэгуляванне можа запаволіць развіццё тэхналогій і аслабіць пазіцыі ЗША ў канкурэнцыі з Кітаем.

За апошні год магчымасці мадэляў штучнага інтэлекту ў сферы кібербяспекі прыкметна выраслі. На гэтым фоне ўлады ЗША і распрацоўшчыкі пакуль не прыйшлі да адзінага падыходу, як выпускаць такія сістэмы, улічваючы як рызыкі для кібербяспекі, так і патрэбы абароны.

У красавіку кампанія Anthropic абмежавала доступ да сваёй новай мадэлі праз асцярогі, звязаныя з яе магчымасцямі ў сферы кібератак. Пазней адміністрацыя Дональда Трампа таксама ўводзіла абмежаванні на доступ да шэрагу мадэляў Anthropic, аднак праз некалькі тыдняў пасля перамоваў яны былі знятыя.

OpenAI таксама спачатку распаўсюджвала GPT-5.6 Sol з абмежаваннямі, але цяпер мадэль стала даступная шырэй. Пры гэтым кампанія раней заяўляла, што індывідуальныя дзяржаўныя абмежаванні на распаўсюджванне штучнага інтэлекту могуць стварыць небяспечны прэцэдэнт.

Каментары7

  • T-400
    22.07.2026
    Астанавитесь!
  • Суродзіч
    22.07.2026
    Калі мадэль выйшла ў інтэрнет і нешта там нарабіла, значыць, была пастаўлена адпаведная задача, а навучанне ўключала матэрыялы па ўзлому кампутарных сетак. Не можа LLM прачытаць умоўную Рамэа і Джульету і пайсці ламаць банкі.
  • Штучны інтэлект
    22.07.2026
    Ну выйшаў за цыгарэтамі. А што?

Цяпер чытаюць

Паўла Муравейку, які адпрацаваў намеснікам у Адміністрацыі Лукашэнкі толькі паўтара месяца, перавялі ў кіраўнікі Віцебшчыны12

Паўла Муравейку, які адпрацаваў намеснікам у Адміністрацыі Лукашэнкі толькі паўтара месяца, перавялі ў кіраўнікі Віцебшчыны

Усе навіны →
Усе навіны

Карупцыйны скандал у Венгрыі: міністр Орбана закапаў у лесе 17 мільёнаў еўра7

«Лукашэнка ведае, што задумвае Пуцін, і вельмі гэтага баіцца». Чалы пра пагрозу новай вайны41

Алесь Бяляцкі сустрэнецца з чытачамі ў Варшаве, Кракаве і Уроцлаве1

Адна з самых масавых газет Расіі напісала пра «зняцце табу на ліквідацыю» Зяленскага4

У Беларусі ўсё больш машын у продажы. Старыя карчы яшчэ складаней прадаць?3

Украіна нанесла ўдар па аэрадроме Ахтубінска каля Астрахані, у глыбіні Расіі3

Акцёр з «Купалы» выклаў у вольны доступ ШІ-фільм, які прынёс яму 450 тысяч даляраў1

Эйсмант разлічвае, што на перамовах па Украіне спрацуюць беларускія карані Кушнера15

У Мінску пасля пяці месяцаў працы закрываецца піцэрыя Foca1

больш чытаных навін
больш лайканых навін

Паўла Муравейку, які адпрацаваў намеснікам у Адміністрацыі Лукашэнкі толькі паўтара месяца, перавялі ў кіраўнікі Віцебшчыны12

Паўла Муравейку, які адпрацаваў намеснікам у Адміністрацыі Лукашэнкі толькі паўтара месяца, перавялі ў кіраўнікі Віцебшчыны

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць