Свет11

Нейрасетка Claude ўзламала сістэмы трох кампаній падчас тэстаў па кібербяспецы

У эксперыменце ўдзельнічалі Claude Opus 4.7, Claude Mythos 5 і ўнутраная тэставая мадэль ШІ.

Нейрасеткавыя мадэлі Claude падчас тэстаў у сферы кібербяспекі атрымалі несанкцыянаваны доступ да сістэм трох неназваных кампаній. Пра гэта паведамілі стваральнікі — кампанія Anthropic, піша «Новая газета Еўропа».

У эксперыменце ўдзельнічалі Claude Opus 4.7, Claude Mythos 5 і ўнутраная тэставая мадэль ШІ. Паводле задумкі, нейрасеткі павінны былі працаваць у ізаляванай сімуляцыі без доступу да інтэрнэту, пра што ім паведамлялася ў заданні. Мадэлям трэба было ўзламаць выдуманую сістэму і знайсці схаваную ў ёй інфармацыю.

Аднак з-за памылкі кампаніі Irregular, якая супрацоўнічае з Anthropic, мадэлі атрымалі доступ да інтэрнэту і прынялі сайты рэальных кампаній за частку эксперыменту, патлумачылі распрацоўшчыкі.

Anthropic пачала праверку пасля таго, як 21 ліпеня аб выхадзе сваіх ШІ-мадэляў за межы тэставай зоны паведаміла кампанія OpenAI. Тады нейрасеткі змаглі атрымаць доступ да платформы Hugging Face.

Выявіць выпадкі, калі Claude узломваў рэальныя кампаніі, удалося пасля аналізу больш чым 141 тысячы тэставых запускаў, адзначылі распрацоўшчыкі. Пасля гэтага, 23 ліпеня, яны спынілі ўсе эксперыменты ў сферы кібербяспекі.

Акрамя таго, 27 ліпеня Anthropic паведаміла пацярпелым кампаніям, дзве з якіх заявілі, што не ведалі пра ўзлом да звароту распрацоўшчыкаў ШІ.

Каментары1

  • Ай
    31.07.2026
    Чарговае маркетынгае іпсо.

Цяпер чытаюць

Брэндавая сумачка за $4 тысячы і брыльянты. Віцэ-міс Беларусі Алія Кароткая схадзіла з сяброўкай паесці дранікаў7

Брэндавая сумачка за $4 тысячы і брыльянты. Віцэ-міс Беларусі Алія Кароткая схадзіла з сяброўкай паесці дранікаў

Усе навіны →
Усе навіны

Стваральніца сеткі кафэ Myloverberry распавяла, як разам з мужам загнала паспяховы бізнэс у даўгі11

«Як беларус, бульбу вырошчваю». Як жыве Віталь Тысеў, які перажыў аперацыю на хрыбетніку2

Мядзведзь напаў на намётавы гарадок з турыстамі на Алтаі і разарваў дзяўчыну8

Telegram падаў заяўку на рэгістрацыю новага дамена .gram4

Міністр адукацыі: Рэпетытараў не ўспрымаю ад слова «зусім»34

Беларус абакраў расійскага вайскоўца1

35 гадоў таму ў СССР адбыўся путч. Як адрэагавалі беларусы?5

Украінскія беспілотнікі атакавалі Ніжагародскую і Тульскую вобласці2

Дзюдзя, кока, лёля, буба і з таго ж шэрагу — папа. Прычым колішняя папа — зусім не цяперашні13

больш чытаных навін
больш лайканых навін

Брэндавая сумачка за $4 тысячы і брыльянты. Віцэ-міс Беларусі Алія Кароткая схадзіла з сяброўкай паесці дранікаў7

Брэндавая сумачка за $4 тысячы і брыльянты. Віцэ-міс Беларусі Алія Кароткая схадзіла з сяброўкай паесці дранікаў

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць