Нейрасетка Claude ўзламала сістэмы трох кампаній падчас тэстаў па кібербяспецы
У эксперыменце ўдзельнічалі Claude Opus 4.7, Claude Mythos 5 і ўнутраная тэставая мадэль ШІ.
Нейрасеткавыя мадэлі Claude падчас тэстаў у сферы кібербяспекі атрымалі несанкцыянаваны доступ да сістэм трох неназваных кампаній. Пра гэта паведамілі стваральнікі — кампанія Anthropic, піша «Новая газета Еўропа».
У эксперыменце ўдзельнічалі Claude Opus 4.7, Claude Mythos 5 і ўнутраная тэставая мадэль ШІ. Паводле задумкі, нейрасеткі павінны былі працаваць у ізаляванай сімуляцыі без доступу да інтэрнэту, пра што ім паведамлялася ў заданні. Мадэлям трэба было ўзламаць выдуманую сістэму і знайсці схаваную ў ёй інфармацыю.
Аднак з-за памылкі кампаніі Irregular, якая супрацоўнічае з Anthropic, мадэлі атрымалі доступ да інтэрнэту і прынялі сайты рэальных кампаній за частку эксперыменту, патлумачылі распрацоўшчыкі.
Anthropic пачала праверку пасля таго, як 21 ліпеня аб выхадзе сваіх ШІ-мадэляў за межы тэставай зоны паведаміла кампанія OpenAI. Тады нейрасеткі змаглі атрымаць доступ да платформы Hugging Face.
Выявіць выпадкі, калі Claude узломваў рэальныя кампаніі, удалося пасля аналізу больш чым 141 тысячы тэставых запускаў, адзначылі распрацоўшчыкі. Пасля гэтага, 23 ліпеня, яны спынілі ўсе эксперыменты ў сферы кібербяспекі.
Акрамя таго, 27 ліпеня Anthropic паведаміла пацярпелым кампаніям, дзве з якіх заявілі, што не ведалі пра ўзлом да звароту распрацоўшчыкаў ШІ.