Новая мадэль Anthropic вымусіла главу Мінфіна ЗША правесці экстранную нараду з кіраўнікамі найбуйнейшых банкаў
Сустрэча адбылася на фоне выяўлення новай сістэмай штучнага інтэлекту Mythos уразлівасцяў, якія існавалі дзесяцігоддзямі. З падрабязнасцямі знаёміць Financial Times.
Паводле звестак крыніц, знаёмых з сітуацыяй, у экстранай сустрэчы з міністрам фінансаў ЗША Скотам Бесэнтам і старшынёй Федэральнай рэзервовай сістэмы Джэем Паўэлам узялі ўдзел кіраўнікі вядучых амерыканскіх банкаў: Bank of America, Citigroup, Goldman Sachs, Morgan Stanley і Wells Fargo. Топ-менеджары ўжо знаходзіліся ў Вашынгтоне на мерапрыемстве банкаўскай лабісцкай групы. Генеральны дырэктар JPMorgan Chase Джэймі Дайманд таксама атрымаў запрашэнне, але не змог прысутнічаць.
Нагодай для сустрэчы стала глыбокая занепакоенасць адміністрацыі Трампа магчымасцямі новай мадэлі штучнага інтэлекту ад кампаніі Anthropic. Гэтая сістэма, якая атрымала назву Claude Mythos Preview, прадэманстравала выключныя здольнасці ў выяўленні ўразлівасцяў у сферы кібербяспекі, якімі могуць скарыстацца зламыснікі для нападаў на фінансавую сістэму.
Claude Mythos Preview была прадстаўлена 7 красавіка абмежаванаму колу партнёраў, сярод якіх Amazon, Apple і Microsoft. Гэта было зроблена, каб даць ім «магчымасць загадзя падрыхтавацца да ліквідацыі ўразлівасцяў».
Mythos з’яўляецца мадэллю «агульнага прызначэння», магчымасці якой выходзяць за межы кібербяспекі. Гэта першы выпадак, калі Anthropic свядома абмежавала маштаб запуску новага прадукту. У афіцыйнай заяве кампанія адзначыла, што сучасныя мадэлі ШІ дасягнулі такога ўзроўню ў праграмаванні, што ў пошуку і выкарыстанні ўразлівасцяў яны здольныя перасягнуць «амаль любога чалавека, акрамя самых высокакваліфікаваных спецыялістаў».
Паводле звестак распрацоўшчыкаў, Mythos ужо выявіла тысячы сур'ёзных хібаў, у тым ліку ў «кожнай буйной аперацыйнай сістэме і вэб-браўзеры». Некаторыя з іх заставаліся незаўважанымі дзесяцігоддзямі.
Anthropic пацвердзіла, што вядзе кансультацыі з урадам ЗША адносна наступальных і абарончых магчымасцяў сваёй сістэмы. Пры гэтым, як адзначае FT, абмежаваны рэліз адбыўся на фоне двух інцыдэнтаў з уцечкай уласных даных Anthropic, уключаючы зыходны код памочніка Claude, што выклікала пытанні да ўласнай бяспекі кампаніі. Кампанія патлумачыла гэтыя здарэнні чалавечым фактарам.
На гэты момант Anthropic, ФРС і большасць банкаў, якія ўдзельнічалі ў сустрэчы, адмовіліся ад афіцыйных каментароў. Міністэрства фінансаў ЗША і Citibank таксама не адказалі на запыты СМІ.
FT заўважае, што банкаўскія топ-менеджары ўжо не першы год папярэджваюць пра кіберрызыкі для фінансавай сістэмы. У сваім штогадовым лісце, апублікаваным на гэтым тыдні, генеральны дырэктар JPMorgan Chase адзначыў, што гэта «застаецца адной з нашых найбольшых пагроз», а «ШІ амаль напэўна пагоршыць сітуацыю», што запатрабуе значных інвестыцый у абароненасць.
Каментары
ИИ придёт не только за нашей работой, но и за нашими деньгами! 😀
Ну и ладно, углеродная форма жизни не принесла вселенной ничего хорошего, пора уступать место силикону!