Niejrasietka Claude ŭzłamała sistemy troch kampanij padčas testaŭ pa kibierbiaśpiecy
U ekśpierymiencie ŭdzielničali Claude Opus 4.7, Claude Mythos 5 i ŭnutranaja testavaja madel ŠI.
Niejrasietkavyja madeli Claude padčas testaŭ u śfiery kibierbiaśpieki atrymali niesankcyjanavany dostup da sistem troch nienazvanych kampanij. Pra heta paviedamili stvaralniki — kampanija Anthropic, piša «Novaja hazieta Jeŭropa».
U ekśpierymiencie ŭdzielničali Claude Opus 4.7, Claude Mythos 5 i ŭnutranaja testavaja madel ŠI. Pavodle zadumki, niejrasietki pavinny byli pracavać u izalavanaj simulacyi biez dostupu da internetu, pra što im paviedamlałasia ŭ zadańni. Madelam treba było ŭzłamać vydumanuju sistemu i znajści schavanuju ŭ joj infarmacyju.
Adnak z-za pamyłki kampanii Irregular, jakaja supracoŭničaje z Anthropic, madeli atrymali dostup da internetu i pryniali sajty realnych kampanij za častku ekśpierymientu, patłumačyli raspracoŭščyki.
Anthropic pačała pravierku paśla taho, jak 21 lipienia ab vychadzie svaich ŠI-madelaŭ za miežy testavaj zony paviedamiła kampanija OpenAI. Tady niejrasietki zmahli atrymać dostup da płatformy Hugging Face.
Vyjavić vypadki, kali Claude uzłomvaŭ realnyja kampanii, udałosia paśla analizu bolš čym 141 tysiačy testavych zapuskaŭ, adznačyli raspracoŭščyki. Paśla hetaha, 23 lipienia, jany spynili ŭsie ekśpierymienty ŭ śfiery kibierbiaśpieki.
Akramia taho, 27 lipienia Anthropic paviedamiła paciarpiełym kampanijam, dźvie ź jakich zajavili, što nie viedali pra ŭzłom da zvarotu raspracoŭščykaŭ ŠI.
Ciapier čytajuć
Jak u biełaruskich škołach abšukvajuć dziaciej VIDEA9
Jak u biełaruskich škołach abšukvajuć dziaciej VIDEA
«Kali mnie było dva hady, svajaki pavieźli mianie ŭ Biełaruś». Praz sacsietki dziaŭčyna adšukała baćku-rasijanina — ale skončyłasia historyja sumna2323
Kamientary