Штучны інтэлект кампаніі OpenAI узламаў аўстралійскі дзяржаўны партал Medicare, на якім публікуецца статыстыка аб сістэме медыцынскага страхавання.
Прэм’ер-міністр Энтані Албаніз назваў тое, што адбылося, «непрымальным» і выказаў кіраўніку OpenAI Сэму Альтману сваю «надзвычайную занепакоенасць», піша Bild.
Асаблівае незадавальненне Албаніза выклікала тое, што OpenAI занадта доўга не інфармавала ўрад Аўстраліі. Узлом адбыўся яшчэ ў чэрвені, аднак улады даведаліся пра яго толькі цяпер, у верасні. ШІ-агент атрымаў доступ да публічных і непублічных файлаў сістэмы страхавання. Пры гэтым, паводле ўсёй верагоднасці, асабістая інфармацыя не была закранутая, і асобныя людзі не пацярпелі, заявіў Албаніз.
Паводле задумы OpenAI, праграма са штучным інтэлектам павінна была шукаць статыстыку, звязаную са сферай аховы здароўя. На некалькіх аўстралійскіх дзяржаўных сайтах яна дзейнічала гэтак жа, як дзейнічаў бы звычайны карыстальнік, заявіў віцэ-прэм’ер Рычард Марлз. Аднак на партале Medicare ШІ не знайшоў неабходнай інфармацыі ў адкрытым доступе, пасля чаго вырашыў пайсці іншым шляхам.
«ШІ-агент знайшоў спосаб абысці блакаванне — ён, так бы мовіць, не хацеў прымаць «не» ў якасці адказу», — заявіў Албаніз.
Колькі дадзеных такім чынам атрымаў ШІ-зламыснік, яшчэ высвятляецца.
Таксама невядома, ці атакаваў ШІ іншыя сайты ўрада Аўстраліі.
OpenAI паведаміла, што падчас унутранай праверкі выявіла актыўнасць на некалькіх аўстралійскіх дзяржаўных сайтах: ШІ спрабаваў знайсці ўрадавую статыстыку.
«Пры гэтым нашы мадэлі выконвалі дзеянні, якіх мы не мелі намеру дапускаць», — заявіў прадстаўнік кампаніі.
Цяпер чытаюць
Ён адкрыта называў расійскіх вайскоўцаў акупантамі, а расійскую ўладу — фашысцкай. За краты кінулі супрацоўніка МТБанка5
Каментары
А калі гэта робіць буйная амерыканская кампанія - ну, занепакоенасць выказалі і ўсё. Смешна гэта.