Навука і тэхналогіі11

Openal, Microsoft і Amazon дамовіліся абараняць чалавецтва ад магутных ШІ-сістэм

Верагоднасць «уцёкаў» нейрасеткі ад чалавека расце. Гэта першае маштабнае пагадненне па бяспецы штучнага інтэлекту.

Ілюстрацыйнае фота «Наша Ніва»

OpenAI, Microsoft, Amazon і яшчэ 13 буйных кампаній, якія займаюцца распрацоўкамі ў сферы штучнага інтэлекту, падпісалі маштабнае пагадненне аб бяспецы.

Дамова прадугледжвае, што кампаніі распрацуюць спецыяльныя пратаколы бяспекі, якія дазволяць не выкарыстоўваць штучны інтэлект у небяспечных для чалавецтва або злачынных мэтах. Кампаніі таксама павінны будуць растлумачыць, як яны збіраюцца ацэньваць рызыкі і якія пастановы будуць прымаць у тых ці іншых сітуацыях, паведамляе брытанскі ўрад.

Таксама падпісанты пагаднення вызначаць «чырвоныя лініі», пры перасячэнні якіх распрацоўкі будуць прыпыняцца, а праекты — адключацца. Вызначыць гэтыя «чырвоныя лініі» дапамогуць урады краін.

У ліку патэнцыйных рызык называюць аўтаматызаваныя кібератакі і пагрозу стварэння біялагічнай зброі з дапамогай ШІ. Для такіх выпадкаў кампаніі павінны будуць прадугледзець» аварыйныя выключальнікі», актывацыя якіх прыпыніць распрацоўкі.

Пагадненне было падпісана ў ходзе Саміту па ШІ ў Сеуле. Акрамя таго, на канферэнцыі кіраўнік OpenAI Сэм Альтман анансаваў выхад GPT-5. Падрабязнасцяў ён не раскрыў, аднак намякнуў, што новая версія ШІ будзе значна больш магутнай за папярэднюю — на слайдзе, які паказаў Альтман, GPT-5 прадстаўлена ў відэа вялізнага кіта, тады як GPT-4 намаляваная касаткай. Чакаецца, што сістэма будзе запушчана ў найбліжэйшыя месяцы.

Эксперты і карыстальнікі раней выказвалі меркаванне, што з выхадам GPT-5 верагоднасць «уцёкаў» ШІ з-пад чалавечага кантролю ўзрасце да 22%.

Каментары1

  • рубільнік
    23.05.2024
    Кітаю будзе начхаць на гэтыя вашыя меры бяспекі)

Цяпер чытаюць

Крутога айцішніка, які вярнуўся з Грузіі, асудзілі па чатырох палітычных артыкулах4

Крутога айцішніка, які вярнуўся з Грузіі, асудзілі па чатырох палітычных артыкулах

Усе навіны →
Усе навіны

Ксяндза Генрыха Акалатовіча вярнулі ў калонію

Гэтай мінчанцы 17 гадоў, а яна ўваходзіць у топ-10 найлепшых хэндлераў Еўропы3

Кожныя два метры — пераход. Сюрпрыз для веласіпедыстаў у Мінску1

Сырскі папрасіў Трампа дапамагчы Украіне перанесці вайну на тэрыторыю Расіі7

Ва ўкраінскі палон трапіў 58-гадовы беларус, што ваяваў на баку Расіі8

А цяпер так можна? Як гісторык трапіў у Wargaming, замацаваўся ў ІТ і ўжо не баіцца ні крызісаў, ні ШІ2

«Як дабівацца праўды?» Пасля смерці школьніцы ў бальніцы Ельска бацькам не даюць ніякай інфармацыі пра расследаванне11

Кляшчы пакусалі 2000 беларусаў у адной толькі вобласці5

Беларус збірае мільёны праглядаў, паказваючы, як навучае пенсіянераў карыстацца смартфонамі3

больш чытаных навін
больш лайканых навін

Крутога айцішніка, які вярнуўся з Грузіі, асудзілі па чатырох палітычных артыкулах4

Крутога айцішніка, які вярнуўся з Грузіі, асудзілі па чатырох палітычных артыкулах

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць