Свет

Нейрасеткі могуць выпадкова выдаць інструкцыю стварэння ядзернай зброі?

Міністэрства энергетыкі ЗША разам з іншымі ведамствамі выкарыстоўвае папулярную сістэму штучнага інтэлекту для тэсціравання ядзернай бяспекі. Аднак, як піша выданне Axios, гэта можа прывесці да сцэнару, калі нейрасеткі, дапушчаныя да ядзерных праграм, могуць выпадкова выдаць сакрэты любому карыстальніку.

Ілюстрацыйны малюнак, створаны з дапамогай штучнага інтэлекту ChatGPT (DALL·E)

Амерыканская высакатэхналагічная кампанія Anthropic разам з Міністэрствам энергетыкі ЗША выпрабоўвае свае мадэлі штучнага інтэлекту (ШІ), каб пераканацца, што яны не могуць быць выкарыстаны для стварэння ядзернай зброі. Пра гэта кампанія паведаміла выданню Axios.

Anthropic заяўляе, што яе сістэма штучнага інтэлекту Claude (адна з самых перадавых на сёння нейрасетак) стала першай, якой афіцыйна дазволілі выкарыстоўвацца ў сакрэтных урадавых праграмах ЗША, у тым ліку ядзернай.

З красавіка гэтага года Anthropic супрацоўнічае з Адміністрацыяй па нацыянальнай ядзернай бяспецы (NNSA), і адначасова ладзіць з ёй маштабнае сумеснае даследаванне, ці можа Claude раптоўна выдаць ядзерныя сакрэты трэцім асобам па запыце. 

Спецыялісты NNSA і Anthropic наўмысна спрабуюць «узламаць» Claude і прымусіць яго, напрыклад, зліць інструкцыю па распрацоўцы ядзернай зброі, піша Axios (з гэтага вынікае, што штучны інтэлект ужо мае доступ да такога тыпу даных).

Даследаванне яшчэ працягваецца і скончыцца толькі ў лютым 2025 года, таму вынікі тэсціравання Claude пакуль не вядомыя. Кампанія Anthropic, у сваю чаргу, плануе падзяліцца высновамі з навуковымі лабараторыямі і іншымі арганізацыямі, каб яны маглі таксама правесці аналагічныя выпрабаванні.

Навошта ўвогуле даваць ШІ доступ да ядзернай праграмы?

Нейрасеткі могуць істотна павысіць эфектыўнасць ядзерных удараў: яны здольныя разлічваць траекторыю палёту боегалоўкі такім чынам, каб патрапіць у цэль з мінімальнымі стратамі і разбурэннямі. Гэта асабліва важна для тактычнай ядзернай зброі, якая прызначана для паразы лакальных аб'ектаў.

Перадавыя сістэмы ШІ, як той жа Claude, таксама здольныя з высокай дакладнасцю сімуляваць ядзерныя выбухі і аналізаваць іх наступствы. Гэтая інфармацыя можа спатрэбіцца для ўдасканалення канструкцыі боегаловак. Акрамя таго, ШІ можа апрацоўваць даныя аб ландшафце, экалогіі, інфраструктуры на тэрыторыі праціўніка і гэтак далей, задаючы, задаючы аптымальныя параметры для ўдару.

Каментары

Цяпер чытаюць

Як быць маладым бацькам у 66 гадоў, пра мару і пра новы альбом — у гутарцы з легендаю фолку Іванам Кірчуком1

Як быць маладым бацькам у 66 гадоў, пра мару і пра новы альбом — у гутарцы з легендаю фолку Іванам Кірчуком

Усе навіны →
Усе навіны

Расія і Украіна правялі чарговы абмен целамі загінулых вайскоўцаў. Ён ішоў праз Беларусь

«Раз'язджаліся проста па тратуарах». Каля новага стадыёна пасля матча адбыўся калапс2

Украінцы нанеслі ўдар высокадакладнымі снарадамі па базе расійскіх войскаў у Курскай вобласці ВІДЭА1

Спецслужбы выходзяць на кантакт з актывістамі праз фэйсбук: што вядома і як сябе абараніць1

Мінздароўя баіцца, што пакістанцы прывязуць у Беларусь ліхаманкі Крым-Конга і Чыкунгунья8

Відэа, у якім кіраўнік Крычава прасіў жыхароў ахвяраваць на прыпынкі, выдалілі пасля рэзанансу1

Ад 5 рублёў за штуку і букеты да 45 рублёў. На Камароўцы зацвілі півоні

На тэрыторыі Беларусі заблакавалі тыкток-каналы Ціханоўскай і Латушкі15

Латвія разварочвае пасажырскія аўтобусы і вяртае іх у Беларусь. Вось у чым прычына16

больш чытаных навін
больш лайканых навін

Як быць маладым бацькам у 66 гадоў, пра мару і пра новы альбом — у гутарцы з легендаю фолку Іванам Кірчуком1

Як быць маладым бацькам у 66 гадоў, пра мару і пра новы альбом — у гутарцы з легендаю фолку Іванам Кірчуком

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць