Свет

Нейрасеткі могуць выпадкова выдаць інструкцыю стварэння ядзернай зброі?

Міністэрства энергетыкі ЗША разам з іншымі ведамствамі выкарыстоўвае папулярную сістэму штучнага інтэлекту для тэсціравання ядзернай бяспекі. Аднак, як піша выданне Axios, гэта можа прывесці да сцэнару, калі нейрасеткі, дапушчаныя да ядзерных праграм, могуць выпадкова выдаць сакрэты любому карыстальніку.

Ілюстрацыйны малюнак, створаны з дапамогай штучнага інтэлекту ChatGPT (DALL·E)

Амерыканская высакатэхналагічная кампанія Anthropic разам з Міністэрствам энергетыкі ЗША выпрабоўвае свае мадэлі штучнага інтэлекту (ШІ), каб пераканацца, што яны не могуць быць выкарыстаны для стварэння ядзернай зброі. Пра гэта кампанія паведаміла выданню Axios.

Anthropic заяўляе, што яе сістэма штучнага інтэлекту Claude (адна з самых перадавых на сёння нейрасетак) стала першай, якой афіцыйна дазволілі выкарыстоўвацца ў сакрэтных урадавых праграмах ЗША, у тым ліку ядзернай.

З красавіка гэтага года Anthropic супрацоўнічае з Адміністрацыяй па нацыянальнай ядзернай бяспецы (NNSA), і адначасова ладзіць з ёй маштабнае сумеснае даследаванне, ці можа Claude раптоўна выдаць ядзерныя сакрэты трэцім асобам па запыце. 

Спецыялісты NNSA і Anthropic наўмысна спрабуюць «узламаць» Claude і прымусіць яго, напрыклад, зліць інструкцыю па распрацоўцы ядзернай зброі, піша Axios (з гэтага вынікае, што штучны інтэлект ужо мае доступ да такога тыпу даных).

Даследаванне яшчэ працягваецца і скончыцца толькі ў лютым 2025 года, таму вынікі тэсціравання Claude пакуль не вядомыя. Кампанія Anthropic, у сваю чаргу, плануе падзяліцца высновамі з навуковымі лабараторыямі і іншымі арганізацыямі, каб яны маглі таксама правесці аналагічныя выпрабаванні.

Навошта ўвогуле даваць ШІ доступ да ядзернай праграмы?

Нейрасеткі могуць істотна павысіць эфектыўнасць ядзерных удараў: яны здольныя разлічваць траекторыю палёту боегалоўкі такім чынам, каб патрапіць у цэль з мінімальнымі стратамі і разбурэннямі. Гэта асабліва важна для тактычнай ядзернай зброі, якая прызначана для паразы лакальных аб'ектаў.

Перадавыя сістэмы ШІ, як той жа Claude, таксама здольныя з высокай дакладнасцю сімуляваць ядзерныя выбухі і аналізаваць іх наступствы. Гэтая інфармацыя можа спатрэбіцца для ўдасканалення канструкцыі боегаловак. Акрамя таго, ШІ можа апрацоўваць даныя аб ландшафце, экалогіі, інфраструктуры на тэрыторыі праціўніка і гэтак далей, задаючы, задаючы аптымальныя параметры для ўдару.

Каментары

Цяпер чытаюць

Такарчук: Я шчыра выбачаюся перад Ціханоўскім за сваю фразу14

Такарчук: Я шчыра выбачаюся перад Ціханоўскім за сваю фразу

Усе навіны →
Усе навіны

Лукашэнка заявіў, што ў яго на поўдні і ў Расіі на захадзе ёсць супольная праблема29

Пад меркаваным месцам пахавання Ісуса раскрылі 2000‑гадовую таямніцу, якая супадае з біблейскім апісаннем12

У Пінску пільная бабуля не дала махлярам абдурыць свайго ўнука

Толькі палова беларусаў вяртаюцца з адпачынку адпачыўшы

Беларусы эфектна правялі лета на даху Нацыянальнай бібліятэкі ШМАТ ФОТА1

Лябедзька: Ці лепш было б, каб у 1994‑м годзе Лукашэнку перамог Кебіч? Не!31

У Мінску адкрылі рух па абноўленым мосце праз Свіслач1

У Іўеўскім раёне ў лабавым сутыкненні адзін чалавек загінуў, трое пацярпелі1

Украінцы знішчылі расійскі стратэгічны бамбавік на аэрадроме ў Саратаўскай вобласці10

больш чытаных навін
больш лайканых навін

Такарчук: Я шчыра выбачаюся перад Ціханоўскім за сваю фразу14

Такарчук: Я шчыра выбачаюся перад Ціханоўскім за сваю фразу

Галоўнае
Усе навіны →

Заўвага:

 

 

 

 

Закрыць Паведаміць