Кіраўнік Anthropic Дарыё Амадэі заклікаў запаволіць развіццё ШІ, каб ён не стаў небяспечным для людзей
Ілан Маск яго падтрымаў.
Дарыё Амадэі, кіраўнік кампаніі Anthropic, якая стварыла мадэлі штучнага інтэлекту Claude, заклікаў запаволіць і пачаць старанна кантраляваць развіццё перадавых мадэляў ШІ.
У апублікаваным у субботу артыкуле Амадэі піша, што ён не ставіць пад пытанне неабходнасць развіцця ШІ, але ў той жа час бачыць, што яно нясе з сабой сур’ёзныя пагрозы, і кампаніям, i ўрадам розных краін трэба даць час, каб разабрацца з імі, піша Бі-бі-сі.
Амадэі прапануе ўзмацніць кантроль за развіццём ШІ на трох кірунках: незалежны маніторынг мадэляў ШІ і іх удасканалення, распрацоўка правіл унутры ШІ-індустрыі і прыняцце абмежаванняў на глабальным узроўні.
Апошнім часам у свеце расце хваляванне наконт небяспекі, з якой спалучана развіццё ШІ. На гэтым тыдні эксперт Anthropic у галіне бяспекі выкарыстання ШІ Эван Х’юбінгер заявіў, што штучны інтэлект найбліжэйшае дзесяцігоддзе з верагоднасцю вышэй за 10% можа пагубіць усё чалавецтва.
Следам за гэтым сама кампанія Anthropic заявіла, што заблакавала дзейнасць неназваных карыстальнікаў, якія спрабавалі выкарыстоўваць яе мадэлі штучнага інтэлекту для даследаванняў, здольных прывесці да стварэння біялагічнай зброі.
Дарыё Амадэі ў сваім артыкуле паказвае, што мадэлі ШІ ўдасканальваюцца неверагодна хутка, і ў тым ліку ўдасканальваецца іх здольнасць самім ствараць наступнае пакаленне ШІ. Амадэі нагадвае пра здарэнне ў яго канкурэнта, кампаніі OpenAI, якая ў ліпені прызнала, што яе ШІ-агенты без ведання людзей учынілі кібератаку на староннія сайты.
«[Агенты OpenAI] па сутнасці дзейнічалі як калектыў фанатыкаў», — піша Амадэі.
Сама OpenAI ў каментарыях з нагоды таго здарэння прызнала, што да ліпеня для яе «не была відавочнай важнасць камунікацыі паміж агентамі», і заявіла, што з прычыны росту рызыкі выхаду агентаў з-пад кантролю запавольвае развіццё некаторых перадавых мадэляў і інструментаў.
Амадэі ў сваім артыкуле заклікае развіваць ШІ «ў збалансаваным тэмпе, які забяспечыць бяспеку без адмовы ад карысці, якую ён прыносіць».
Гэта, як тлумачыць кіраўнік Anthropic, не азначае, што навучанне мадэляў трэба спыніць — ён толькі заклікае кампаніі надаваць дастаткова часу на наладку і бяспеку іх мадэляў, а таксама на іх ацэнку незалежнымі экспертамі.
Anthropic, па словах Амадэі, бярэ на сябе такія абавязацельствы ў аднабаковым парадку і адначасова заклікае ўрады розных краін запатрабаваць ад іншых кампаній-распрацоўшчыкаў перадавога ШІ пераняць іх прыклад.
Пры гэтым заканадаўства, як прызнае Амадэі, можа не паспяваць за развіццём сферы ШІ, і таму ён заклікае іншыя кампаніі з гэтай сферы добраахвотна і разам выпрацаваць адпаведныя стандарты.
«Я лічу, што калі мы выйграем за кошт запаволення хаця б год-два да выхаду мадэляў на крытычны ўзровень іх здольнасцей, і патрацім гэты час на ўдасканаленне мер бяспекі і прывядзенне мадэляў у адпаведнасць чалавечым каштоўнасцям, мы істотна знізім верагоднасць сур’ёзнай катастрофы», — піша Амадэі.
Асобна кіраўнік амерыканскай кампаніі закранае пытанне міжнароднай канкурэнцыі, перш за ўсё з Кітаем. Запаволенне, на яго думку, павінна адбывацца скаардынавана і пры гэтым без таго, каб ЗША саступілі першынство ў сферы ШІ Кітаю. Для гэтага запаволенне павінна быць абмежаваным.
Акрамя таго, Амадэі заклікае ўлады ЗША прыняць меры да таго, каб ШІ-чыпы амерыканскіх кампаній не прадаваліся кітайцам і каб у цэлым гэтыя тэхналогіі не траплялі ў рукі аўтакратый.
На артыкул у блозе Амадэі адразу ж адгукнуліся іншыя вядомыя дзеячы сферы ШІ.
Уладальнік X Ілан Маск падтрымаў Амадэі, лаканічна напісаўшы: «Дарыё мае рацыю».
Фірме Маска SpaceXAI належыць чатбот Grok. Кампанію Anthropic Маск раней называў «злом», але ў гэтым маі ён прадаў ёй камп'ютарныя магутнасці за 15 млрд даляраў і змяніў тон.
Цяпер чытаюць
Вядучы СТБ Раман Пратасевіч пабраўся шлюбам трэцім разам29
Каментары