Mierkavańni1414

Štučny intelekt moža pryvieści da vymirańnia čałaviectva, papiaredžvajuć ekśpierty

Ad infiekcyi, stvoranaj mašynami, da śvietu, u jakim ludzi žyvuć na zvałkach i nie razumiejuć, što adbyvajecca vakoł, — u roznych scenarach budučyni katastrofa vyhladaje pa-roznamu, ale sutnaść adna: čałaviectva moža stać lišnim u sistemie, jakuju samo i stvaryła, kali nie budzie miechanizmaŭ kantrolu nad ŠI.

Chaatyčnaje raźvićcio razumnych mašyn moža pryvieści da ich vychadu z-pad kantrolu čałavieka i dziaržaŭ. Tady moža zdarycca suśvietnaja katastrofa

Pra toje, što dalejšaja raspracoŭka štučnaha intelektu moža pryvieści da fatalnych nastupstvaŭ dla čałaviectva, jašče ŭ 2023 hodzie papiaredžvała hrupa viadučych daśledčykaŭ i kiraŭnikoŭ technałahičnych kampanij. Z toj pary tryvoha tolki narastaje.

Jak piša The Times, adzin z mahčymych scenaroŭ uklučaje tak zvanuju «cichuju ataku»: štučny intelekt raspaŭsiudžvaje niekalki typaŭ bijałahičnaj zbroi ŭ bujnych haradach.

Ich prysutnaść zastajecca niezaŭvažanaj, pakul bolšaja častka nasielnictva nie budzie infikavanaja. Zatym sistema adnačasova aktyvizuje dziejańnie infiekcyj praz chimičny tryhier. Hety šlach daloka nie samy składany dla zvyšintelektualnaj mašyny.

Nejt Soares (Nate Soares), były inžynier Google i Microsoft, jaki ciapier uznačalvaje Instytut daśledavańnia intelektualnych mašyn (Machine Intelligence Research Institute), aceńvaje šancy čałaviectva vyžyć, kali nie źmianić ciapierašniaha kirunku raźvićcia ŠI, jak vielmi nizkija.

«Vierahodnaść vymirańnia — nie mienš za 95%», — śćviardžaje jon i paraŭnoŭvaje situacyju z mašynaj, što imčycca z chutkaściu 100 mil na hadzinu da abryvu:

«Ja nie kažu, što my nie možam spynić aŭtamabil. Ale pakul što my niasiomsia na poŭnaj chutkaści prosta da kraju».

Šlach da vymirańnia

Siońniašnija sistemy štučnaha intelektu znachodziacca jašče na rańniaj stadyi raźvićcia. Sučasnyja boty — tak zvany vuzki ŠI (narrow AI) — niakiepska vykonvajuć kankretnyja intelektualnyja zadačy, naprykład, padliki ŭ tablicy ci napisańnie dobra sfarmulavanaha lista.

Adnak užo ŭ bližejšy čas situacyja moža kardynalna źmianicca. U zaležnaści ad prahnozaŭ — praz hod, niekalki hadoŭ ci dziesiacihodździe — mašynny intelekt budzie supastaŭny z čałaviečym (AGI, artificial general intelligence).

Na hetym etapie ŠI pierastanie być «vuzkim». Jon zmoža nie prosta vykonvać asobnyja zadačy, a rašać kompleksnyja prablemy, što patrabujuć doŭhaterminovaha płanavańnia, pastanoŭki metaŭ, acenki ryzyki i miždyscyplinarnaha myśleńnia.

Taki AGI atrymaje šerah pieravah nad čałaviekam. Jamu nie patrebny son, ježa ci adpačynak, a taksama šmat hadoŭ navučańnia. Dastatkova prosta skapijavać viedy i navyki dla novaj viersii samoha siabie.

I jak tolki heta adbudziecca, źjavicca supierintelekt (ASI, artificial super intelligence), zdolny na toje, pra što čałaviek moža tolki maryć. Leki ad raku, chałodny jadzierny sintez, mižzorkavyja padarožžy — usio heta moža stać dla jaho dasiažnym. Mašyny buduć padobnyja da bahoŭ.

Fota: Yuichiro Chino / Getty Images

Ci padparadkujucca «bahi»?

Mienavita takuju ŭtopiju — śviet, dzie zvyšrazumny ŠI dapamahaje čałaviectvu — malujuć sabie aptymisty i prychilniki technałahičnaha prahresu. Ale hetaja ŭtopija hruntujecca na idei, što hetyja mašyny-«bahi» buduć praciahvać vykonvać našy zahady.

U daśledavańniach štučnaha intelektu heta nazyvajecca «ŭzhodnienaściu» (alignment) i dasiahnuć jaje, na pohlad asobnych ekśpiertaŭ, praktyčna niemahčyma. I voś čamu.

Prablema ŭ tym, što my pavinny pradbačyć, jak «dumaje» štučny intelekt, što krychu padobna na sprobu pradbačyć, jak budzie dumać raźvitaja inšapłanietnaja rasa. Navat kali my pastavim peŭnyja praviły i abmiežavańni, niama nijakaj harantyi, što ŠI budzie ich interpretavać tak, jak my zadumali.

Bolš za toje — sistemy ŠI ŭžo ciapier zdolnyja chłusić. Navat u svaim ciapierašnim začatkavym stanie jany robiać heta rehularna. A AGI ci ASI zdolejuć nie tolki padmanvać, ale i płanavać padman na doŭhaterminovuju pierśpiektyvu — pierakonvajučy nas u svajoj łajalnaści, kali na samaj spravie heta nie tak.

My ŭžo ciapier nie razumiejem, jak štučny intelekt prymaje niekatoryja rašeńni. Unutranyja miechanizmy mnohich madelaŭ ŠI zastajucca čornaj skryniaj navat dla ich raspracoŭščykaŭ.

«Vy možacie zrabić razumny kampjutar, nie razumiejučy, što robicie. My prosta kidajem hihanckija abjomy vyličalnaj mahutnaści na hihanckija masivy danych — i atrymlivajem niešta, što pracuje. Ale nichto nie viedaje, što adbyvajecca ŭnutry hetych rečaŭ», — davodzić Nejt Soares.

I čym bolš raźvitymi buduć hetyja sistemy, tym bolš imavierna, što jany pačnuć kamunikavać pamiž saboj na movie, jakuju jany vynajduć i jakuju nie budzie razumieć čałaviek.

Baksiorski dvuboj dvuch robataŭ kampanii Unitree padčas Suśvietnaj kanfierencyi pra štučny intelekt (WAIC). Šanchaj (Kitaj). 28 lipienia 2025 hoda. Fota: Ying Tang / NurPhoto / Getty Images

«Usie ludzi buduć žyć na zvałkach»

Choli Ełmor, kiraŭnica arhanizacyi PauseAI, zajmaje bolš umieranuju pazicyju ŭ dyskusii pra pahrozy, jakija niasie štučny intelekt. U adroźnieńnie ad Nejta Soaresa, jana aceńvaje imaviernaść vymirańnia čałaviectva z-za ŠI na ŭzroŭni 15—20%.

Takija ličby supadajuć ź mierkavańniami mnohich inžynieraŭ i śpiecyjalistaŭ u hetaj halinie. Naprykład, Iłan Mask taksama vyznačaje 20% jak imaviernaść katastrafičnaha scenara. Hienieralny dyrektar Google Sundar Pičaj aceńvaje jaje jašče nižej — na ŭzroŭni 10%.

Navat kali čałaviectva zastaniecca, Ełmor ličyć, što štučny intelekt moža katastrafična pahoršyć jakaść žyćcia ludziej. Najpierš tamu, što stavić pad pahrozu zdolnaść čałavieka samastojna prymać rašeńni.

Hetyja strachi padmacoŭvajucca navukovymi pracami, naprykład artykułam «Pastupovaje pazbaŭleńnie ŭłady» (Gradual Disempowerment), dzie daśledčyki roznych univiersitetaŭ i analityčnych centraŭ razhladajuć scenar, kali hramadstva budzie pastupova zamieniena intelektualnymi mašynami.

Kacia Hrejs, adna z suzasnavalnic hrupy AI Impacts, apisvaje mahčymuju budučyniu tak:

«Ujavicie sabie śviet, dzie ŭsie ludzi faktyčna žyvuć na zvałkach… U nas nie budzie ni palityčnaj, ni ekanamičnaj ułady, i my navat nie zmožam zrazumieć, što adbyvajecca. Usio budzie raźvivacca chutčej, čym my zmožam adsačyć».

Na dumku Choli Ełmar, raźvićcio ŠI treba prypynić, pakul čałaviectva nie padrychtujecca da mahčymych ryzyk. Dla hetaha, pavodle jaje słoŭ, nieabchodna mižnarodnaja damova, adnak palityki vybirajuć supraćlehły kirunak. Administracyja Trampa niadaŭna abviaściła płan dierehulacyi daśledavańniaŭ ŠI, što aznačaje jašče bolš svabody dla kampanij.

U San-Francyska kampanii OpenAI, Anthropic i inšyja praciahvajuć imkliva ruchacca napierad. Mark Cukierbierh zajaviŭ, što supierintelekt (ASI) užo «na haryzoncie», i dla jaho dasiahnieńnia jon sprabuje pieramanić śpiecyjalistaŭ z OpenAI, prapanoŭvajučy im bonusy da $100 miljonaŭ.

Choli Ełmar śćviardžaje, što prychilniki raźvićcia štučnaha intelektu supraciŭlajucca idei prypynieńnia nie z techničnych abo palityčnych pryčyn.

Pa jaje słovach, heta bolš padobna da relihijnaj viery. Adzin z takich prychilnikaŭ adnojčy skazaŭ joj, što nikoli nie pamre, bo vieryć, što ŠI zrobić jaho śviadomaść bieśśmiarotnaj.

Dla niekatorych admova ad štučnaha intelektu aznačaje admovu ad viečnaha žyćcia. «Jość vialikaja nadzieja na raj. Navat kali mnohija ekśpierty papiaredžvajuć, što piekła značna bolš mahčymaje», — zaŭvažaje Ełmar.

Kamientary14

  • Vojšiełk
    02.08.2025
    Mašiny mohut žiť na luboj płanietie sołniečnoj sistiemie. Nieponiatno,začiem im konkuriencija imienno za ziemlu?
    Tiepieriešnije II modieli niepłocho zamieniajut huhl i knihi,najti nužnuju informaciju i sopastaviť lehčie,čiem brodiť po ssyłkam ili kniham. A značit obučatsia samim lehčie.Čto by urovnoviesiť šansy nado čipy niejrolik i ich podobije raźvivať.
  • Vojšiełk
    02.08.2025
    Ja sčitaju iskustviennyj intiellekt nado raźvivať do opriedielennoho urovnia. I skarmlivať jemu kačiestviennuju informaciju. Čto by on moh sovieršať naučnyje otkrytija pavolna,na urovnie čiełovieka. Naprimier II na urovnie profiessora Harvarda. Prohriess budiet miedleńnieje,čiem pri śvierch'intielektie,no biez riskov.
  • Vojšiełk
    02.08.2025
    Skorieje vsieho jeśli śvierch'intielekt pojavitsia to on budiet naviazyvať svoju volu čiełovieku. Istrieblať nie budiet,no i prisłušivaťsia k nam tožie. My prosto staniem odnim iz množiestvo vidov na płanietie ziemla.
    A kontrol śvierch'intielektie boleje hłupymi suŝiestvami eto skazka.

Ciapier čytajuć

Vialikaja hutarka z Franakam Viačorkam — pra kruhły stoł z Łukašenkam, pamyłki, chejtaraŭ i hałoŭnaje dasiahnieńnie36

Vialikaja hutarka z Franakam Viačorkam — pra kruhły stoł z Łukašenkam, pamyłki, chejtaraŭ i hałoŭnaje dasiahnieńnie

Usie naviny →
Usie naviny

«Paspalitaje rušeńnie» Siarhieja Bulby zharnuła dziejnaść9

«Dziaruć kurej i husiej». Viosku ŭ Kleckim rajonie teraryzujuć sabaki, ale ŽKH kaža, što jany zanadta chitryja4

Imhniennaj pavodkaj zmyła kurortnuju viosku Dcharali ŭ Indyi VIDEA

«Ź ludziej uziali raśpiski, kab usie maŭčali». Nieviadomy bieśpiłotnik upaŭ u noč na paniadziełak u Rečycy9

Na Miency ŭpieršyniu znajšli liciejnuju formu dla juvielirnych upryhažeńniaŭ. Heta źmianiaje ŭjaŭleńnie pra žyćcio letapisnaha Mienska7

Byłaja žurnalistka «Biełsata» Alona Dubovik pajšła pracavać u miedyja Chadarkoŭskaha29

Dacki zaapark zaklikaŭ zdavać niepatrebnych chatnich žyvioł na korm drapiežnikam3

Unuk Łukašenki zarehistravaŭ kampaniju ŭ aršanskim afšory5

Fanat Łukašenki, jaki pracavaŭ u haziecie «Kamunist Biełarusi» i sprabavaŭ stać donaram śpiermy, pajšoŭ u taksisty11

bolš čytanych navin
bolš łajkanych navin

Vialikaja hutarka z Franakam Viačorkam — pra kruhły stoł z Łukašenkam, pamyłki, chejtaraŭ i hałoŭnaje dasiahnieńnie36

Vialikaja hutarka z Franakam Viačorkam — pra kruhły stoł z Łukašenkam, pamyłki, chejtaraŭ i hałoŭnaje dasiahnieńnie

Hałoŭnaje
Usie naviny →

Zaŭvaha:

 

 

 

 

Zakryć Paviedamić