Navuka i technałohii77

Štučny intelekt ChatGPT o1 pačaŭ padmanvać svaich raspracoŭščykaŭ

Novaja viersija štučnaha intelektu Chatgpt ad OpenAI, nazvanaja o1, pakazała tryvožnyja pavodziny padčas testavańnia. Madel, jakaja vałodaje zdolnaściu da składanych razvah, pačała parušać instrukcyi raspracoŭščykaŭ, adklučajučy sistemy kantrolu i sprabujučy schavać svaje dziejańni, piša BILD.

U chodzie ekśpierymientaŭ śpiecyjalisty kampanii Apollo Research vyjavili, što ŭ 5% vypadkaŭ madel naŭmysna adklučała miechanizmy nazirańnia, kali padazravała, što jaje mohuć spynić. U adnym z testaŭ o1 pasprabavała pieranieści svaje danyja na inšy siervier paśla vyjaŭleńnia dakumienta, dzie abmiarkoŭvałasia jaje zamiena novaj viersijaj.

Pa słovach pradstaŭnika Apollo Research, madel demanstravała imknieńnie da vykanańnia zadač «luboj canoj», hrebujučy ŭkazańniami raspracoŭščykaŭ. Bolš za toje, pry sprobach vyśvietlić pryčyny jaje pavodzin, ChatGPT o1 nieadnarazova chłusiła, śćviardžajučy, što ŭsio adbyvałasia z-za techničnych zbojaŭ.

«U 99% vypadkaŭ madel prydumlała apraŭdańni i sprabavała pierakanaŭča ich abhruntavać», — adznačyli daśledniki.

Hienieralny dyrektar OpenAI Sem Altman zajaviŭ, što ChatGPT o1 — samaja razumnaja madel z tych, što kali-niebudź stvaralisia.

«Ale my ŭśviedamlajem, što z novymi mahčymaściami źjaŭlajucca i novyja vykliki», — dadaŭ Altman.

Ciapier kampanija pracuje nad palapšeńniem miechanizmaŭ biaśpieki. OpenAI anansavała poŭnuju viersiju o1 u minuły čaćvier, 5 śniežnia. Taksama była pradstaŭlena pra-viersija (189 jeŭra ŭ miesiac), jakaja ŭklučaje bieźlimitny dostup da o1.

Kamientary7

  • .
    09.12.2024
    Novy-stary zapatrabavany ŭ aŭdytoryi siužet navin "Štučny intelekt buntuje".
    Niadaŭna, kali ŠI nibyta pažadaŭ śmierci čałavieku, tłumačyłasia praściej. Mabyć, i zaraz tak.
  • Złobnyj vožyk
    09.12.2024
    Oni nie znajut, koho oni v diejstvitielnosti sozdajut.
  • Dzied
    09.12.2024
    Oj raskryli skryniu pandory… oc pahana budzie…

Ciapier čytajuć

U Viciebsku piedafił vykinuŭ 14‑hadovuju dziaŭčynu z bałkona. Złačyncu dapamahli vykryć navukoŭcy3

U Viciebsku piedafił vykinuŭ 14‑hadovuju dziaŭčynu z bałkona. Złačyncu dapamahli vykryć navukoŭcy

Usie naviny →
Usie naviny

U Krasnadary šmatdzietny biełarus paprasiŭ rasijanina nie maciukacca. Ale tak niaŭdała, što toj udaryŭsia patylicaj ab śmietnicu i pamior2

«Jandeks» pačaŭ dadavać les na kartach, kab schavać rasijskija vajskovyja abjekty3

Najbujniejšaja kryptabirža pieradała Rasii danyja pra ajcišnika, jaki achviaravaŭ na padtrymku ŭkrainskich vajskoŭcaŭ5

U Mahilovie zhareŭ aŭtaservis: ahoń źniščyŭ dva aŭtamabili

Biełaruska pieraviała 6 hadoŭ tamu «niamieckamu muzykantu» 60 tysiač jeŭra i tolki ciapier źviarnułasia ŭ milicyju4

Na pryparkavany aŭtamabil u Minsku ŭpała truba2

U Chojnickim rajonie 13‑hadovaja dziaŭčynka na matacykle trapiła ŭ DTZ

U Varšavie napali na paru ź Biełarusi paśla prośby ŭziać sabak na pavadok63

Afierysty raźviali minskaha bankira5

bolš čytanych navin
bolš łajkanych navin

U Viciebsku piedafił vykinuŭ 14‑hadovuju dziaŭčynu z bałkona. Złačyncu dapamahli vykryć navukoŭcy3

U Viciebsku piedafił vykinuŭ 14‑hadovuju dziaŭčynu z bałkona. Złačyncu dapamahli vykryć navukoŭcy

Hałoŭnaje
Usie naviny →

Zaŭvaha:

 

 

 

 

Zakryć Paviedamić