«My nie viedajem, jak dabicca ałajnmentu takich sistem». Razmovy pra pahrozy ŠI — zmova OpenAI, Google i Anthropic?

Maksim Machańkoŭ: Matyvy zapavolić raźvićcio štučnaha intelektu — dva, i heta nie ŭratavańnie čałaviectva

«Kiraŭniki amierykanskich topavych kampanij, jakija zaklikajuć prytarmazić, zapavolić raźvićcio štučnaha intelektu, kab «uratavać čałaviectva ad ekzistencyjnaj pahrozy», kirujucca ŭ svajoj dziejnaści zaraz dvuma asnoŭnymi matyvami.

1. Jany sprabujuć niesumlennymi, niarynačnami mietadami zachavać svaju pieravahu na rynku, zakryŭšy dostup dla maładych kampanij i startapaŭ. Pierakryć kisłarod kankurentam. Karaciej, stvaryć zvyčajny kartel / alihapoliju.

Prykładna toje samaje, što rabiŭ letaś Iłan Mask, kali vystupaŭ za admienu dziaržaŭnych subsidyj dla «zialonaha» transpartu. Pry tym, što sam Mask źjaŭlajecca adnym z kiraŭnikoŭ najbujniešaha «zialonaha» biznesu («Tesła») i sam raniej atrymlivaŭ vielizarnyja subsidyi ad amierykanskaha ŭrada. I tut taksama realnyja matyvy (imknieńnie zavajavać manapoliju sa svajoj «Tesłaj» na rynku zaradnych stancyj) padmianialisia rytorykaj pra «pavieličeńnie efiektyŭnaści i skaračeńnie vydatkaŭ biudžetu».

2. U inviestaraŭ usio bolš i bolš uźnikaje pytańniaŭ, čamu taja «mahija», čamu hety «arakuł», jaki im usyryčyli pad nazvaj «štučnaha intelektu», nie daje tych chutkich vynikaŭ u skaračeńni vydatkaŭ, aŭtamatyzacyi biznes-pracesaŭ. Inviestaram abiacali mahičnuju čornuju skrynku, jakaja zamienić prahramistaŭ i pradaŭcoŭ, skarocić vydatki i ŭsio sprościć. A hetaja hadaść (kali jana nie pad kantrolem narmalnaha inžyniera) nie prosta piša haŭniany, niemaštabavany, nieabsłuhoŭvany kod, ale i patrabuje jašče novych uzroŭniaŭ abstrakcyj, kampietencyj, składaniejšych pracesaŭ i bolšych vydatkaŭ.

Usia infarmacyjnaja kampanija pra toje, jak my «śpiecyjalna zapavolili nieŭtajmavany štučny intelekt, kab jon nie vyjšaŭ z-pad kantrolu» nakiravanaja na toje, kab apraŭdacca pierad inviestarami, čamu ich miljardnyja ŭlivańni nie akuplajucca i nie akupiacca ŭ ahladnaj budučyni. Tamu što jany, technaalihapalisty, vydatna razumiejuć, što realnyja zdolnaści tak zvanaha «štučnaha intelektu» na asnovie vialikich moŭnych madelaŭ užo ŭtykajucca ŭ svaje miežy, u niepieraadolnaje asimptatyčnaje płato (chto b i što vam nie kazaŭ pra «sinhularnaść» i inšyja pryhožyja słovy). Hety vychad na płato (pry tym, što inviestaram usyryčyli «sinhularnaść») praściej za ŭsio patłumačyć tym, što «my śpiecyjalna strymlivajem jaho».

Voś i ŭsio», — miarkuje Maksim Machańkoŭ.

Andruś Chrapavicki: Uličvajcie, što publična dastupnyja madeli — heta nie samyja mahutnyja madeli francir-łebaŭ

«Dumki Maksima Machańkova padzialajuć mnohija. U tym liku ŭ peŭnaj stupieni Tramp, zhodna ź jahonymi niadaŭnimi pastami ŭ Truth Social.

Ale jość i šmat inšych varyjacyj, u tym liku takich, dzie pieraściarohi Daryjo [Amadei, kiraŭnika Anthropic], Sema [Altmana, kiraŭnika OpenAI] dy inšych lidaraŭ industryi mohuć być abhruntavanymi.

Voś dla prykładu: najnoŭšyja publična dastupnyja madeli (Fable 5.1, GPT 6‑Astra i niekatoryja inšyja) užo dastatkova mahutnyja i mohuć narabić prablem, kali raptam guardrails suprać misuse, jakija francir-łeby vystaŭlajuć, z toj ci inšaj pryčyny nie spracavali b. Byli ŭžo vypadki jailbreaks i h.d.

Tak, sapraŭdy, možna śpiekulavać pra płato mahčymaściaŭ LLM-aŭ. Ale toje, što my ciapier majem na franciry, heta ja b skazaŭ nie zusim LLM-y. Sučasnyja francir-madeli pravilniej nazyvać reasoning models. Architektura transformieraŭ pastupova transfarmujecca (sory za kałambur). Jak chtości z łebaŭ pažartavaŭ, my ciapier majem tak by mović kvazi-transformiery. Tak, jany ŭsio jašče davoli blizkija da aryhinału. Ale pastupova architekturnyja rašeńni źmianiajucca i ŭdaskanalvajucca.

Možna śćvierdzić, što najbolšy pryrost u płanie zdolnaściaŭ novych madelaŭ dajuć chutčej nie architekturnyja źmieny, a praca z danymi, na jakich madeli trenirujucca. Jak kažuć anhielcy: We are what we eat — «my toje, što my jamo». Toje ž samaje, možna skazać i pra madeli ŠI.

Vielmi važny aśpiekt tut voś jaki. U francirnych łebach (i nie tolki ŭ ich) užo pryjšła epocha rekursiŭnaha samaŭdaskanalvańnia madelaŭ. Papiaredniaja madel pracuje nad udaskanalvańniem pracesu treniroŭki nastupnaj. To-bok faktyčna papiaredniaja madel jak by pracuje nad svaimi «naščadkami». Da taho ž madeli ciapier źmianiajuć harnesses, pierapisvajuć svoj kantekst, kirujuć kučami ahientaŭ i subahientaŭ. Hetyja pracesy zbolšaha aŭtamatyzavanyja. Ich vielmi składana manitoryć. Možna vielmi prosta štości prapuścić i narabić biady.

A ciapier ujavim, što a swarm of agents chaknie jakuju-niebudź finansavuju strukturu, naniosšy škodu na miljardy dalaraŭ ci jašče niešta padobnaje. Francir-łeby prosta zasudziać da bankructva, kali nie dojdzie da aryštaŭ.

U peŭnym sensie źniešni manitorynh — heta moža być u tym liku sprobaj abaranicca ad takich sudovych spraŭ. Kštałtu staronnija kampanii / instytucyi manitoryli našyja pracesy i ničoha nie zaŭvažyli. 

Rekursiŭnaje samaŭdaskanaleńnie, jakoje my majem ciapier, heta słabaja viersija hetaha kanceptu. Sučasnyja madeli paśla treniroŭki majuć zamarožany stan vahaŭ. Ale iduć daśledavańni i ŭ płanie continual learning — pastajannaha navučańnia, dzie madel samaŭdaskanalvajecca. Heta vielmi składany i patencyjna vielmi niebiaśpiečny kirunak. Ujavim, što ŭ hetym kirunku adbyŭsia praryŭ. Manitorynh i ałajnment takich sistemaŭ staŭ by jašče bolš składanym. My nie viedajem, jak dabicca ałajnmentu takich sistemaŭ.

I jašče adno. Realnaść takaja, što publična dastupnyja madeli — heta nie samyja mahutnyja madeli francir-łebaŭ. Pohlad znutry moža mieć krychu inšuju optyku», — miarkuje Andruś Chrapavicki.

• 3
• 0
• 0
• 0
• 0
• 0
• 0
• 0