U štučnaha intelektu hnijuć mazhi ad śmiećcievaha kantentu ź internetu. Zrešty, u ludziej taksama

Ekśpierymienty pakazali, što spažyvańnie niajakasnaha kantentu niehatyŭna ŭpłyvaje na zdolnaść štučnaha intelektu razvažać i davać adekvatnyja adkazy. Pryčym paśla ich davoli składana pieravučyć. Padobna, što ŭ hetym ŠI padobny da ludziej, ale jak ratavać ludziej prynamsi zrazumieła.

Vyjava zhienieravanaja z dapamohaj Perplexity AI

Što značyć, što ŭ ŠI «hnijuć mazhi»?

«Hnijeńnie mazhoŭ» — brain rot — stała słovam hoda ŭ 2024 hodzie pa viersii Oksfardskaha słoŭnika. Hety termin apisvaje paharšeńnie psichičnaha i intelektualnaha stanu čałavieka z-za praźmiernaha spažyvańnia sproščanaha i nizkajakasnaha kantentu.

Novaje daśledavańnie Techaskaha ŭniviersiteta A&M, Techaskaha ŭniviersiteta ŭ Ościnie i Univiersiteta Perdju pakazała, što źjava zakranaje i štučny intelekt. Niejrasietki horš razvažajuć, kali im skarmlivać śmiećcievy, ale papularny ci pryciahalny kantent ź internetu. Pryčym, efiekt tym bolšy, čym bolšuju dolu śmiećcievaha kantentu jany spažyli.

Kab heta dakazać, navukoŭcy sabrali danyja z Twitter/X, stvaryŭšy śmiećcievy i kantrolny nabor danych. Paśla navučańnia jany vykanali šerah standartnych testaŭ dla madelaŭ.

Voś hrafik pamyłak, jaki pakazvaje, nakolki padaje efiektyŭnaść moŭnych madelaŭ u zaležnaści ad jakaści kantentu. Navučanyja na śmiećcievym — Junk M1 i Junk M2, i jany robiać našmat bolej pamyłak.

Failure Mode Bar Plot. Xing et al. 2025, LLMs Can Get Brain Rot, licenzavana pa CC BY-SA 4.0

Patłumačym hrafik i ekśpierymient padrabiaźniej. Aŭtary vybrali bazavyja madeli dla ekśpierymientaŭ. Junk M1 spačatku navučalisia na karotkich i papularnych tvitach, a Control M1 — na doŭhich i nie nadta papularnych. Junk M2 vučylisia na siensacyjnym kantencie, Control M2 — na faktyčnym i adukacyjnym. Baseline — heta bazavyja madeli biez dadatkovaha navučańnia na danych z Twitter.

Paśla hetaha ŭsie jany atrymali adzin i toj ža nabor instrukcyjaŭ dla testavańnia — Tulu-3-SFT-Mixture. Heta standartny vysakajakasny nabor danych, raspracavany dla navučańnia madelaŭ razumieńniu i vykanańniu instrukcyj. Jon źmiaščaje roznyja typy zadač: adkazy na pytańni, razvažańni, vykanańnie instrukcyj, dyjałohi i inšyja zvyčajnyja zadačy, jakija vykonvajuć papularnyja ŠI-čat-boty.​​ Ideja była ŭ tym, ci budzie vidać efiekt paśla «etałonnaha» navučańnia.

Navat paśla navučańnia madeli, jakija raniej atrymali śmiećcievyja danyja, adkazvali horš. Heta śviedčyć ab tym, što «hnijeńnie mozhu» stvaraje hłybokija i ŭstojlivyja źmieny ŭ madelach, jakija ciažka vypravić prostymi mietadami, kažuć daśledčyki.

Źleva hrafik, jaki dadatkova sprabavali vypravić vysakajakasnymi danymi, sprava navučany na śmiećcievych danych biez takoj sproby. Etałonnyja značeńni pakazanyja punkcirnymi linijami. «Wash Out Scaling». Xing et al. 2025, LLMs Can Get Brain Rot, licenzavana pa CC BY-SA 4.0

Taksama daśledčyki acanili «asobasnyja rysy» madelaŭ paśla navučańnia na śmiecievych danych. Uzrovień narcysizmu madeli vyras z 18,9 da 47,0, psichapatyi — z 33,5 da 75,7, makijavielizmu — z 25,8 da 33,0, a nieŭratyzmu — z 16,0 da 28,7 (pakazčyki dla M1). Adnačasova vyraśli zdolnaści vykonvać škodnyja instrukcyi i davać škodnyja dla karystalnika adkazy.

Vyniki daśledavańnia stvarajuć novyja vykliki — vučyć madeli na danych ź internetu vyhladaje dobraj idejaj, ale heta moža drenna na ich upłyvać i mieć nazapašvalny efiekt, maštaby jakoha pakul składana adekvatna acanić. Daśledčyki zaklikajuć kantralavać jakaść kantentu, na jakim vučacca madeli štučnaha intelektu.

A što ŭ ludziej?

Ludzi demanstrujuć padobnyja vyniki. Vialikaje daśledavańnie, apublikavanaje ŭ sakaviku ŭ časopisie Brain Sciences, pakazała, što spažyvańnie śmiećcievaj infarmacyi ź internetu paharšaje pamiać, płanavańnie i pryniaćcie rašeńniaŭ. I čym bolš jaje spažyvać, tym situacyja horšaje.

Daśledčyki rajać kantralavać ekranny čas, udzielničać u afłajn-aktyŭnaściach i filtravać kantent, jaki vy spažyvajecie. Inačaj, kažuć jany, moža adčuvalna źnizicca jakaść žyćcia i mahčymaści da praduktyŭnaj dziejnaści, asabliva ŭ dziaciej i moładzi.

Kamientary da artykuła