„BTTInferGrid“: kaip „BitTorrent“ decentralizuoja dirbtinio intelekto skaičiavimus

Kai prieš kelis dešimtmečius „BitTorrent“ visiems laikams pakeitė failų dalijimąsi, niekas nesitikėjo, kad tas pats pamatas taps ginklu prieš centralizuotų technologijų milžinų monopoliją dirbtinio intelekto (DI) rinkoje. Naujai pristatyta BitTorrent sukurta platforma „BTTInferGrid“ meta tiesioginį iššūkį tradiciniams debesų kompiuterijos tiekėjams. Ji sujungia visame pasaulyje dūlančius, nenaudojamus vaizdo plokščių (GPU) resursus į vieną milžinišką tinklą, skirtą DI modelių išvadų generavimui (angl. inference). Tai protingas žingsnis, leidžiantis mažesnėms kūrėjų komandoms gauti reikiamą galią be kosminių sąskaitų, o techninės įrangos savininkams – užsidirbti iš savo „geležies“.

Nuo failų dalijimosi iki paskirstytos architektūros

Ši infrastruktūra nėra sukurta tuščioje vietoje. Ji veikia kaip evoliucinis esamos „BitTorrent File System“ (BTFS) ekosistemos atnaujinimas. Užtikrinti, kad tūkstančiai skirtingų mazgų veiktų sinchroniškai ir nemeluotų apie atliktus skaičiavimus, padeda specialus konsensuso mechanizmas, vadinamas „Yuma Consensus“. Ši daugiaveiksmė validavimo sistema garantuoja skaičiavimų vientisumą, tad DI vystytojai gali būti tikri, kad gauti rezultatai yra tikslūs ir nesuklastoti. Viską sujungia vietinis BTT žetonas, naudojamas kaip universali atsiskaitymo ir skatinimo priemonė tarp paslaugos pirkėjų ir GPU tiekėjų.

Plėtros etapai ir realūs našumo rodikliai

Užmojai dideli, tačiau projekto autoriai pasirinko pragmatišką kelią ir atsisakė agresyvios, dirbtinės plėtros, orientuodamiesi į tvarią ekonominę logiką. Strateginis planas suskirstytas į tris aiškias fazes, pradedant nuo pirmojo tinklo validavimo etapo, kuris startuoja jau šiemet. Vėliau, iki kitų metų pabaigos, planuojama išplėsti palaikomų DI modelių architektūrų spektrą ir įdiegti decentralizuotą modelių tobulinimą (angl. fine-tuning), kol galiausiai sistema taps visaverčiu Web3 infrastruktūros sluoksniu. Šis laipsniškas augimas leidžia išlaikyti aukštą tinklo efektyvumą ir optimalų resursų panaudojimą. Galutinis tikslas – sukurti visiškai vientisą ekosistemą, kurioje decentralizuoti skaičiavimai, duomenų saugyklos ir išmanieji kontraktai veikia kaip vienas laikrodis, pasiekiamas bet kuriam pasaulio kūrėjui vos keliais paspaudimais.

Užkulisių inžinerija: tam, kad „BTTInferGrid“ veiktų be strigimų, sistemų inžinieriams teko išspręsti fundamentalią paskirstytų tinklų problemą – milžinišką duomenų vėlavimą (angl. latency). Tradiciniai dirbtinio intelekto modeliai, pavyzdžiui, didieji kalbos modeliai (LLM), reikalauja gigabaitų operatyviosios atminties ir žaibiško pralaidumo tarp GPU branduolių. Decentralizuotoje aplinkoje mazgai yra išmėtyti po visą pasaulį ir sujungti paprastu buitiniu internetu, todėl inžinieriai pritaikė pažangius modelių lygiagretinimo (angl. tensor parallelism) ir svorių fragmentavimo metodus, leidžiančius neuroninį tinklą suskaidyti į autonomines dalis.

Kritinis šios architektūros elementas yra dinaminis užklausų nukreipimo variklis, kuris realiuoju laiku vertina kiekvieno tinklo mazgo topologiją, VRAM talpą ir tinklo pralaidumą. Kai vartotojas siunčia užklausą generavimui, sistema neatiduoda viso darbo vienam atsitiktiniam kompiuteriui. Vietoj to, užklausa yra optimizuojama naudojant specialius kvantavimo (angl. quantization) algoritmus, suspaudžiant modelio svorius iš FP16 į INT8 ar net INT4 formatą. Tai leidžia sumažinti perduodamų duomenų kiekį kelis kartus, neprarandant esminio modelio tikslumo.

Asamblėjos lygio optimizavimas užtikrina, kad heterogeniška aparatinė įranga – nuo profesionalių duomenų centrų vaizdo plokščių iki vartotojiškų žaidimų GPU – sugebėtų apdoroti užduotis identišku greičiu. Programinės įrangos sluoksnyje integruoti specialūs vykdymo laiko (angl. runtime) branduoliai, kurie dinamiškai adaptuoja skaičiavimo grafus priklausomai nuo konkretaus mazgo CUDA branduolių architektūros. Toks žemo lygio abstrakcijos valdymas apsaugo tinklą nuo „lėčiausio mazgo“ efekto, kai visa operacija pakibtų laukdama vieno silpnesnio kompiuterio atsakymo.

Galiausiai, duomenų srautų saugumui užtikrinti naudojamos izoliuotos vykdymo aplinkos (angl. Trusted Execution Environments). Kiekviena užklausa ir jos kontekstas mazguose yra apdorojami šifruotoje atminties zonoje, todėl aparatinės įrangos savininkas neturi techninės galimybės perimti ar nuskaityti per jo sistemą einančių privačių vartotojo duomenų. Šis inžinerinis sprendimas sujungia maksimalų decentralizacijos našumą su griežtais korporacinio lygio privatumo standartais.

Skaitant tarp eilučių: nepaisant techninio elegantiškumo, „BTTInferGrid“ ambicijos susiduria su žiauria rinkos realybe, kurią Web3 entuziastai dažnai linkę ignoruoti. Decentralizuotas DI skaičiavimų modelis ant popieriaus atrodo idealiai, tačiau praktikoje jis bando apjungti du visiškai skirtingus pasaulius: chaotišką vartotojų aparatinę įrangą ir itin griežtus korporacinio lygio pasiekiamumo (SLA) reikalavimus. Tikroji inžinerinė dilema slypi tame, kad centralizuoti gigantai, tokie kaip „Amazon Web Services“ ar „Microsoft Azure“, siūlo ne šiaip skaičiavimo galią, o garantuotą, mikrosekundėmis matuojamą stabilumą, kurio tūkstančiai namų kompiuterių užtikrinti tiesiog negali.

Kitas esminis prieštaravimas – ekonominis tvarumas. „BitTorrent“ platforma remiasi prielaida, kad laisvų GPU savininkai noriai dalinsis savo ištekliais už BTT žetonus, tikėdamiesi ilgalaikio pelno. Tačiau kriptovaliutų rinkos cikliškumas ir dideli vertės svyravimai kuria didžiulį neapibrėžtumą. Jei žetono vertė krenta, tinklo mazgų išlaikymas tampa nuostolingas dėl elektros sąnaudų, o tai gali sukelti masinį tiekėjų pasitraukimą būtent tuo metu, kai DI kūrėjams labiausiai reikės stabilios infrastruktūros.

Galiausiai, technologijų pasaulyje decentralizacija dažnai tampa labiau ideologiniu šūkiu nei praktiniu pranašumu. Didieji DI modelių kūrėjai, valdantys jautrius komercinius duomenis, greičiausiai elgsis itin konservatyviai ir skeptiškai vertins savo intelektinės nuosavybės patikėjimą paskirstytam tinklui, kad ir kokie pažangūs šifravimo metodai būtų naudojami. „BTTInferGrid“ turi potencialo tapti puikia platforma atvirojo kodo entuziastams ir akademiniams eksperimentams, tačiau kelias iki rimto korporacinio sektoriaus pripažinimo bus kur kas ilgesnis ir duobėtesnis, nei teigiama skambiose spaudos pranešimų antraštėse.

„Galiausiai, didžiausias paradoksas yra tai, kad po dviejų dešimtmečių kovos su centralizuotu pasauliu, „BitTorrent“ vėl siūlo mums revoliuciją – tik šįkart, užuot nemokamai siuntęsi filmus iš svetimų kompiuterių, mes patys mokėsime už tai, kad svetimi modeliai suktųsi mūsų pačių vaizdo plokštėse, šildydami kambarį ir viltis apie decentralizuotą ateitį.“

Vyr. redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.