Baltieji rūmai įveda įslaptintus pažangių AI modelių testus: technologijų sektorius įtrauktas į įkaitusią diskusiją

Baltieji rūmai žengė neabejotinai griežčiausią iki šiol žingsnį dirbtinio intelekto priežiūros srityje. JAV prezidentas Donaldas Trumpas pasirašė vykdomąjį potvarkį, kuriuo nurodoma sukurti įslaptintą vertinimo sistemą (angl. classified benchmarking process), skirtą pažangiausių DI modelių kibernetinėms galimybėms tikrinti. Šis sprendimas priimtas po to, kai rinkoje pasirodė itin galingi naujos kartos modeliai, pavyzdžiui, „Anthropic“ sukurtas „Mythos“, gebantis savarankiškai rasti tūkstančius saugumo spragų sistemose, kas sukėlė tikrą aliarmą Vašingtono nacionalinio saugumo koridoriuose, rašo Tom's Hardware.

Naujoji tvarka įpareigoja JAV Iždo ir Karo departamentus per 60 dienų parengti slaptus kriterijus, pagal kuriuos bus sprendžiama, kada komercinis DI modelis peržengia pavojingumo ribą ir tampa „priklausomu nuo valstybės priežiūros“ (angl. covered frontier model). Nors formaliai DI kūrėjams siūloma testavime dalyvauti savanoriškai, suteikiant vyriausybei prieigą prie sistemų likus 30 dienų iki jų viešo pasirodymo, pramonės ekspertai neabejoja – tai taps neoficialia sąlyga norint gauti bet kokius valstybinius užsakymus.

Verslo reakcija: tarp pragmatiško palaikymo ir baimės

Didžiosios technologijų korporacijos į šį geopolitinį posūkį reaguoja nevienareikšmiškai. Technologijų milžinė IBM viešai palaikė šią iniciatyvą, pabrėždama, kad standartizuotas ir aiškus pažangiausių sistemų vertinimas yra kritinis žingsnis siekiant saugios inovacijų plėtros. Visgi, sektoriuje verda diskusijos dėl to, kad vertinimo kriterijai bus visiškai įslaptinti – DI kūrėjai tiesiog nežinos, kokią ribą peržengus jų produktas pateks po griežta Pentagono ir Nacionalinio saugumo agentūros (NSA) lupa.

Akivaizdu, kad Vašingtonas bando rasti balansą tarp siekio neatsilikti nuo Kinijos ir panikos dėl galimų masinių kibernetinių atakų, kurias galėtų generuoti nekontroliuojamas dirbtinis intelektas. Kadangi potvarkis tiesiogiai užkerta kelią valstijoms kurti savo atskiras reguliavimo taisykles, federalinė valdžia pilnai perima vadžias į savo rankas, palikdama Silicio slėniui žaisti pagal naujas, Vašingtono diktuojamas taisykles.

Kas lieka už uždarų durų: nematoma slaptų DI testų kaina

Žvelgiant giliau į užkulisius: esminis šio lūžio momentas yra ne pats faktas, kad vyriausybė nori kontroliuoti technologijas, bet visiškas vertinimo proceso nepermatomumas. Kai vertinimo kriterijai įgyja „visiškai slaptai“ žymą, Silicio slėnio inžinieriai lieka aklojo zonoje. Jie priversti kurti naujos kartos neuroninius tinklus nežinodami, kokia konkreti kodo eilutė ar matematinis dėsningumas gali priversti Pentagoną uždėti raudoną štampą ant jų kelerius metus vystomo projekto. Tai sukuria milžinišką teisinį ir finansinį neapibrėžtumą investuotojams, kurie dabar turi vertinti riziką, kad jų finansuojamas startuolis gali būti įšaldytas saugumo sumetimais.

Nacionalinio saugumo analitikai pastebi, kad Baltųjų rūmų skuba yra tiesioginė reakcija į žvalgybos pranešimus apie užsienio valstybių bandymus panaudoti atvirojo kodo modelius automatizuotam kritinės infrastruktūros skenavimui. Tradiciniai kibernetinio saugumo filtrai nebepajėgia suvaldyti DI generuojamų atakų, kurios keičia savo formą realiu laiku. Dėl šios priežasties Vašingtonas nusprendė veikti prevenciškai – užuot gaudęs pasekmes skaitmeninėje erdvėje, jis siekia perimti pačių modelių „smegenų“ kontrolę dar prieš jiems paliekant laboratorijų serverius.

Tuo tarpu akademinė bendruomenė ir nepriklausomi tyrėjai jau kelia aliarmą dėl galimo mokslo pažangos slopinimo. Istorija rodo, kad kai valstybė monopolizuoja pažangių technologijų vertinimą, nukenčia atvirojo mokslo principai. Jei mokslininkai negalės laisvai publikuoti savo tyrimų apie didelių kalbos modelių architektūros spragas, nes tai bus prilyginta valstybės paslapties atskleidimui, DI saugumo tyrimai tiesiog persikels į pogrindį arba į kitas jurisdikcijas, kur reguliavimas nėra toks gniaužiantis.

Ši situacija išryškina ir gilėjantį atotrūkį tarp pačių technologijų milžinių. Tokios korporacijos kaip IBM, turinčios dešimtmečių patirtį dirbant su valstybiniais gynybos užsakymais, naująją tvarką priima kaip natūralią evoliuciją ir galimybę užsitikrinti monopoliją rinkoje. Tuo pat metu mažesni startuoliai ir atvirojo kodo šalininkai baiminasi, kad biurokratiniai barjerai ir reikalavimas 30 dienų iš anksto pateikti modelius peržiūrai paprasčiausiai sužlugdys jų gebėjimą konkuruoti greičiu, kuris šiame sektoriuje yra lemiamas faktorius.

Saugumo iliuzija ir biurokratijos spąstai

Skaitant tarp eilučių: didžiausias šio ambicingo plano paradoksas slypi prielaidoje, kad valstybės aparatas sugebės neatsilikti nuo technologijos, kuri keičiasi kas savaitę. Reikalavimas pateikti pažangiausius modelius vyriausybiniam testavimui likus 30 dienų iki jų išleidimo atrodo logiškai popieriuje, tačiau realybėje tai prilygsta bandymui pagauti vėją tinklu. Kol federaliniai biurokratai ir įslaptintų laboratorijų ekspertai baigs tikrinti vieną modelio versiją, kūrėjai jau bus paruošę tris naujus atnaujinimus, kurie iš esmės pakeis sistemos elgseną ir apeis senus saugumo filtrus.

Negana to, Vašingtono bandymas monopolizuoti saugumo standartus sukuria pavojingą precedentą. Teiginys, kad įslaptinti testai padidins visuomenės saugumą, prieštarauja pačiai IT pramonės logikai, kur saugumas visada rėmėsi skaidrumu ir masiniu sistemų auditu (angl. crowdsourced auditing). Už vėrinio iš slaptų algoritmų ir uždarų durų politikos paslėpta vertinimo sistema neišvengiamai taps politinių kompromisų įkaite. Gali nutikti taip, kad modelio patvirtinimas priklausys ne nuo jo realaus saugumo, o nuo to, kaip sėkmingai jį sukūrusi kompanija lobizuoja savo interesus Kapitolijuje.

Galiausiai, šis žingsnis gali sukelti visiškai priešingą efektą, nei tikisi Baltieji rūmai. Griežtas reguliavimas JAV teritorijoje tiesiog paskatins talentingiausius kūrėjus ir lanksčiausius startuolius perkelti savo tyrimų centrus į užsienį. Kol JAV pareigūnai džiaugsis suvaldę vietinę pramonę, likęs pasaulis toliau vystys dirbtinį intelektą be jokių slaptų protokolų. Rezultatas bus toks, kad Amerika rizikuoja prarasti lyderio pozicijas technologijų lenktynėse, o geopolitiniai konkurentai gaus neįkainojamą laiko pranašumą.

Galiausiai viskas susiveda į seną tiesą: kai vyriausybė nusprendžia įslaptinti ateitį, ji tiesiog užtikrina, kad visi ateities dokumentai bus atspausdinti ant labai brangaus, bet visiškai pasenusio popieriaus.

Redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.