Pasaulio finansų reguliuotojai skambina pavojaus varpais: autonominis agentinis DI kelia grėsmę rinkos stabilumui

Tarptautinė finansų priežiūros institucija – Finansinio stabilumo taryba (angl. Financial Stability Board) – oficialiai paragino pasaulio finansų įstaigas skubiai įvesti griežtą kontrolę sparčiai diegiamoms dirbtinio intelekto sistemoms. Paskelbtoje Finansinio stabilumo tarybos (FSB) ataskaitoje pabrėžiama, kad didžiausią susirūpinimą kelia vadinamasis agentinis dirbtinis intelektas (angl. agentic AI). Šios sistemos geba savarankiškai planuoti, priimti sprendimus ir vykdyti sudėtingas operacijas su minimalia žmogaus priežiūra, o tai sukuria precedento neturinčių sisteminių rizikų globaliose prekybos bei bankininkystės rinkose.

Reguliuotojų reakciją paskatino masinis šios technologijos komercializavimas. Kembridžo alternatyviųjų finansų centro duomenimis, net 52 procentai finansų sektoriaus įmonių jau aktyviai naudoja agentinio DI funkcijas, iš kurių 29 procentai vykdo bandomuosius projektus, o 23 procentai šias technologijas jau išplėtė iki visiško procesų transformavimo. Tokie duomenys, kuriais remiasi The Standard, rodo, kad technologinė plėtra gerokai pralenkė dabartinius rizikos valdymo protokolus institucijų viduje.

Finansų rinkų analitikai pažymi, kad tradiciniai algoritmai veikdavo pagal griežtai apibrėžtas taisykles, tuo tarpu agentinis DI veikia kaip autonominis rinkos dalyvis. Ekspertų vertinimu, nekontroliuojamas tokių sistemų tarpusavio sąveikavimas gali sukelti staigius rinkos likvidumo svyravimus ir padidinti kibernetinių atakų bei sisteminių klaidų mastą, o tai kelia tiesioginę grėsmę investuotojų pasitikėjimui globalia finansų architektūra.

Griežtėjanti priežiūra ir naujosios 12 praktikos gairių

Siekdama suvaldyti kylančias grėsmes, FSB parengė ir pateikė viešajai konsultacijai 12 atsakingo DI diegimo principų. Kaip praneša ABA Banking Journal, šis dokumentas įpareigoja bankų valdybas ir aukščiausiąją vadovybę tiesiogiai integruoti DI rizikos vertinimą į įmonių verslo strategijas bei nustatyti aiškias atsakomybės ribas.

Naujosios gairės apima visą technologijos gyvavimo ciklą ir yra suskirstytos į tris esmines sritis: organizacinį valdymą, rizikos mažinimą DI kūrimo bei diegimo etapais ir specifinių trečiųjų šalių bei kibernetinių grėsmių valdymą. Teisinio reguliavimo ekspertai pabrėžia, kad šis žingsnis žymi perėjimą nuo fragmentiško nacionalinio reguliavimo prie vieningo pasaulinio standarto kūrimo.

Strateginiai pokyčiai bankininkystės ir prekybos sektoriuose

Finansų institucijos yra priverstos peržiūrėti savo technologines investicijas ir operacinius modelius. Didėjanti priklausomybė nuo kelių stambių technologijų korporacijų, tiekiančių didžiuosius kalbos modelius (LLM) ir infrastruktūrą, sukuria kritinę paslaugų teikėjų koncentracijos riziką, kurios pasekmes finansų sistemai analizuoja leidinys Finadium.

Rinkos dalyviams tai reiškia papildomus kaštus atitikties ir audito srityse. Bankai privalės užtikrinti visišką autonominių agentų veiksmų atsekamumą ir skaidrumą (angl. explainability), kad reguliuotojai galėtų bet kada patikrinti, kokiu pagrindu buvo priimtas konkretus investicinis ar kredito rizikos sprendimas. Kompanijos, nesugebančios suderinti technologinės inovacijos su griežtais saugumo reikalavimais, ateityje rizikuoja sulaukti griežtų veiklos apribojimų iš nacionalinių priežiūros tarnybų.

Sisteminė rizika už kulisų: kai algoritmai pradeda kalbėtis tarpusavyje

Nematoma grėsmė rinkos gyliui: Didžiausias reguliuotojų susirūpinimas kyla ne dėl to, kaip viena autonominė sistema priima sprendimus, bet dėl masinio jų sąveikavimo padarinių. Kai šimtai skirtingų bankų ir investicinių fondų agentinių sistemų pradeda reaguoti į tuos pačius rinkos signalus, kyla didžiulė „rinkos aido“ rizika. Skirtingai nuo tradicinių algoritmų, kurie veikia pagal griežtas programuotojų nustatytas formules, agentinis DI sugeba pats keisti savo taktiką realiuoju laiku, todėl jo elgesys tampa visiškai nenuspėjamas net ir pačioms sistemą sukūrusioms institucijoms.

Šis reiškinys finansų istorijoje primena vadinamąsias „žaibiškas griūtis“ (angl. flash crashes), tačiau jų mastas ir greitis dabar gali pasiekti naują lygį. Jei keli stambūs rinkos agentai vienu metu nuspręs, kad tam tikras makroekonominis rodiklis reikalauja skubaus likvidumo mažinimo, rinka gali patirti gilų šoką per kelias milisekundes. Volstrito ir Londono Sityje dirbantys rizikos valdymo vadovai pripažįsta, kad dabartiniai saugumo filtrai, sukurti paprastiems algoritmams stabdyti, nėra pritaikyti prie sistemų, kurios geba rasti kūrybingų būdų apeiti nustatytus limitus siekiant savo tikslo.

Kita kritinė problema yra susijusi su vadinamąja technologine priklausomybe arba koncentracijos rizika. Kadangi sukurti ir išlaikyti pažangiausius autonominius modelius gali tik kelios pasaulinės technologijų milžinės, visi didieji bankai neišvengiamai naudojasi ta pačia bazine infrastruktūra. Tai reiškia, kad viena kritinė klaida vieno paslaugų teikėjo serveriuose arba specifinis sisteminis modelio trūkumas gali akimirksniu paralyžiuoti dešimtis didžiausių pasaulio finansų įstaigų, sukeldamas domino efektą visoje sistemoje.

Šiuo metu bankininkystės sektorius susiduria su rimtu dilemos sprendimu dėl atsakomybės pasidalijimo. Kai autonominis agentas savarankiškai sudaro milijoninės vertės sandorį, teisiškai lieka neaišku, kas privalo prisiimti atsakomybę už neigiamas pasekmes – programinės įrangos kūrėjas, duomenis teikianti trečioji šalis ar banko valdyba. Reguliuotojų spaudimas verčia įmones investuoti į vadinamąsias „žmogaus įsikišimo“ (angl. human-in-the-loop) sistemas, kurios veikia kaip saugikliai, tačiau tai iš dalies panaikina patį agentinio DI pranašumą – greitį ir visišką automatizaciją.

Reguliavimo iliuzija ir technologinė realybė

Žvelgiant giliau į deklaracijas: Pasaulio reguliuotojų skubinamas vieningos sistemos kūrimas slepia esminį struktūrinį prieštaravimą. Institucijos bando pritaikyti statinius, biurokratinius priežiūros mechanizmus technologijai, kurios pati esmė yra dinamiškas kintamumas ir nuolatinė evoliucija. Reikalavimas, kad agentinis dirbtinis intelektas būtų „visiškai paaiškinamas“, skamba teisiškai korektiškai, tačiau techniniu požiūriu tai dažnai yra utopija. Sudėtingi neuroniniai tinklai priima sprendimus per milijardus parametrų sąveikų, todėl bandymas supaprastinti šį procesą iki žmogui suprantamos ataskaitos dažnai paverčia patį modelį neefektyviu arba tiesiog pasenusiu dar iki jos pasirašymo.

Šis atotrūkis sukuria pavojingą asimetriją rinkoje. Kol didieji tradiciniai bankai samdo tūkstančius atitikties specialistų ir lėtai adaptuoja naujas gaires, mažiau reguliuojami šešėlinės bankininkystės dalyviai bei agresyvūs rizikos valdymo fondai (angl. hedge funds) tas pačias technologijas diegia maksimaliu greičiu. Rezultatas gali būti priešingas tam, ko siekia Finansinio stabilumo taryba. Griežtas reguliavimas tiesiog išstums pačias inovatyviausias, bet kartu ir rizikingiausias agentinio DI sistemas iš skaidrios bankininkystės zonos į pilkąsias rinkos erdves, kur jų stebėsena bus apskritai neįmanoma.

Be to, deklaruojamas siekis sukurti „vieningą globalų standartą“ atsitrenkia į geopolitinę realybę. Dirbtinio intelekto vystymas šiandien yra ne tik finansinis, bet ir technologinio dominavimo klausimas tarp didžiųjų pasaulio valstybių. Mažai tikėtina, kad Vašingtonas, Briuselis ar Pekinas sutiks visiškai suvienodinti savo taisykles, jei tai reikš jų vietinių technologijų milžinių konkurencinio pranašumo apribojimą. Dėl šios priežasties tarptautiniai susitarimai rizikuoja virsti deklaratyviais dokumentais, o praktinis jų įgyvendinimas liks fragmentuotas ir skylėtas.

Galiausiai, investuotojų pasitikėjimo apsauga, kuria motyvuojami nauji suvaržymai, yra dviašmenis kalavijas. Perteklinis algoritmų ribojimas gali sumažinti rinkos efektyvumą ir likvidumą, o tai savo ruožtu padidins sandorių kaštus galutiniams vartotojams. Finansų sektorius atsiduria situacijoje, kurioje bandoma suvaldyti ateities technologijų rizikas naudojant praėjusio amžiaus priežiūros įrankius, o tai tik padidina tikimybę, kad kita sisteminė krizė kils būtent toje vietoje, kurią reguliuotojai laikė saugiausia.

Finansų pasaulis vėl lipa ant to paties grėblio: mes sukuriame sistemas, kurios priima sprendimus šviesos greičiu, o tada tikimės, kad komitetas, posėdžiaujantis kartą per ketvirtį, sugebės jas sukontroliuoti. Atrodo, kad didžiausia agentinio intelekto keliama rizika yra ta, jog jis veikia kur kas logiškiau nei patys rinkos prižiūrėtojai.

Vyr. redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.