Finansų sektoriaus posūkis: nuo dirbtinio intelekto diegimo prie valdymo autonominių sistemų amžiuje

Finansų paslaugų pramonė išgyvena kritinį brandos etapą, kuriame pirminį susižavėjimą technologiniu proveržiu keičia griežta kontrolė. Organizacijos sparčiai pereina nuo paprasto dirbtinio intelekto (DI) eksperimentavimo prie struktūrizuoto valdymo modelių kūrimo. Šį giluminį posūkį diktuoja masinis autonominių sistemų plitimas kasdienėse operacijose. Naujausia ne pelno siekiančios organizacijos Cloud Security Alliance atlikta rinkos apklausa rodo, kad finansų institucijos nebekelia klausimo, ar verta integruoti DI, o telkia visas pajėgas rizikų valdymui ir atsakomybės ribų nustatymui.

Šiuolaikinėje rinkoje autonominiai agentai nebėra izoliuoti teoriniai modeliai, o realūs finansinės ekosistemos dalyviai. Tik 27 % tyrime dalyvavusių organizacijų nurodė visiškai nenaudojančios DI agentų, o tai reiškia, kad didžioji sektoriaus dalis jau perkėlė šiuos įrankius į gamybinę aplinką. Šis virsmas sukuria naujų iššūkių, nes tradicinės kibernetinio saugumo priemonės ir tapatybės valdymo sistemos dažnai nėra pritaikytos valdyti savarankiškai sprendimus priimančius algoritmus, veikiančius debesų kompiuterijos infrastruktūroje.

Autonominių agentų plėtra ir finansinės operacijos

Finansų sektoriuje agentinis dirbtinis intelektas jau tapo pagrindinės srovės (angl. mainstream) reiškiniu, o jo pritaikymo sritys apima pačias jautriausias operacijas. Rinkos analizės duomenys, kuriais dalijasi technologijų portalas AiThority, atskleidžia dominuojančias autonominių sistemų naudojimo kryptis:

• Klientų aptarnavimas išlieka populiariausia sritimi, kurioje autonominius agentus naudoja net 63 % įmonių.
• Kibernetinio saugumo operacijose DI sprendimus integruoja 47 % finansų organizacijų.
• Galinio biuro (angl. back-office) procesų automatizavimui sistemas pasitelkia 44 % sektoriaus žaidėjų.
• Sukčiavimo atvejų identifikavimui ir prevencijai algoritmus deleguoja 41 % institucijų.

Ekspertų vertinimu, artimiausiu metu tikimasi dar didesnio proveržio, kai autonominiai agentai pradės savarankiškai inicijuoti ir vykdyti mokėjimus vartotojų vardu. Tokia perspektyva fundamentaliai keičia finansinės atsakomybės koncepciją ir verčia teisinio reguliavimo institucijas reikalauti absoliutaus procesų skaidrumo.

Duomenų nutekėjimas – didžiausia modernaus DI grėsmė

Strateginis posūkis link griežto DI valdymo yra tiesiogiai susijęs su kintančiu grėsmių pobūdžiu. Finansų institucijų vadovai pripažįsta, kad didžiausia rizika šiandien kyla ne dėl tiesioginių kibernetinių atakų prieš pačius modelius, o dėl jautrių duomenų saugumo užtikrinimo.

Tyrimo duomenys rodo, kad jautrių duomenų nutekėjimas per kasdienę sąveiką su DI sistemomis yra pagrindinis saugumo specialistų rūpestis, kurį išskiria 61 % respondentų. Kadangi net 98,3 % finansų įmonių naudoja debesų kompiuterijos paslaugas, o trečdalis jų visiškai pasitiki debesų architektūra, nekontroliuojamas informacijos judėjimas tarp autonominių agentų tampa kritine pažeidžiamumo vieta. Todėl investicijos iš DI modelių našumo didinimo dabar yra kryptingai perorientuojamos į duomenų srautų stebėjimą ir prieigos teisių valdymą.

Kas lieka už oficialių ataskaitų ribų: nematoma atsakomybės krizė

Nematoma atsakomybės krizė: finansų sektoriaus perėjimas prie griežto dirbtinio intelekto valdymo nėra tik teorinis prisitaikymas prie naujų reglamentų, o tiesioginė reakcija į gilėjantį kontrolės vakuumą. Kai autonominės sistemos pradeda veikti uždarame cikle – savarankiškai priimdamos sprendimus dėl paskolų išdavimo, aktyvų valdymo ar rizikos vertinimo – tradiciniai priežiūros mechanizmai tampa neveiksmingi. Didžiausias iššūkis, su kuriuo šiandien susiduria bankų valdybos, yra vadinamasis „juodosios dėžės“ efektas, kai net patys sistemų kūrėjai negali tiksliai paaiškinti, kodėl algoritmas pasirinko konkrečią strategiją krizinėje situacijoje.

Šis pokytis iš esmės keičia galios balansą pačiose organizacijose, kur technologijų vadovai (CTO) ir atitikties pareigūnai (CCO) privalo dirbti visiškai nauju ritmu. Istoriškai finansų institucijos buvo pratęsusios prie ilgų, mėnesius trunkančių programinės įrangos testavimo ciklų, užtikrinančių visišką nuspėjamumą. Autonominių sistemų dinamiškumas ir jų gebėjimas nuolat mokytis iš naujų duomenų srautų griauna šį stabilumą, todėl įmonės yra priverstos kurti realaus laiko auditavimo įrankius, veikiančius lygiagrečiai su pagrindinėmis operacijomis.

Kartu ryškėja didėjanti praraja tarp technologijų milžinių diktuojamo tempo ir reguliuotojų galimybių jį suvaldyti. Nors tokie teisės aktai kaip Europos Sąjungos DI aktas nubrėžia aiškias gaires, praktinis jų įgyvendinimas decentralizuotoje debesų kompiuterijos infrastruktūroje išlieka pilkąja zona. Teisininkai ir rizikos kapitalo analitikai pastebi, kad teisinės atsakomybės perkėlimas nuo programinės įrangos tiekėjo galutiniam naudotojui, t. y. bankui, verčia institucijas elgtis itin konservatyviai ir stabdyti kai kurių inovatyvių produktų paleidimą rinkoje.

Galiausiai, ši transformacija reikalauja esminio darbuotojų kompetencijų persiorientavimo, nes tradiciniai finansų analitikai privalo perimti algoritmų prižiūrėtojų vaidmenį. Ateities finansų ekosistemoje sėkmę lems ne gebėjimas sukurti sudėtingiausią modelį, o gebėjimas suvaldyti jo šalutinius poveikius ir užtikrinti etinį bei teisinį skaidrumą. Šis brandos etapas rodo, kad finansų sektorius galutinai išaugo technologinio optimizmo fazę ir įžengė į pragmatiško, griežtai kontroliuojamo efektyvumo amžių.

Žvelgiant tarp eilučių: iliuzinis saugumas ir reguliavimo aklavietė

Žvelgiant tarp eilučių: dabartinis finansų sektoriaus entuziazmas kurti DI valdymo struktūras dažnai tėra korporatyvinis fasadas, slepiantis gilesnį technologinį nepasiruošimą. Institucijos skubotai tvirtina naujas etikos gaires ir rizikos valdymo protokolus, tačiau šie dokumentai retai randa atgarsį praktinėje programinio kodo eilutėje. Tikrasis paradoksas slypi tame, kad bandoma suvaldyti sistemas, kurių fundamentalus pranašumas yra būtent jų nenuspėjamumas ir gebėjimas rasti žmogaus akiai nepastebimus dėsningumus. Reikalavimas, kad autonominis agentas būtų visiškai kontroliuojamas ir kartu revoliucingai efektyvus, yra vidinis prieštaravimas, kurio pramonė vis dar nesugeba išspręsti.

Šią problemą dar labiau paaštrina rinkoje vyraujanti priklausomybė nuo kelių didžiųjų technologijų tiekėjų. Bankai ir kredito įstaigos, deklaruojantys visišką savo algoritmų kontrolę, iš tikrųjų naudoja tuos pačius bazinius modelius, pritaikytus per trečiųjų šalių sąsajas (API). Tai sukuria sisteminę riziką visai finansų rinkai: jei vienas iš pagrindinių modelių patiria kritinę klaidą ar tampa manipuliacijos aukva, grandininė reakcija gali akimirksniu paralyžiuoti dešimtis institucijų. Tokiame kontekste individualios organizacijos valdymo deklaracijos tampa beprasmės, nes tikroji sprendimų galia lieka sutelkta už tradicinės finansų sistemos ribų.

Be to, dabartinis reguliavimo spaudimas sukelia nenumatytą šalutinį poveikį – inovacijų teatrą, kur ištekliai nukreipiami ne į sistemų saugumo tobulinimą, o į atitikties dokumentų pildymą. Kol teisininkai ginčijasi dėl teisinės atsakomybės ribų, technologinė pažanga nestovi vietoje, o rinkoje atsiranda šešėlinis DI (angl. Shadow AI) – darbuotojų tyliai naudojami nepatvirtinti įrankiai kasdienėms užduotims palengvinti. Ši atskirtis tarp oficialios politikos ir realios praktikos rodo, kad griežtėjantis valdymas kol kas labiau ramina akcininkus, nei realiai apsaugo nuo sisteminių autonominių operacijų rizikų.

„Galiausiai finansų pasaulis atsidūrė situacijoje, kai algoritmai priima sprendimus milisekundžių greičiu, o jų priežiūros komitetai renkasi kartą per ketvirtį, kad patvirtintų praėjusio sezono ataskaitas. Lieka tikėtis, kad dirbtinis intelektas bus pakankamai supratingas ir palauks, kol valdyba baigs gerti kavą ir pasirašys naująjį rizikos valdymo protokolą.“

Vyr. redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.