Reguliuotojų spaudimas bankams dėl dirbtinio intelekto: inovacijos atsidūrė po padidinamuoju stiklu

JAV bankų priežiūros institucijos sparčiai griežtina finansų įstaigų taikomų dirbtinio intelekto (DI) technologijų kontrolę. Kaip praneša Reuters, Valiutos kontrolieriaus biuras (OCC) ir Federalinė rezervų sistema (Fed) įtraukė privalomus klausimus apie DI sprendimus į kasdienes, įprastines bankų patikras. Šis žingsnis rodo institucijų pasiryžimą nebelaukti naujų teisės aktų priėmimo, o naudoti jau esamas rizikos valdymo struktūras algoritmų kontrolei. Finansų sektoriui tai reiškia kritinį etapą, kuomet eksperimentus su pažangiais modeliais keičia griežta atskaitomybė.

Pagrindinis priežiūros institucijų dėmesys krypsta į aukštos rizikos sritis: paskolų išdavimą, klientų tapatybės nustatymą (KYC) ir sankcijų tikrinimą. Reguliuotojai siekia suvaldyti vadinamąjį „duomenų nutekėjimą“ (angl. data creep), kai gilieji DI modeliai savarankiškai apjungia fragmentuotus klientų duomenis ir priima nepaaiškinamus sprendimus. Federalinio rezervo valdytojo pavaduotoja Michelle Bowman neseniai pabrėžė, kad dabartinės gairės buvo pritaikytos tradiciniams modeliams, todėl būtina įvertinti, ar jos yra tinkamos sparčiai plintantiems generatyviniams ir agentiniams DI sprendimams, apie ką plačiau rašo JD Supra.

Griežtėjantys reikalavimai: avariniai išjungikliai ir trečiųjų šalių rizika

Audito metu iš bankų reikalaujama ne tik aiškiai apibrėžti naudojamų duomenų ribas, bet ir įrodyti, kad jie kontroliuoja išorinius technologijų tiekėjus. Priežiūros institucijos domisi, ar finansų įstaigos turi pasirengusios „avarinius išjungiklius“ (angl. kill switches), leidžiančius akimirksniu sustabdyti autonomines sistemas, jei šios pradėtų veikti neadekvačiai ar sukeltų grėsmę kibernetiniam saugumui.

Strateginis lūžis valdant algoritmų riziką

Finansų rinkos analizė rodo, kad bankai privalo pereiti nuo technologinio optimizmo prie gilios gynybinės strategijos. Pagrindiniai iššūkiai, su kuriais šiandien susiduria sektorius:

• Modelių skaidrumas: Finansų įstaigos privalo sugebėti reguliuotojams ir klientams suprantamai paaiškinti, kokiais kriterijais remiantis algoritmizacijos sistemos atmetė paraišką ar patvirtino sandorį.
• Priklausomybė nuo tiekėjų: Bankai privalo turėti aiškias pasitraukimo strategijas (angl. exit strategies) tam atvejui, jei trečiosios šalies DI platformoje įvyktų saugumo pažeidimas.
• Atitikties procesų sinchronizacija: Tradiciniai rizikos vertinimo ciklai nespėja paskui DI evoliuciją, todėl reikalaujama nuolatinio, realaus laiko sistemų monitoringo.

Šis reguliuotojų spaudimas neišvengiamai sulėtins masinį nepatikrintų DI įrankių diegimą, tačiau kartu padės pagrindą saugesnei ir brandesnei finansinių technologijų integracijai ateityje.

Giluminė analizė: kas lieka už oficialių ataskaitų ribų

Užkulisiuose verdanti kova: reguliuotojų suaktyvėjimas žymi esminį lūžį finansų technologijų evoliucijoje, kurį patys bankininkai privačiuose pokalbiuose vadina „tyliąja krize“. Didieji Volstrito žaidėjai jau kelerius metus investuoja milijardus dolerių į mašininio mokymosi modelius, tikėdamiesi drastiškai sumažinti operacines išlaidas ir pagreitinti kreditavimo procesus. Tačiau priežiūros institucijų reikalavimas įdiegti sistemų „avarinius išjungiklius“ ir pateikti aiškius algoritmų sprendimų paaiškinimus dabar stabdo dešimtis ambicingų projektų. Bankų technologijų vadovai susiduria su dilema, kaip išlaikyti konkurencinį pranašumą prieš lankstesnes „FinTech“ įmones, kai kiekviena kodo eilutė privalo būti patikrinta teisininkų ir rizikos valdymo ekspertų.

Istorinis kontekstas rodo, kad priežiūros institucijos bando išvengti 2008 metų finansų krizės scenarijaus pasikartojimo, kuomet niekas iki galo nesuprato sudėtingų išvestinių finansinių priemonių rizikos struktūros. Šiandieninė situacija su juodosios dėžės (angl. black box) tipo dirbtinio intelekto modeliais yra stebėtinai panaši. Jei generatyvinis modelis pradeda rodyti vadinamąsias „haliucinacijas“ ir priima klaidingus sprendimus dėl sisteminės rizikos vertinimo, padariniai visai finansų rinkai gali būti katastrofiški. Dėl šios priežasties reguliuotojai reikalauja ne tik teorinių modelių aprašymų, bet ir praktinių įrodymų, kaip sistemos reaguoja į netikėtus makroekonominius sukrėtimus ar rinkos anomalijas.

Svarbų vaidmenį šiame procese vaidina ir geopolitinis bei kibernetinio saugumo kontekstas. Bankai vis dažniau naudojasi didžiųjų technologijų korporacijų teikiamomis debesų kompiuterijos ir DI infrastruktūros paslaugomis, o tai sukuria sisteminę priklausomybę nuo kelių monopolininkų. Priežiūros institucijos baiminasi, kad vienos iš šių platformų pažeidžiamumas ar techninis sutrikimas gali paralyžiuoti keliolika didžiausių šalies bankų vienu metu. Todėl reikalavimas turėti nepriklausomas pasitraukimo strategijas tampa ne šiaip biurokratine kliūtimi, o nacionalinio saugumo klausimu, verčiančiu finansų įstaigas kurti brangius atsarginius lokalius serverius ir alternatyvias technologines sistemas.

Galiausiai, šis reguliavimo griežtinimas atveria gilų atotrūkį tarp pirmaujančių bankų ir vidutinio dydžio regioninių finansų įstaigų. Kol rinkos milžinai gali sau leisti samdyti šimtus papildomų atitikties specialistų bei duomenų mokslininkų auditui pasiruošti, mažesni bankai rizikuoja likti technologinėje nuošalėje. Jie paprasčiausiai neturi resursų įgyvendinti naujųjų reikalavimų, todėl yra priversti stabdyti inovacijas ir grįžti prie konservatyvesnių, rankiniu darbu grįstų procesų. Tai gali lemti dar didesnę bankų sektoriaus konsolidaciją, kuomet technologinis pranašumas bus prieinamas tik patiems didžiausiems žaidėjams, sugebantiems pakelti reguliuotojų užkeltą kartelę.

Skeptiškoji perspektyva: paradoksai ir nepatogios tiesos

Žvelgiant tarp eilučių: oficialūs reguliuotojų pareiškimai apie būtinybę apsaugoti vartotojus ir suvaldyti algoritmų riziką dažnai prasilenkia su technine realybe bei kuria gilų vidinį prieštaravimą. Priežiūros institucijos reikalauja visiško modelių sprendimų paaiškinamumo, tačiau pažangiausi gilieji neuroniniai tinklai iš prigimties veikia kaip „juodosios dėžės“. Reikalauti, kad bankas pateiktų matematiškai tikslų ir kartu žmogui suprantamą sudėtingo generatyvinio modelio sprendimo paaiškinimą, yra tas pats, kas prašyti chirurgo paaiškinti kiekvieną pasąmoninį impulsą operacijos metu. Dėl šio paradokso finansų įstaigos gali būti priverstos rinktis ne pačius efektyviausius, o tiesiog lengviausiai audituojamus, pasenusius algoritmus.

Kitas ryškus prieštaravimas slypi pačių reguliuotojų pasirengime. Kol priežiūros tarnybos reikalauja, kad bankai kontroliuotų realiu laiku evoliucionuojančius modelius, pačios audito institucijos dažnai remiasi statinėmis gairėmis ir stokoja aukščiausio lygio duomenų mokslininkų. Šis kompetencijų atotrūkis lemia situaciją, kuomet tikrinimo procesas virsta formaliu „varnelių dėliojimu“ teisiniuose dokumentuose, užuot atlikus realų sistemų saugumo ir algoritmų šališkumo testavimą. Rezultatas – sukuriamas apgaulingas saugumo jausmas, kuris ne tiek sumažina sisteminę riziką, kiek padidina biurokratinį aparatą abiejose barikadų pusėse.

Ilgalaikėje perspektyvoje toks griežtas spaudimas gali sukelti atvirkštinį efektą ir išstumti riziką į pilkąsias zonas. Apriboti griežtų taisyklių, tradiciniai bankai bus priversti mažinti riziką ir atsisakyti tam tikrų paslaugų, o jų vietą rinkoje užims šešėlinio banko struktūros ar decentralizuotos platformos, veikiančios už oficialios priežiūros ribų. Bandymas dirbtinai suvaldyti technologinę evoliuciją draudimais tik paspartins kapitalo migraciją ten, kur reguliuotojų ranka tiesiog nesiekia.

„Galiausiai finansų sektorius atsidūrė unikalioje situacijoje, kai bankai bando įrodyti, kad jų dirbtinis intelektas yra pakankamai protingas uždirbti pinigus, bet kartu pakankamai nuspėjamas, kad neišgąsdintų auditorių. Panašu, jog idealus ateities banko modelis reguliuotojų akimis – tai genialus algoritmas, kuris priima revoliucinius sprendimus, tačiau reikalui esant moka apsimesti paprasta Excel lentele.“

Vyr. redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.