Atsakomybės našta autonominių DI agentų amžiuje: kas atsako už algoritmines klaidas?

Globali autonominių dirbtinio intelekto agentų rinka demonstruoja staigų augimą – nuo 7,6 mlrd. JAV dolerių 2025 metais ji išaugo iki prognozuojamų 10,9 mlrd. JAV dolerių 2026 metais, rodo technologijų tyrimų bendrovės Grand View Research duomenys. Kartu su šia plėtra verslo sektoriuje fiksuojamas kritinis teisinis neapibrėžtumas. Nors technologijų bendrovės aktyviai siūlo sprendimus klientų aptarnavimui, programinės įrangos kūrimui ir tiekimo grandinės valdymui, atsakomybės pasiskirstymas už sistemų priimtus savarankiškus sprendimus išlieka viena opiausių pilkųjų zonų rinkoje.

Esminis strateginis lūžis įvyko technologijų paslaugų sutarčių teisinėje praktikoje. Kaip savo analizėje pabrėžia tarptautinės teisės firmos Clifford Chance ekspertai, standartinėse tiekimo sutartyse visa atsakomybė už teisinį ir reguliacinį atitikimą vis dažniau perkeliama galutiniam klientui, o ne programinės įrangos kūrėjui. Tai sukuria vidinį prieštaravimą: nors DI agento elgseną ir algoritmines ribas iš esmės valdo sistemą sukūrusi korporacija, teisinę bei finansinę riziką dėl galimų klaidų ar neteisėtų veiksmų prisiima technologiją įsidiegusi įmonė.

Reguliacinė aplinka ir atsakomybės modeliai Europoje

Teisinis neapibrėžtumas verčia įmones keisti rizikos valdymo taktika, ypač atsižvelgiant į kintantį Europos Sąjungos reguliavimą. Naujoji ES Produktų atsakomybės direktyva, kurią valstybės narės į savo nacionalinę teisę privalo perkelti iki 2026 metų gruodžio 9 dienos, jau aiškiai įtraukia programinę įrangą ir dirbtinį intelektą į produktų apibrėžimą, nurodo Freshfields analitikai. Tai reiškia, kad bet koks DI agento saugumo standartų pažeidimas ar neatitikimas griežtoms ES Dirbtinio intelekto akto taisyklėms tiesiogiai lems civilinės atsakomybės atsiradimą organizacijai, eksploatuojančiai šią sistemą.

Tradicinių teisinių dogmų iššūkiai

Tradicinė atstovavimo ir deliktinės atsakomybės teisė nėra pritaikyta visiškai autonomiškoms sistemoms, nes joje reikalaujama identifikuoti fizinį asmenį, kurio veiksmai sukėlė žalą. Kadangi DI agentas veikia pagal savo algoritminę logiką, rinkoje formuojasi vadinamasis „atsakomybės vakuumas“. Verslo subjektai privalo iš naujo įvertinti savo tiekėjų sutartis, reikalauti specialių garantinių įsipareigojimų dėl autonominių veiksmų finansinių nuostolių ir užtikrinti nuolatinę žmogaus priežiūrą (angl. human-in-the-loop), kad būtų išvengta asmeninės bei korporacinės atsakomybės už sistemų priimtus sprendimus.

Užkulisių realybė: techninės architektūros ir draudimo rinkos aklavietė

Ko nepastebi dauguma analitikų: dabartinė teisinė diskusija per daug telkiasi į teorines atsakomybės formules, visiškai ignoruodama giluminę autonominių sistemų techninę architektūrą. Skirtingai nuo tradicinės programinės įrangos, kurioje galima aiškiai atsekti klaidą sukūrusią kodo eilutę, modernūs DI agentai veikia naudodami dinamišką konteksto interpretavimą. Tai reiškia, kad agentas priima sprendimus remdamasis ne tik pirminiu algoritmu, bet ir realiu laiku gaunamais išoriniais duomenimis, vartotojo užklausų istorija bei kitų sistemų reakcijomis. Kai tokia ekosistema sugeneruoja finansinį nuostolį ar pažeidžia privatumą, tampa techniškai nebeįmanoma izoliuoti vieno kaltininko, nes žala atsiranda dėl unikalaus, nepasikartojančio veiksnių derinio.

Šis nenuspėjamumas jau dabar kelia sumaištį korporacinio draudimo rinkoje, kuri istoriškai rėmėsi aiškiai prognozuojamais rizikos modeliais. Draudimo bendrovės visame pasaulyje skubiai peržiūri civilinės atsakomybės bei kibernetinio saugumo polisų sąlygas, siekdamos apriboti arba visiškai išskirti žalą, atsiradusią dėl autonominių sistemų veiksmų. Įmonės, tikėdamasi, kad standartinis draudimas padengs DI agento priimto klaidingo investicinio ar tiekimo sprendimo pasekmes, atsiduria teisinėje aklavietėje. Draudikai reikalauja, kad verslas pateiktų išsamius algoritmų audito protokolus, tačiau technologijų tiekėjai šią informaciją saugo kaip komercinę paslaptį, taip palikdami galutinius vartotojus be jokios realios finansinės apsaugos.

Kartu ryškėja gilėjantis konfliktas tarp technologijų startuolių ir tradicinių pramonės šakų reguliuotojų, pavyzdžiui, finansų ir sveikatos apsaugos sektoriuose. Teisės ekspertų teigimu, startuoliai dažnai vadovaujasi sena Silicio slėnio mantra „judėk greitai ir laužyk standartus“, tikėdamiesi, kad galutinės atsakomybės ribos bus nustatytos vėliau teismų praktikoje. Tuo tarpu rizikos valdymo vadovai didžiosiose korporacijose yra priversti stabdyti inovatyvių agentų diegimą, nes supranta, kad joks sutartinis atsakomybės ribojimas neapsaugos įmonės reputacijos ir licencijos, jei autonominė sistema pažeis esminius sektoriaus reglamentus. Ši prieštara tarp technologinio potencialo ir teisinio atsargumo tampa pagrindiniu stabdžiu masinei DI agentų integracijai į kritinę infrastruktūrą.

Skeptiko žvilgsnis: iliuzinis saugumas ir antropomorfiniai spąstai

Žvelgiant giliau į retoriką: technologijų industrijos peršamas pasakojimas, jog DI agentų autonomija reikalauja iš esmės naujos teisinės paradigmų sistemos, dažnai tėra strateginis dūmų uždanga. Pristatydami šias sistemas kaip savarankiškus subjektus, kūrėjai sumaniai manipuliuoja mūsų antropomorfiniais lūkesčiais. Tikrovėje joks algoritmas neturi nei sąmonės, nei asmeninio turto, iš kurio galėtų atlyginti žalą. Bandymai suteikti DI agentams tam tikrą juridinio asmens statusą, panašų į korporacijų modelį, iš esmės yra bandymas sukurti teisines iškamšas, skirtas apsaugoti tikruosius technologijų savininkus ir investuotojus nuo tiesioginių ieškinių.

Šioje aplinkoje išryškėja akivaizdus paradoksas tarp deklaruojamo efektyvumo ir realių veiklos sąnaudų. Įmonės diegia autonominius agentus siekdamos drastiškai sumažinti personalo išlaidas ir paspartinti procesus. Tačiau norint teisiškai apsisaugoti nuo kaskadinių algoritmų klaidų, organizacijos privalo samdyti papildomas teisininkų, duomenų auditorių ir rizikos vertintojų komandas, kurios nuolat tikrina „savarankiškų“ sistemų veiksmus. Galiausiai sutaupytos lėšos tiesiog perkeliamos iš vienos biudžeto eilutės į kitą, o procesų greitį vėl suvaržo būtinybė gauti žmogaus patvirtinimą prieš atliekant bet kokią reikšmingesnę finansinę ar teisinę operaciją.

Žvelgiant į ateitį, labiausiai tikėtinas scenarijus yra teisinio protekcionizmo stiprėjimas, kai didžiosios technologijų korporacijos sėkmingai lobins tokias reguliavimo sistemas, kurios bus įkandamos tik joms pačioms. Griežti ir brangūs sertifikavimo reikalavimai, užuot apsaugoję galutinį vartotoją, tiesiog užvers rinkos duris mažesniems atvirojo kodo (angl. open-source) inovatoriams. Autonomija taps prabangos preke, parduodama su begaliniais teisiniais atsakomybės atsisakymais, o galutinis vartotojas liks sistemoje, kurioje technologijos veikia idealiai tol, kol neatsitinka pirmoji rimta krizė.

Teisininkai jau dabar trina rankomis, suprasdami, kad autonominių agentų amžiuje didžiausią pelną atneš ne algoritmų efektyvumas, o begalinės teismo bylos, bandant įrodyti, ar dėl sistemos klaidos kaltas programuotojas, neteisingus duomenis pateikęs klientas, ar tiesiog prasta skaitmeninio vėjo kryptis tą antradienį.

Vyr. redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.