CIO kontrolės praraja: vadovai atsako už sistemų, kurių patys nebevaldo, pasekmes

Naujausias IBM Institute for Business Value tyrimas atskleidžia kritinę technologijų sektoriaus problemą, kai įmonių informacijos (CIO) ir technologijų vadovai (CTO) tampa teisiškai bei strategiškai atsakingi už dirbtinio intelekto (DI) sistemų veiksmus, kurių jie patys negali visiškai kontroliuoti. Spartus autonominių agentų diegimas visose verslo grandyse stipriai aplenkia tradicinius IT priežiūros modelius ir sukelia vadinamąją kontrolės prarają. Kadangi generaliniai direktoriai reikalauja greitų rezultatų, verslo padaliniai dažnai patys pradeda naudoti trečiųjų šalių įrankius, o tai visiškai sugriauna centralizuotą rizikos valdymą.

Šis rinkos pokytis reikalauja skubiai pertvarkyti įmonių valdymo struktūras, nes dabar taikomi rankiniai valdymo metodai tiesiog nebegali užtikrinti saugumo. Tyrimo duomenys rodo, kad įmonės, kurios nesiima automatizuoti kontrolės mechanizmų tiesiogiai pačiose DI sistemose, susiduria su nuolatiniais saugumo incidentais, duomenų nutekėjimu bei sistemų klaidomis. Technologijų lyderiai atsiduria spąstuose, kai verslo poreikiai diktuoja greitį, o patikimų saugumo ir finansinės stebėsenos įrankių trūkumas sukelia didelę teisinę bei operacinę riziką įmonės vadovybei.

Autonominių agentų plėtra ir valdymo trūkumai

Rinkoje stebimas masinis autonominių DI agentų integracijos šuolis, tačiau tik nedidelė dalis vadovų jaučiasi visiškai pasiruošę tokio masto technologijų valdymui. Dauguma organizacijų pripažįsta, kad DI technologijų diegimo tempas jau viršijo esamus vidinius reguliavimo pajėgumus. Nekontroliuojama plėtra lemia dažnus techninius incidentus, iš kurių didelė dalis sukelia rimtų pasekmių, tokių kaip jautrių duomenų nutekėjimas arba grandininiai sistemų gedimai, reikalaujantys ilgų atkūrimo valandų.

Finansinės drausmės ir matomumo stygis

Kita didžiulė problema yra finansinio prognozavimo stoka, nes DI palaikymui skiriami biudžetai per ateinančius kelerius metus turėtų sparčiai augti ir sudaryti reikšmingą IT išlaidų dalį. Nepaisant milžiniškų investicijų, didžioji dalis technologijų vadovų neturi realaus laiko matomumo įrankių, leidžiančių sekti tikrąsias DI infrastruktūros sąnaudas. IBM ekspertų analizė pabrėžia, kad tik griežtą finansinę bei technologinę kontrolę integruojančios įmonės sugeba sėkmingai masteliuoti procesus, padidinti veiklos maržas ir išvengti neproporcingo biudžeto švaistymo.

Kas lieka už oficialių ataskaitų ribų: nematoma vadovų kova

Tikroji technologijų vadovų dilema: kasdienė įtampa tarp verslo padalinių spaudimo inovuoti ir teisinės atsakomybės naštos tampa nebepakeliama. Kol įmonių pardavimų ar rinkodaros komandos reikalauja kuo greičiau integruoti naujausius generatyvinio dirbtinio intelekto įrankius klientų aptarnavimui gerinti, informacijos vadovai privalo galvoti apie ilgalaikius padarinius. Šis interesų konfliktas sukuria situaciją, kai technologijos įmonėse pradedamos diegti slapta, apeinant oficialias IT patikras. Vadovai yra priversti prisiimti atsakomybę už „šešėlinį DI“, apie kurio egzistavimą jie dažnai sužino tik įvykus rimtam saugumo incidentui arba duomenų privatumo pažeidimui.

Ši situacija stipriai primena ankstyvąją debesų komandijos (angl. cloud computing) erą, kai prieš dešimtmetį įmonės masiškai kėlė duomenis į išorines serverių sistemas be aiškaus reguliavimo plano. Tačiau šį kartą rizika yra kur kas didesnė, nes dirbtinio intelekto sistemos ne tik saugo informaciją, bet ir savarankiškai priima sprendimus, tiesiogiai veikiančius galutinius vartotojus. Istorinė patirtis rodo, kad technologijų kontrolės praradimas ankstyvose stadijose vėliau reikalauja milžiniškų finansinių išteklių klaidų taisymui. Dabartinė kontrolės praraja rodo, kad pamokos nebuvo visiškai išmoktos, o saugumo architektūros kūrimas vėl atidedamas vėlesniam laikui vardan trumpalaikio konkurencinio pranašumo.

Teisinės ir atitikties komandos visame pasaulyje taip pat didina spaudimą technologijų sektoriui, reikalaudamos visiškos DI sprendimų skaidrumo garantijos. Priimami nauji tarptautiniai reglamentai įpareigoja įmones tiksliai paaiškinti, kaip jų naudojami algoritmai priima konkrečius sprendimus, ypač finansų, sveikatos apsaugos ir žmogiškųjų išteklių valdymo srityse. Kadangi daugelis pažangių modelių veikia kaip „juodosios dėžės“, net patys CTO dažnai negali pateikti tikslių matematinio sprendimo priėmimo priežasčių. Šis skaidrumo trūkumas sukelia teisinį paralyžių, kai įmonės bijo pilnu pajėgumu naudoti inovacijas dėl galimų milijoninių baudų.

Galutinis sprendimas reikalauja esminio mąstymo pokyčio, peržengiančio vien tik technologijų rėmus. Sėkmingai su kontrolės praraja kovojančios organizacijos pradeda kurti mišrias DI etikos ir priežiūros tarybas, kuriose kartu dirba inžinieriai, teisininkai, finansininkai bei rizikos valdymo specialistai. Tik toks integruotas požiūris leidžia sukurti automatizuotas stebėsenos sistemas, kurios realiuoju laiku fiksuoja algoritmų nuokrypius ar neautorizuotą duomenų naudojimą. Technologijų vadovams tai vienintelis kelias susigrąžinti procesų kontrolę ir užtikrinti, kad atsakomybė už DI sistemas būtų proporcingai paskirstyta visai įmonės vadovybei.

Skeptiškas žvilgsnis į dirbtinio intelekto iliuziją

Žvelgiant tarp eilučių: dabartinis rinkos ažiotažas aplink dirbtinį intelektą sukuria pavojingą paradoksą, kurį daugelis įmonių linkusios ignoruoti. Generaliniai direktoriai viešai deklaruoja visišką pasitikėjimą naujomis technologijomis ir reikalauja žaibiškos investicijų grąžos, tačiau už uždarų durų tie patys vadovai pripažįsta, kad visiškai nesupranta, kaip šios sistemos veikia. Šis atotrūkis tarp korporatyvinės retorikos ir technologinės realybės stumia technologijų vadovus į neįmanomą padėtį. Iš jų tikimasi stebuklų transformuojant verslą, bet kartu reikalaujama prisiimti asmeninę atsakomybę už klaidas, kurias sukelia neprognozuojami, trečiųjų šalių sukurti algoritmai.

Didžiausia klaida yra manyti, kad šią valdymo krizę galima išspręsti tiesiog nuperkant dar daugiau programinės įrangos. Rinkoje pastebima ironiška tendencija: įmonės, kenčiančios nuo nekontroliuojamo DI sistemų plėtimosi, bando šią problemą spręsti diegdamos naujus, dar sudėtingesnius DI stebėsenos įrankius. Tai sukuria uždarą ratą, kuriame technologijų vadovai bando suvaldyti nepermatomas sistemas naudodami kitas, ne mažiau paslaptingas sistemas. Tikroji problema slypi ne įrankių trūkume, o pačioje organizacinėje kultūroje, kuri vertina greitį labiau už technologinę drausmę ir ilgalaikį saugumą.

Žvelgiant į ateitį, šis kontrolės trūkumas neišvengiamai lems griežtėjančią vidinę cenzūrą ir inovacijų stagnaciją. Kai pirmosios didelės baudos pasieks įmones dėl autonominių agentų padarytų finansinių ar reputacinių klaidų, dabartinį entuziazmą greitai pakeis paralyžiuojanti baimė. Technologijų vadovai, siekdami apsaugoti savo karjerą, bus priversti dirbtinai riboti DI sistemų galimybes ir grįžti prie griežtai kontroliuojamų, bet kur kas mažiau efektyvių tradicinių IT modelių. Galiausiai laimės ne tos įmonės, kurios pirmosios įdiegė pažangiausius agentus, o tos, kurios sugebėjo laiku pasakyti „ne“ technologijoms, kurių nesugeba suvaldyti.

„Šiuolaikinis technologijų vadovas primena žmogų, kuris sutiko vairuoti autonominį automobilį užrištomis akimis ir sėdėdamas ant galinės sėdynės – kol viskas važiuoja sklandžiai, jis vadinamas inovacijų lyderiu, tačiau automobiliui atsitrenkus į sieną, policija vairuotojo pažymėjimo prašo būtent iš jo.“

Vyr. redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.