Dirbtinio intelekto grėsmės farmacinių tyrimų vientisumui: technologijų lyderiai skelbia pavojų

Pasauliniai informacinių technologijų lyderiai ir kibernetinio saugumo ekspertai vis garsiau įspėja farmacijos pramonę dėl nekontroliuojamo dirbtinio intelekto (DI) sistemų diegimo vaistų kūrimo procese. Generatyvinis DI ir sudėtingi mašininio mokymosi algoritmai, nors ir žada pagreitinti naujų terapijų atradimą, sukelia rimtų rizikų dėl duomenų klastojimo bei manipuliavimo moksliniais rezultatais. Pramonės stebėtojai pabrėžia, kad netinkamai valdomi algoritmai gali negrįžtamai iškraipyti klinikinių tyrimų paketus, o tai kelia tiesioginę grėsmę pacientų saugumui bei ilgalaikiam visuomenės pasitikėjimui medicinos inovacijomis.

Ši technologinė rizika sparčiai keičia reguliavimo aplinką, kurioje teorinės gairės virsta griežtomis vykdymo priemonėmis. JAV Maisto ir vaistų administracija (FDA) jau žengė precendentą neturintį žingsnį ir išsiuntė pirmąjį oficialų įspėjamąjį laišką farmacijos sektoriaus įmonei dėl netinkamo DI agentų naudojimo bei kritinio cGMP (Geros gamybos praktikos) taisyklių nepaisymo, apie ką išsamiai pranešė DLA Piper. Reguliuotojų atlikti patikrinimai atskleidė, kad aklas pasitikėjimas automatizuotomis sistemomis be nuolatinės žmonių priežiūros tiesiogiai pažeidžia nustatytus kokybės standartus.

Strateginis poslinkis rinkoje reikalauja, kad farmacijos bendrovės skubiai integruotų griežtus validavimo ir valdymo modelius, atitinkančius tarptautinius reikalavimus. Kadangi ES Dirbtinio intelekto aktas numato griežtesnes taisykles didelės rizikos sistemoms, o FDA kartu su Europos vaistų agentūra (EMA) formuoja bendrus gerosios praktikos principus, technologijų lyderiai ragina įmones pereiti prie skaidraus, lengvai paaiškinamo dirbtinio intelekto (angl. Explainable AI) sprendimų, užtikrinančių visišką atsekamumą ir duomenų vientisumą.

Algoritmų dreifas ir juodosios dėžės problema

Viena didžiausių IT lyderių identifikuojamų problemų farmaciniuose tyrimuose yra vadinamasis modelių dreifas (angl. model drift), kai laikui bėgant keičiasi AI sistemų našumas ir prognozių tikslumas. Moksliniuose leidiniuose, pavyzdžiui, ScienceDirect, analizuojama rizika, jog į reguliacinius dokumentus gali patekti manipuliuoti ar klaidingi generatyvinio DI rezultatai, jei trūksta griežtos kontrolės. Dėl „juodosios dėžės“ efekto tyrėjams dažnai sudėtinga validuoti, kodėl neuroninis tinklas priėmė konkretų sprendimą dėl molekulės atrankos, o tai sukuria rimtų teisinių ir etinių kliūčių audito metu.

Reguliuotojų atsakas ir privaloma žmogaus priežiūra

Rinkos analizė rodo, kad priežiūros institucijos netoleruos teisinės atsakomybės delegavimo algoritmams. Kaip savo apžvalgoje pažymi MasterControl, pastarieji įvykiai aiškiai parodė, kad bet kokios DI rekomendacijos privalo būti peržiūrėtos bei patvirtintos kvalifikuotų specialistų. Griežtėjantis reguliavimas verčia įmones investuoti ne tik į pačias technologijas, bet ir į visapusiškas duomenų vientisumo užtikrinimo sistemas (ALCOA+ principus), kurios tampa esminiu įmonių reputacijos ir atitikties garantu.

Užkulisių realybė: technologinė skuba prieš mokslinį skrupulingumą

Nematoma rizikos pusė: kol viešojoje erdvėje dominuoja optimistinės antraštės apie DI gebėjimą per kelias dienas atrasti naujas vaistų molekules, farmacijos laboratorijų užkulisiuose verda įtempta kova tarp technologinio greičio ir fundamentalių mokslinių standartų. Didieji pramonės žaidėjai patiria milžinišką investuotojų spaudimą kuo greičiau skaitmenizuoti procesus ir sumažinti tyrimų sąnaudas. Ši skuba paskatino masinį iš anksto paruoštų mašininio mokymosi modelių integravimą, dažnai giliai nesuvokiant jų vidinės logikos ir specifinių apribojimų farmakologijos kontekste.

Patyrę duomenų inžinieriai ir bioinformatikai pastebi, kad pagrindinė problema slypi ne pačiuose algoritmuose, o duomenų rinkiniuose, kuriais jie yra maitinami. Istorinės klinikinės bazės dažnai yra fragmentuotos, jose gausu paslėptų sisteminių paklaidų bei netikslumų. Kai DI sistema mokosi iš tokių trūkumų turinčių duomenų, ji ne tik atlieka neteisingas prognozes, bet ir jas sustiprina, sukurdama moksliškai nepagrįstus, tačiau išoriškai labai įtikinamus rezultatus. Tai sukuria klaidingą saugumo jausmą, kuris gali būti pastebėtas tik vėlyvosiose ir pačiose brangiausiose klinikinių tyrimų stadijose.

Ši situacija išryškina gilų kultūrinį ir metodologinį atotrūkį tarp Silicio slėnio programinės įrangos kūrėjų ir tradicinės farmacijos pramonės atstovų. Technologijų sektorius yra įpratęs prie greitų iteracijų ir filosofijos „suklysk greitai“, tuo tarpu medicinos tyrimuose bet kokia klaida matuojama žmonių gyvybėmis. Rizikos valdymo specialistai pabrėžia, kad dabartinė DI architektūra iš esmės nėra pritaikyta biologinių sistemų stochastiškumui ir nenuspėjamumui, todėl aklas pasikliovimas skaitmeniniais modeliais be nuolatinio empirinio tikrinimo laboratorijose tampa nepriimtina prabanga.

Galiausiai, farmacijos lyderiai susiduria su rimtu personalo ir kompetencijų trūkumu. Įmonėms trūksta hibridinių specialistų, kurie vienodai gerai išmanytų tiek molekulinę biologiją, tiek pažangią duomenų mokslo architektūrą. Kol šis žinių deficitas nebus pašalintas, rizikos tyrimų vientisumui tik augs, nes sprendimus priimantys vadovai bus priversti pasikliauti išorinių tiekėjų garantijomis, neturėdami vidinių resursų nepriklausomam algoritmų auditui atlikti.

Žvelgiant giliau: iliuzinis efektyvumas ir technologinis fatalizmas

Skeptiko žvilgsnis į skaitmeninę alchemiją: dabartinis farmacijos pramonės entuziazmas dėl dirbtinio intelekto dažnai primena modernią alchemiją, kurioje tikima, kad dideli duomenų kiekiai ir sudėtingi algoritmai automatiškai virstas saugiais bei efektyviais vaistais. Visuotinai priimta prielaida, kad DI sumažins vaistų kūrimo kainą ir laiką, susiduria su esminiu prieštaravimu. Ankstyvosiose stadijose sutaupytos lėšos yra tiesiog perkeliamos į vėlesnius etapus, nes prastai validuoti skaitmeniniai modeliai sugeneruoja daugiau klaidingų teigiamų rezultatų, kuriuos vėliau tenka brangiai tikrinti tradicinėse laboratorijose.

Šis reiškinys sukuria paradoksalią situaciją, kai technologinė pažanga gali ne pagreitinti, o sulėtinti realių vaistų patekimą į rinką. Įmonės investuoja milijonus į platformas, žadančias optimizuoti klinikinių tyrimų dizainą, tačiau reguliuotojų reikalavimai griežtėja proporcingai algoritmų sudėtingumui. Dėl to bendrovės yra priverstos kurti papildomus saugumo ir patikros sluoksnius, kas virsta nauja biurokratijos bei techninio audito forma, ryjančia tuos pačius išteklius, kuriuos DI turėjo sutaupyti.

Be to, pramonė demonstruoja tam tikrą technologinį fatalizmą – baimę pavėluoti į traukinį verčia priimti sprendimus, kurie prieštarauja klasikinei mokslo metodologijai. Kai mašininio mokymosi modelis pasiūlo tam tikrą cheminį junginį, o tyrėjai negali paaiškinti jo veikimo mechanizmo, nukenčia pats mokslinio pažinimo principas. Pasikliovimas koreliacijomis, o ne priežastingumu, ilgalaikėje perspektyvoje gali devalvuoti fundamentaliuosius tyrimus, paversdamas mokslininkus tiesiog algoritmų išvesties operatoriais.

Atsižvelgiant į šias tendencijas, tikėtina, kad artimiausiu metu įvyks natūralus rinkos apsivalymas. Sėkmę garantuos ne garsiausi lozungai apie DI integraciją, o gebėjimas išlaikyti sveiką skepticizmą ir sukurti hibridines sistemas, kur technologijos tarnauja kaip pagalbinis įrankis, o ne galutinis arbitras. Tikrasis proveržis įvyks tada, kai pramonė nustos traktuoti dirbtinį intelektą kaip magišką sprendimą ir pradės į jį žiūrėti kaip į itin sudėtingą, priežiūros reikalaujantį statistinį instrumentą.

„Galiausiai pasirodė, kad dirbtinis intelektas gali per kelias sekundes sugeneruoti dešimt tūkstančių naujų molekulių variantų, tačiau jis vis dar negali prisiimti atsakomybės prieš teismą ar reguliuotojus, kai tos molekulės laboratorijoje elgiasi ne pagal programos kodą, o pagal kaprizingus gamtos dėsnius.“

Vyr. redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.