Pasaulinė dirbtinio intelekto rinka kryžkelėje: „Anthropic“ ragina koordinuotai stabdyti pažangiausių modelių kūrimą

Dirbtinio intelekto (DI) saugumo lyderė „Anthropic“ oficialiai paragino didžiąsias technologijų laboratorijas ir pasaulio vyriausybes skubiai apsvarstyti koordinuotą bei patikrinamą pažangiausių DI sistemų kūrimo stabdymą. Bendrovė, rinkai tiekianti „Claude“ pokalbių robotus, savo pareiškime įspėjo, kad technologinis progresas spartėja greičiau, nei visuomenė ar esamos saugumo kontrolės priemonės spėja prisitaikyti. Šis žingsnis žymi dramatišką posūkį industrijos retorikoje, tiesiogiai reaguojant į eksponentiškai augančias rizikas prarasti sistemų kontrolę.

Rinkos analizė rodo, kad „Anthropic“ strateginė pozicija yra dvejopa: neseniai pritraukusi milžiniškas investicijas ir pasiekusi 965 milijardų JAV dolerių vertinimą bei konfidencialiai pateikusi paraišką pirminiam viešajam akcijų siūlymui (IPO) JAV, įmonė bando išlaikyti trapią pusiausvyrą tarp komercinės lyderystės ir egzistencinių grėsmių valdymo. Pagrindiniu nerimo šaltiniu organizacija įvardija riziką, susijusią su visišku „rekursyviuoju DI įsivertinimu“ (angl. recursive self-improvement), kai sistemos įgauna gebėjimą savarankiškai projektuoti ir kurti savo pačių pažangesnius įpėdinius be žmogaus įsikišimo.

Ekspertų vertinimu, vienašališkas stabdymas rinkos konkurencijos sąlygomis būtų neefektyvus ir tik perleistų lyderio pozicijas mažiau atsargiems rinkos dalyviams. Todėl prasmingam plėtros sulėtinimui reikalingas visuotinis susitarimas tarp kelių stipriausių laboratorijų, veikiančių technologinio progreso smaigalyje, bei aiškios taisyklės, kokios sąlygos aktyvuotų arba panaikintų tokį moratoriumą. Iniciatyva jau sulaukė pasipriešinimo iš kai kurių Silicio slėnio atstovų ir Baltųjų rūmų pareigūnų, argumentuojančių, kad bet koks dirbtinis stabdymas vakaruose suteiktų strateginį pranašumą geopolitiniams varžovams, ypač Kinijai.

Egzistencinės rizikos ir technologinė autonomija

Kompanijos tyrėjai pabrėžia, kad DI modelių gebėjimas visiškai savarankiškai atlikti užduotis vidutiniškai padvigubėja kas keturis mėnesius. Prognozuojama, kad jau artimiausiu metu pažangiausios sistemos sugebės vykdyti užduotis, kurioms žmogui prireiktų kelių savaičių intensyvaus darbo. „Anthropic“ įkūrėjas Jack Clark interviu metu palygino dabartinę industrijos situaciją su automobiliu, kuris turi tik akceleratoriaus pedalą, bet neturi jokių stabdžių, o tai sukuria precedentą nevaldomam jėgų disbalansui technologijų ekosistemoje.

Geopolitinis spaudimas ir saugumo kompromisai

Šis raginimas paskelbtas praėjus vos keliems mėnesiams po to, kai „Anthropic“ dėl augančio konkurencinio spaudimo sušvelnino savo ankstesnius griežtus saugumo įsipareigojimus, pareikšdama, kad nebestabdys savo modelių vystymo, jei konkurentai bus arti jų pajėgumų pasiekimo. Kritikai pažymi ir tam tikrą dualumą bendrovės veiksmuose: kol viešai kalbama apie pasaulinę taiką ir saugiklius, žiniasklaidoje pasirodė pranešimai apie įmonės inžinierių integraciją į JAV Nacionalinio saugumo agentūros (NSA) struktūras, padedant pritaikyti galingus modelius puolamosioms kibernetinėms operacijoms, apie ką plačiau pranešė The Guardian.

Institucinis atsakas ir ateities scenarijai

Siekdama rasti išeitį iš susidariusios aklavietės, bendrovės tyrimų padalinys „Anthropic Institute“ artimiausiais mėnesiais planuoja sušaukti politikos formuotojų, mokslininkų, pilietinės visuomenės grupių ir konkuruojančių DI įmonių atstovų forumą. Šių diskusijų tikslas bus sukurti institucinį mechanizmą, kuris leistų pramonei koordinuotai reaguoti į nenumatytus DI elgsenos nukrypimus. Nepaisant to, tokie gigantai kaip „OpenAI“, „xAI“, „Alphabet“ ir „Meta Platforms“ kol kas susilaiko nuo oficialių komentarų, o tai rodo, kad vieningo fronto kūrimas bus itin komplikuotas ir reikalaus griežto tarptautinio teisinio reguliavimo, o ne vien savanoriškų korporacijų pažadų.

Užkulisių realybė: technologinė praraja tarp deklaruojamo saugumo ir komercinio spaudimo

Kas lieka už oficialių pranešimų spaudai ribų: tikroji priežastis, paskatinusi „Anthropic“ imtis šios dramatiškos iniciatyvos, yra susijusi su vidiniais pramonės testavimo rezultatais, rodančiais, kad naujausios kartos modeliai pradeda demonstruoti neprognozuojamus autonominio planavimo gebėjimus. Tradiciniai saugumo protokolai, kurie remiasi žmogaus grįžtamuoju ryšiu (angl. Reinforcement Learning from Human Feedback), tampa nebepakankami, kai sistemos pasiekia tokį sudėtingumo lygį, kurio tyrėjai nebegali pilnai permatyti realiuoju laiku. Tai sukuria situaciją, kurioje korporacijos yra priverstos pasitikėti pačių algoritmų kuriamais saugumo mechanizmais, o tai prilygsta uždaram ratui be išorinės kontrolės.

Rinkos stebėtojai pastebi, kad šis žingsnis taip pat atspindi gilėjančią schizmą tarp pačių DI laboratorijų įkūrėjų ir jų pagrindinių investuotojų. Kol idealistiškai nusiteikę mokslininkai siekia sukurti visuotinai saugų dirbtinį intelektą, rizikos kapitalo fondai ir technologijų gigantai, tokie kaip „Amazon“ ar „Google“, reikalauja greitos investicijų grąžos ir komercinių produktų integracijos į rinką. Šis finansinis spaudimas verčia įmones skubėti ir trumpinti saugumo testavimo ciklus, siekiant aplenkti konkurentus ir užsitikrinti didesnę rinkos dalį prieš prasidedant griežtesniam valstybiniam reguliavimui.

Istorinis kontekstas rodo, kad savanoriški pramonės susitarimai retai būna efektyvūs, kai kalbama apie strateginę technologinę viršenybę. Panašūs bandymai stabdyti tyrimus branduolinės fizikos ar biotechnologijų srityse praėjusio amžiaus dešimtmečiuose parodė, kad valstybės ir privačios struktūros galiausiai pasirenka slaptą vystymą, baimindamosi likti nuošalyje. „Anthropic“ pasiūlymas susiduria su identišku iššūkiu, nes bet koks viešas įsipareigojimas sulėtinti tempą yra traktuojamas kaip silpnumo ženklas agresyvioje Silicio slėnio ekosistemoje.

Galutinis šios iniciatyvos likimas priklausys nuo to, ar Vašingtonui ir Briuseliui pavyks sukurti teisinę bazę, kuri ne tik baustų už pažeidimus, bet ir skatintų saugumo technologijų plėtrą. Kol kas politikai išlieka priklausomi nuo pačių technologijų įmonių ekspertizės, o tai leidžia industrijos milžinams patiems diktuoti žaidimo taisykles. Ši priklausomybė riboja nepriklausomų audito institucijų galimybes objektyviai įvertinti realų pažangiausių modelių pavojingumo laipsnį ir priimti savalaikius sprendimus.

Analitinė perspektyva: deklaracijų ir pragmatiškų interesų sankirta

Žvelgiant giliau į motyvus: viešas „Anthropic“ raginimas imtis kolektyvinių stabdymo priemonių slepia gilią vidinę prieštarą, kurią pramonės analitikai vertina su dideliu skeptiškumu. Viena vertus, įmonė siekia išlaikyti atsakingos ir etiškos lyderės įvaizdį, tačiau tuo pat metu ji pati aktyviai dalyvauja ginklavimosi varžybose, nuolat pristatydama galingesnes savo modelių versijas. Šis dualizmas sukuria paradoksalią situaciją, kai reikalavimas stabdyti progresą skamba labiau kaip bandymas užfiksuoti esamas rinkos pozicijas ir sukurti reguliacinius barjerus naujiems, mažesniems konkurentams, nei kaip nuoširdus susirūpinimas žmonijos ateitimi.

Kitas svarbus aspektas, kurį praleidžia optimistiškesni stebėtojai, yra visiškas technologinis nesuderinamumas tarp skirtingų DI laboratorijų architektūrų. Net jei visos didžiosios šalys ir įmonės teoriškai sutiktų pasirašyti moratoriumą, šiuo metu neegzistuoja joks objektyvus, nepriklausomas ir techniškai įgyvendinamas audito mechanizmas, galintis patikrinti, kas vyksta už uždarų serverinių durų. Priešingai nei branduolinės programos, kurias galima sekti per urano sodrinimo infrastruktūrą, DI kodas ir skaičiavimo resursai gali būti lengvai maskuojami, todėl bet koks koordinuotas stabdymas remtųsi tik aklu tarpusavio pasitikėjimu, kurio dabartinėje geopolitinėje arenoje paprasčiausiai nėra.

Galiausiai, šis raginimas demonstruoja tam tikrą naivumą vertinant rinkos ekonomikos dėsnius. Istorija rodo, kad technologinis determinizmas beveik visada nugali etinius apsvarstymus, kai kalbama apie trilijonų dolerių vertės pramonės transformaciją. Tikėtis, kad valdybos nariai ir akcininkai savanoriškai įšaldys milijardines investicijas tuo metu, kai vartotojų paklausa ir komercinis pritaikymas auga geometrine progresija, yra mažų mažiausiai utopija. Tikroji rizika yra ta, kad kol vakarų laboratorijos diskutuos apie teorinius moratoriumo rėmus, praktinis pranašumas bus negrįžtamai prarastas valstybėse, kurios vadovaujasi visiškai kitokiomis etinėmis normomis.

„Atrodo, kad moderniose technologijų varžybose geriausias būdas paprašyti konkurento palaukti, kol jūs pasitaisysite batus, yra garsiai pareikšti, kad bėgimas apskritai kenkia abiejų sveikatai.“

Vyr. redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.