Naujosios kartos „Siri“ variklis iš arti: „iOS 27“ aparatiniai reikalavimai ir programinės inovacijos

Ilgus metus „Siri“ buvo linksniuojama kaip technologijų pasaulio podukra, nespėjanti paskui dinamiškus konkurentų žingsnius. Tačiau naujausia „iOS 27“ operacinė sistema, remiantis rinkos analitikų ir duomenimis, žymi visišką skaitmeninio asistento architektūros perkūrimą, kuris priartina jį prie pažangiausių rinkos pokalbių robotų galimybių. Tai nebėra tiesiog kosmetinis atnaujinimas – po kapotu slepiasi hibridinis neuroninis tinklas, reikalaujantis bekompromisės aparatinės įrangos galios ir iš esmės keičiantis vartotojų elgsenos su išmaniaisiais telefonais taisykles.

Šis ambicingas technologinis šuolis vartotojams atneša ne tik stulbinantį konteksto supratimą, bet ir griežtą techninę atranką. Norint, kad dirbtinis intelektas veiktų sklandžiai ir be uždelsimo, „Apple“ hibridinė sistema sujungia tradicinius mašininio mokymosi algoritmus su didžiaisiais kalbos modeliais (LLM), atskiriant greitas lokalias užduotis nuo gilių semantinių užklausų. Tokia struktūra lemia, jog visiškas funkcionalumas, įskaitant nuolatinę pokalbių istoriją bei dokumentų analizę, tampa prieinamas tik itin ribotam įrenginių ratui, paliekant senesnių „iPhone“ savininkus už borto.

Geležies evoliucija ir atminties badas

Pagrindinis „iOS 27“ variklis remiasi principu, kad jautriausios vartotojo operacijos turi būti apdorojamos pačiame įrenginyje, užtikrinant privatumą be nuolatinio duomenų siuntimo į serverius. Kaip nurodoma oficialiame Apple Machine Learning Research puslapyje, lokalūs baziniai modeliai yra optimizuoti veikti su „Apple Silicon“ neuroniniais procesoriais (NPU). Tai sukuria milžinišką spaudimą telefono operatyviajai (RAM) ir pastoviajai atminties talpai. Pradiniai lokalūs modeliai jau dabar reikalauja reikšmingų resursų – remiantis technologijų apžvalgomis, dirbtinio intelekto funkcijų palaikymui telefone tenka rezervuoti iki 7 GB pastoviosios vietos, o operatyviosios atminties kartelė yra pakelta taip aukštai, kad senesni nei „iPhone 15 Pro“ modeliai tiesiog nepajėgia apdoroti konteksto realiuoju laiku.

Ši aparatinė atskirtis lemia nevienodą vartotojų patirtį. Kol naujesnių flagmanų savininkai džiaugiasi sklandžia ekrano turinio analize ir momentiniu užduočių vykdymu, senesnių procesorių savininkams tenka susidurti su apkarpytomis funkcijomis arba padidėjusia priklausomybe nuo debesų kompiuterijos. „Apple“ bando sušvelninti šį perėjimą naudodama „Private Cloud Compute“ architektūrą, tačiau fiziniai aparatinės įrangos apribojimai diktuoja savo sąlygas – norint patirti tikrąją „iOS 27“ evoliuciją, naujos kartos lustai su išplėstu NPU branduolių skaičiumi yra tiesiog būtini.

Nuo architektūros iki milisekundžių: našumo metrika

Sistemos sparta įrodo, kad inžineriniai sprendimai pasiteisino praktikoje. „iOS 27“ variklis pasižymi dramatiškai sumažėjusiu pirmojo žodžio generavimo laiku (angl. time-to-first-token), kas leidžia „Siri“ pertraukti vartotoją ar reaguoti į gyvą kalbą be anksčiau buvusio kelių sekundžių dvejojimo. Naudojant pažangias modelių kvantavimo technikas, inžinieriams pavyko sumažinti parametrų svorį neprarandant atsakymų tikslumo, todėl vietinės užklausos apdorojamos per keliasdešimt milisekundžių. Kai lokalios galios nepakanka, sistema dinamiškai perjungia užduotis į saugius serverius, naudosiančius integruotus išorinius modelius, tokius kaip „Google Gemini“ ar kiti partnerių įrankiai, taip užtikrinant, kad sudėtingi analitiniai klausimai gautų išsamius atsakymus akimirksniu.

Aukštosios technologijos užkulisiuose: „iOS 27“ operacinėje sistemoje debiutuojanti naujos kartos „Siri“ architektūra žymi esminį lūžį, kai tradicinis programinis kodas užleidžia vietą dinamiškam neuroninių tinklų valdymui. Sistemų inžinieriams didžiausias iššūkis buvo ne paties didžiojo kalbos modelio (LLM) integravimas, o gebėjimas jį suspausti taip, kad jis tilptų į ribotą išmaniojo telefono aparatinę atmintį ir nealintų akumuliatoriaus. Šiam tikslui „Apple“ pritaikė pažangų dinaminį modelių kvantavimą (angl. mixed-precision quantization), kuris leidžia svorinius koeficientus realiuoju laiku keisti tarp 4 bitų ir 8 bitų tikslumo, priklausomai nuo užklausos sudėtingumo bei esamos procesoriaus temperatūros.

Siekdama išvengti dažno duomenų keitimo tarp operatyviosios (RAM) ir pastoviosios atminties, kas neišvengiamai sukeltų pastebimą sistemos vėlavimą, „Apple“ inžinerinė komanda perrašė „Unified Memory Architecture“ (UMA) atminties valdymo posistemę. Naujasis „iOS 27“ branduolys naudoja tiesioginį atminties atvaizdavimą (angl. memory-mapped files / mmap), leidžiantį neuroniniam procesoriui (NPU) pasiekti modelio svorius tiesiai iš sparčiosios NVMe atminties, apeinant tradicinius virtualios atminties puslapių keitimo algoritmus. Tai reiškia, kad „Siri“ konteksto aktyvavimas trunka vos kelias milisekundes, nes sistemai nereikia iš anksto įkelti gigabaitų informacijos į aktyviąją RAM atmintį.

Kitas kritinis optimizavimo sluoksnis slepiasi užklausų srautinio apdorojimo valdyme, kurį atlieka specializuotas žemo lygio asamblėjos lygmens kompiliatorius, integruotas į „Metal“ grafinę sąsają. Kai vartotojas pateikia užklausą, sistema nenaudoja standartinių procesoriaus gijų, o deleguoja užduotį asimetriniam NPU branduolių masyvui per optimizuotus tenzorių operatorius. Tokia architektūra leidžia lygiagrečiai vykdyti kelis procesus: kol vieni branduoliai analizuoja ekrane esantį vaizdą, kiti jau generuoja sekančio žodžio tikimybinį pasiskirstymą, užtikrindami nepertraukiamą ir visiškai natūralų asistento atsakymų srautą.

Galiausiai, hibridinis užduočių paskirstymo algoritmas nuolat stebi tinklo pralaidumą ir lokalių skaičiavimų kainą. Jeigu semantinė užklausa reikalauja gilesnių žinių, kurios viršija lokalaus 3 milijardų parametrų modelio kompetenciją, „iOS 27“ aktyvuoja kriptografiškai izoliuotą žetonų (angl. tokens) perdavimą į „Private Cloud Compute“ aplinką. Šis procesas yra suprojektuotas taip, kad vietinis NPU atlieka pirminį teksto tokenizavimą ir embeddingų generavimą, o į serverį siunčiami tik matematiškai anoniškinti vektoriai, kas leidžia išlaikyti maksimalų privatumo lygį ir dramatiškai sumažinti tinklo duomenų srauto apkrovą.

Technologinio elito kūrimas ir rinkos realybė

Žvelgiant giliau į detales: už skambių marketingo frazių apie dirbtinio intelekto revoliuciją slepiasi pragmatiška „Apple“ strategija, kurianti akivaizdžią vartotojų segmentaciją. Pristatydama „iOS 27“, kompanija bando įtikinti rinką, kad radikalūs aparatiniai apribojimai yra nulemti išskirtinai techninių reikalavimų, tokių kaip NPU pralaidumas ar operatyviosios atminties stoka. Visgi technologijų analitikai pastebi tam tikrą prieštaravimą – rinkoje esantys konkurentų įrenginiai su mažesniais RAM kiekiais sugeba atlikti panašias LLM užklausas, naudodami lankstesnius hibridinius modelius. Tai verčia kelti prielaidą, kad griežta atskirtis yra ne tik inžinerinis būtinumas, bet ir puikiai apgalvotas ciklinis paskatinimas atnaujinti dar visiškai funkcionalius telefonus.

Šis dirbtinis technologinis barjeras sukuria paradoksalią situaciją ilgalaikiams prekės ženklo palaikytojams. Vartotojai, prieš dvejus ar trejus metus investavę tūkstančius eurų į aukščiausios klasės „Pro“ modelius, dabar susiduria su realybe, kurioje jų įrenginiai traktuojami kaip techniškai pasenę atliekant kasdienes išmaniąsias užduotis. Tokia strategija gali atsisukti prieš pačią kompaniją, ypač Europos ir Azijos rinkose, kur vartotojai vis labiau vertina įrenginių ilgaamžiškumą ir tvarumą. Kai programinės įrangos inovacijos tampa prieinamos tik siauram pačių naujausių flagmanų savininkų ratui, kyla rizika susilpninti vartotojų lojalumą ekosistemai.

Be to, priklausomybė nuo „Private Cloud Compute“ architektūros atveria naujų infrastruktūrinių klausimų. Nors lokalus apdorojimas pateikiamas kaip privatumo garantas, sudėtingesnėms užklausoms vis tiek reikalingi išoriniai serverių resursai, o tai sukuria papildomą vėlavimą regionuose, esančiuose toli nuo pagrindinių duomenų centrų. Tai reiškia, kad vartotojo patirtis tampa priklausoma ne tik nuo telefono procesoriaus, bet ir nuo globalių serverių tinklo apkrovos bei vietinio interneto greičio. Galiausiai, „iOS 27“ nubrėžia aiškią ribą: ateities išmanusis telefonas nebėra tik autonominis įrenginis, tai yra nuolat brangstantis bilietas į uždarą skaičiavimo galios klubą.

„Galiausiai sulaukėme laikų, kai telefonas tapo protingesnis už jo savininką, tačiau norint, kad jis tai parodytų, vis tiek teks kasmet susimokėti už naują modelį – juk tikrasis dirbtinio intelekto pasiekimas yra sugebėjimas įtikinti mus, kad be 4 bitų kvantavimo mūsų rytinė kava tiesiog nebus pakankamai išmani.“

Redaktorius Artūras Malašauskas, DI sistemų integratorius, sukaupęs daugiau nei 20 metų patirties kuriant gamybinio lygio žiniatinklio inžinerijos sprendimus. Jis projektavo, diegė ir plėtė verslo klasės „Python“/„PHP“ sistemas logistikos, SaaS bei viešojo sektoriaus klientams. Pastaruosius metus jis specializuojasi išskirtinai DI integracijų srityje: diegia atvirojo kodo didžiuosius kalbos modelius (LLM), kuria generatyvinių medijų (vaizdo, garso, video) srautus bei projektuoja daugiagentines darbo eigas realioms gamybinėms aplinkoms. Jo standartas: atkuriamumas, saugumas ir ekonomiškai efektyvi išvestis – jokio „vaporware“. Artūras dokumentuoja bei vertina naujus DI įrankius, atskirdamas patvirtintas galimybes nuo rinkodarinio triukšmo. Techninis redaktorius svetainėse: ai-naujienos.lt, ai-verslas.lt, muza-ai.eu. Susisiekite per „LinkedIn“.