SAK · MODELLER_
Nye arkitekturer gjør transformermodeller mer hukommelseseffektive
Carnegie Mellon og Meta introduserer STEM, en metode som erstatter deler av transformer-arkitektur med token-indekserte embeddings for å muliggjøre CPU-offloading. Samtidig lanserer Zhipu AI en kompakt 30B-modell (GLM-4.7-Flash) optimalisert for kodegenerering, og Sakana AI presenterer adaptive posisjonering for forbedret robusthet på lange kontekster.
HVORFOR DET BETYR NOE
Disse framskrittene adresserer en av transformers største flaskehalser—minne og beregningskompleksitet—og viser en trend mot små, effektive modeller som kjører raskt lokalt. Det har betydning for praktisk deployment og reduserer avhengigheten av store skyressurser.
KILDER
MASKINGENERERT SAMMENDRAG Sammendraget er skrevet maskinelt fra kildene under. Vi sorterer og forklarer — men vi er en inngang til feltet, ikke en fasit. Sjekk kilden når noe betyr noe for deg.