SAK · VERKTOY_
Forsker får 29 millioner parameter-modell til å kjøre på åtte-dollar mikrokontroller
En utvikler har lyktes med å kjøre en LLM med 28,9 millioner parametere på en ESP32-mikrokontroller som koster omkring åtte dollar. Prosjektet er gjort tilgjengelig som open source på GitHub.
HVORFOR DET BETYR NOE
Dette viser at avansert AI-funksjonalitet kan flyttes til rimelig, lavenergi maskinvare – noe som åpner for AI-applikasjoner på IoT-enheter uten nettverkstilkobling eller skytjenester.
KILDER
MASKINGENERERT SAMMENDRAG Sammendraget er skrevet maskinelt fra kildene under. Vi sorterer og forklarer — men vi er en inngang til feltet, ikke en fasit. Sjekk kilden når noe betyr noe for deg.