SAK · PRODUKTER_
AMD kjøper Taalas for å øke AI-inferensytelsen ved å grave modeller i silisium
AMD har kjøpt AI-chipstartupenen Taalas, som spesialiserer seg på model-specific integrated circuits (MSIC) hvor modellvektene etses direkte inn i silisium i stedet for å lagres i HBM. Taalas' første chip HC1 oppnådde 16.960 tokens per sekund for Llama 3.1 8B – 48 ganger raskere enn Nvidias GPU-er – og selskapet planlegger en HC2-versjon med opptil 20 milliarder parametere.
HVORFOR DET BETYR NOE
Dette er en strategisk grep fra AMD for å utfordre Nvidias dominans innen AI-maskinvare og tilbyr drastisk forbedret inferensytelse for spesifikke modeller, selv om det kommer med begrensningen at chipene blir låst til én modell per design.
KILDER
MASKINGENERERT SAMMENDRAG Sammendraget er skrevet maskinelt fra kildene under. Vi sorterer og forklarer — men vi er en inngang til feltet, ikke en fasit. Sjekk kilden når noe betyr noe for deg.