SAK · FORSKNING_
«Sannhet er ikke en retning»: kritikk av LLM-probe-metoder
Artikkelen analyserer Tarski-teoremer og argumenterer mot at sannhet i språkmodeller kan representeres som en enkelt lineær retning i modellas vektorrom. Dette utfordrer populære probing-teknikker som forutsetter at sannhetsrepresentasjoner er entydig identifiserbare.
HVORFOR DET BETYR NOE
Hvis sannhet ikke er unidireksjonell slik tidligere forskning har antatt, kreves det bedre metoder for å forstå og påvise hva språkmodeller faktisk «vet» eller «tror» – vesentlig for tillid og sikkerhet.
KILDER
MASKINGENERERT SAMMENDRAG Sammendraget er skrevet maskinelt fra kildene under. Vi sorterer og forklarer — men vi er en inngang til feltet, ikke en fasit. Sjekk kilden når noe betyr noe for deg.