Anthropic har publisert FlashProve, en forskningsprototype som skal gjøre det mulig å kontrollere hvilken KI-modell som faktisk har produsert et bestemt svar. Målet er å løse et voksende tillitsproblem i markedet for kunstig intelligens: Hvordan kan en kunde, revisor eller forsker vite at svaret virkelig kommer fra modellen leverandøren har lovet å bruke?
Systemet bygger på såkalt bevisbar inferens. Leverandøren forplikter seg først kryptografisk til én bestemt modellversjon, gjennom et digitalt fingeravtrykk av modellens vekter. Når modellen senere svarer på en forespørsel, kan leverandøren sende med et kryptografisk bevis som viser at nettopp denne modellen genererte svaret. Den som mottar svaret, kan kontrollere beviset uten å få tilgang til de proprietære modellvektene.
Anthropic beskriver FlashProve som en prototype basert på nullkunnskapsbevis, en kryptografisk metode som kan demonstrere at noe er sant uten å avsløre informasjonen som ligger bak. Det kan i teorien være nyttig for selskaper som kjøper KI-tjenester via mellommenn, modellrutere eller skytjenester. De kan da få en sterkere garanti for at en billigere eller annerledes modell ikke er blitt byttet inn underveis.
Teknologien kan også få betydning for uavhengige tester og regulering. Når en modell blir sikkerhetstestet før eller etter lansering, er det avgjørende å vite at testerne faktisk undersøker samme modell som kundene får tilgang til. Anthropic peker dessuten på mulige bruksområder innen revisjon, krav til modellbruk og dokumentasjon av hvilke KI-systemer som ble brukt i arbeidsflyter med høy risiko.
Det er likevel viktige begrensninger. FlashProve beviser ikke at et svar er sant, sikkert, nyttig eller lovlig. Det beviser heller ikke at en modell har fulgt en bestemt instruksjon på en god måte. Systemet skal kun gi en kryptografisk garanti for at svaret ble produsert av den modellen leverandøren på forhånd har bundet seg til.
Ytelsen er foreløpig kostbar. I Anthropics demonstrasjon med Llama 4 Maverick, en åpen modell med 400 milliarder parametere i en blanding-av-eksperter-arkitektur, kunne én Nvidia H100-brikke generere bevis med en hastighet på om lag 110 symboler per sekund. Hvert bevis for en forespørsel på 1.024 symboler var rundt 19 MB. Anthropic oppgir samtidig at bevisproduksjonen krevde betydelig mer regnekraft enn vanlig KI-kjøring.
FlashProve er publisert med kildekode og teknisk dokumentasjon, men er ikke et ferdig produkt for vanlige Claude-brukere. GitHub-prosjektet er merket som en forskningsartefakt som ikke vedlikeholdes. Anthropic understreker også at arbeidet representerer et mellomstadium, ikke en komplett løsning som allerede er tatt i bruk i selskapets tjenester.
Lanseringen kommer samtidig som teknologibransjen arbeider med flere former for sporbarhet for KI-innhold. Vannmerking og Content Credentials kan vise at tekst eller filer kan være KI-generert, mens FlashProve retter seg mot et annet spørsmål: om en bestemt respons faktisk ble laget av den konkrete modellen som leverandøren hevder å ha brukt. Sammen kan slike teknologier gi bedre kontroll, men de vil ikke alene avgjøre om KI-svar er korrekte eller til å stole på.