EntropyChat presenterer seg som en AI-drevet kreativitetstjeneste for brukere som vil bort fra de mest opplagte forslagene fra språkmodeller. I stedet for å be en AI-assistent om ett «beste» svar, skal tjenesten generere flere tydelig forskjellige alternativer og gi hvert av dem en oppgitt sannsynlighetsskår.
Målet er å prioritere ideer som modellen vurderer som mindre vanlige eller forventede. Ifølge EntropyChat skal forslag med en sannsynlighet under 10 prosent få en sentral rolle. Tjenesten beskriver dette som en slags kreativitetshjul: Jo lavere sannsynlighet, desto lenger bort fra standardløsningen beveger forslaget seg.
Verktøyet er rettet mot blant annet navneutvikling, historiefortelling, innholdsideer, problemløsing, markedsføring og promptutvikling. Det kan være attraktivt for brukere som opplever at vanlige AI-svar ofte ender i de samme formuleringene, konseptene og anbefalingene.
Grunnideen er det EntropyChat kaller «verbalized sampling». Teknikken går ut på å be modellen uttrykke et anslag for hvor sannsynlig et svar er, i stedet for bare å levere svaret den mener er mest relevant. Når modellen får en slik oppgave, kan den i større grad hente fram alternativer som normalt taper mot velkjente og trygge svar.
Dette bygger på et kjent problem i generativ AI: Språkmodeller er i utgangspunktet trent til å forutsi sannsynlige neste ord og formuleringer. Det gir ofte sammenhengende og nyttige svar, men kan også føre til at ideer blir like hverandre. EntropyChat hevder at verbalized sampling kan gi om lag dobbelt så stor kreativ variasjon som vanlig prompting, samtidig som faktainnholdet bevares.
Tjenestens forklaring peker også på menneskelige vurderingsmønstre. Forskning på blant annet ren eksponeringseffekt, tilgjengelighetsheuristikk og prosesseringsflyt viser at mennesker ofte foretrekker det velkjente, lett tilgjengelige og lett forståelige. Slike preferanser kan indirekte påvirke AI-systemer når modeller finjusteres med menneskelige vurderinger av hva som oppleves som gode svar.
Samtidig er det grunn til å tolke sannsynlighetstallene med varsomhet. En skår på for eksempel 5 prosent betyr ikke nødvendigvis at en idé er målbart unik i befolkningen, at den er kommersielt ny, eller at den er bedre enn et mer konvensjonelt forslag. Slike tall er først og fremst modellens egen vurdering av hvor forventet et svar er gitt forespørselen og modellens mønstre i treningsdataene.
Forskning på språkmodellers usikkerhet viser dessuten at modeller kan ha en viss evne til å anslå hva de vet og ikke vet, men at slike selvvurderinger ikke alltid er perfekt kalibrert. Den mest interessante bruken av EntropyChat kan derfor være som et verktøy for å utvide idérammen, ikke som en autoritet som kan bevise hvor original en idé er.
For kreative team kan løsningen likevel ha praktisk verdi. I en idéfase er det ofte viktigere å få fram et bredt og overraskende utvalg enn å finne én umiddelbar sluttløsning. Ved å kombinere lavsannsynlighetsforslag med vanlig faglig vurdering, faktasjekk og testing mot målgruppen, kan brukerne få flere spor å jobbe videre med.