Hva Munin er
Munin er den samme finjusterte modellen som Hugin, kjørt for hastighet. Den bruker mindre tid på å tenke før den begynner å svare, og passer når du vil ha et svar med én gang framfor et gjennomarbeidet et.
Den deler vekter og maskinvare med Hugin. Forskjellen ligger i konfigurasjonen.
Tiltenkt bruk
Munin er for de korte rundene: raske spørsmål, omformuleringer, oppklaringer. Når spørsmålet krever at modellen faktisk tenker seg om, bytt til Hugin.
- · Korte spørsmål der ventetid er verre enn presisjon
- · Omformuleringer og oppsummeringer du leser over selv
- · Å teste hvordan en lokal modell kjennes ut i praksis
Utenfor virkeområdet
Det samme gjelder som for Hugin, og med litt større margin: Munin bruker mindre tid på å tenke, så feilene kommer raskere.
- · Juridiske, medisinske eller økonomiske råd
- · Behandling av personopplysninger eller klientdata
- · Beslutninger om ansettelse, kreditt, helse eller ytelser
- · Alt som skal stå uten at et menneske leser over
Begrensninger
Munin er en liten modell. Fire milliarder parametere, kvantisert til fire bits for å få plass på maskinvaren vi kjører den på. Det er et bevisst bytte: vi prioriterer at modellen står i Norge på maskinvare vi eier, framfor at den er størst mulig. Finjusteringen henter inn en del på norsk, men den opphever ikke størrelsen. Konsekvensen er at den taper mot de store sky-modellene på oppgaver som krever bred faktakunnskap, lange resonnementer eller presis kode.
- · Den finner på ting. Sjekk alt som skal brukes til noe som betyr noe.
- · Kunnskapen er generell og har en kunnskapsgrense. Den kjenner ikke deres interne dokumenter.
- · Norsk bokmål er svakere enn engelsk, og nynorsk er svakere igjen.
- · Regnestykker, datoer og paragrafhenvisninger er blant de svakeste områdene.
- · Den husker ingenting mellom samtaler, fordi vi ikke lagrer dem.
Data og personvern
Identisk med Hugin: samtaler lagres ikke, det finnes ingen konto og ingen historikk. Aggregert bruk og eventuell tommel opp eller ned lagres. Ratebegrensning per IP-adresse og Turnstile foran.
Evaluering
Samme benchmark som Hugin. Oppgavene, vektingen og metodene ligger åpent på TenkiBench, og vi måler oss selv med de samme oppgavene vi måler alle andre med.