( ← alle prosjekter )

HealthTech

Vi hjalp MediMind, en norsk helseteknologi-startup med leger på eiersiden, med å bygge sin egen AI-kapabilitet: modeller finjustert på gründernes egen fagkunnskap, som kjører på en zero-trust-plattform der pasientdata aldri forlater Norge.

Klient
MediMind AS
Varighet
Langsiktig, pågående
Resultat
GDPR · NIS2 · HIPAA
MediMind AS

Domener

Uavhengig AIFinjustering av modellerMLOps og evalueringZero-trust-sikkerhetGDPR / NIS2 / HIPAA

Verktøy

  • Kubernetes
  • Zero-trust
  • HSM (FIPS 140-2 L3)
  • SLSA 3
  • Selv-hostede modeller
  • Finjustering

Resultat

  • ( r1 ) MediMind kjører sin egen AI, på sin egen maskinvare, inne i norsk jurisdiksjon. Ingen pasientdata forlater landet, og ingen eksterne API-er ligger i kjeden.
  • ( r2 ) Små finjusterte modeller matcher store, generelle modeller på oppgaven, til en brøkdel av kostnaden og forsinkelsen, på infrastruktur klienten kontrollerer.
  • ( r3 ) Hver ekspertrettelse blir nå automatisk til treningsdata, og ingen ny modell settes i drift før den passerer en ekspertkalibrert, holdt-ut evalueringsport.
  • ( r4 ) En zero-trust-plattform bygget forbi GDPR, NIS2 og HIPAA: FIPS 140-2 Level 3-nøkkelbeskyttelse, trusselavslutning på kjernenivå, en SLSA Level 3-forsyningskjede, og et samlet revisjonsspor som møter 72-timers varslingsfrist ved brudd.
  • ( r5 ) Grunnlagt og medeid av praktiserende leger kan MediMind vise en bedriftskunde eller en tilsynsmyndighet nøyaktig hvordan AI-en trenes, kjøres og sikres, med en vei til FedRAMP åpen.
( 01 - bakgrunn )

MediMind er en norsk helseteknologi-startup, grunnlagt og medeid av en gruppe praktiserende leger som har lagt både egne penger og eget faglig skjønn i selskapet. De trengte AI som var god nok til at lege-eierne selv ville stole på den, på pasientdata som etter loven ikke kan forlate landet. Generell AI leid fra en stor utenlandsk leverandør stryker på begge. Så vi hjalp dem med å bygge sin egen, og plattformen til å kjøre den på.

Dataene kan ikke forlate landet

I europeisk helsevesen er datasuverenitet et lovkrav, ikke en preferanse. En leverandør med hovedkontor i utlandet kan tvinges til å utlevere data uansett hvilken region serveren står i, så «tilgjengelig i EU» er ingen løsning. Det utelukket å sende pasientdata til et generelt modell-API, og pekte på ett svar: modeller MediMind kjører selv, på infrastruktur de kontrollerer.

Eierne er domeneekspertene

De som eier MediMind er de som skulle vurdere resultatet hver dag. Det setter en høy standard. Godt nok til en demo er ikke godt nok for en lege som har satt navnet sitt på selskapet. Kvaliteten måtte bygges mot deres standard og måles mot den, ikke mot en generell rangeringsliste.

Tillit må bevises, ikke påstås

I et regulert domene betyr en kvalitetsscore lite uten en pålitelig, repeterbar måte å måle den på, og en plattform du kan bevise er sikker. Både modellene og grunnen de kjører på måtte holde for en revisor, ikke bare for en presentasjon.

( 02 - inne i systemet )

To ting måtte være sanne samtidig: modeller gode nok for dem som eier selskapet, og en plattform sikker nok til å kjøre dem på pasientdata. Vi bygde begge, og MediMind eier begge.

( modellene · finjustering ) Små modeller, finjustert til frontlinjekvalitet på oppgaven sin

Vi flyttet MediMind bort fra leide, generelle API-er og over på små åpne modeller de kjører selv. Finjustert på gründernes egen fagkunnskap når en liten modell kvaliteten til en stor, generell modell på deres avgrensede oppgave, til en brøkdel av kostnaden og forsinkelsen, og hver forespørsel blir på maskinvare de kontrollerer. Å eie modellen er det som gjør suvereniteten ekte: det finnes ikke noe eksternt API noe sted i kjeden.

( modellene · datasløyfe ) Ekspertenes rettelser er treningsdataene

Den egentlige verdien er ikke modellen, det er sløyfen som stadig forbedrer den. Vi bygde verktøyet der en domeneekspert gjennomgår modellens resultat og retter det, og hver rettelse blir et merket treningseksempel. De dataene mater neste runde med finjustering, som gir bedre resultat, som trenger færre rettelser. De som kjenner faget lager treningsdataene mens de jobber, automatisk. En konkurrent som leier et API kan ikke kopiere det, for de ser aldri rettelsene.

modellen blir bedre mens ekspertene bruker den I drift modellen kjører live Ekspert retter gjennomgått og rettet Merkede data hver rettelse tatt vare på Finjuster modellen blir bedre
( hver rettelse en ekspert gjør blir til treningsdata )
( modellene · evaluering ) En evalueringsrigg som er det egentlige fortrinnet

Nye modeller settes ikke i drift fordi de ser bedre ut i en demo. Vi bygde MediMind en evalueringsrigg de eier: ekspertkalibrert, alvorlighetsvektet scoring mot et holdt-ut sett modellen aldri har sett, der den automatiske dommeren selv er validert mot ekspertetiketter før den stoles på. En kandidatmodell kjører stille mot ekte trafikk i skyggemodus, og settes bare i drift når den passerer porten. Den overlever hvert modellbytte, og det er den som holder kvaliteten ærlig. En tidlig lærepenge gjorde poenget: en smigrende benchmark villedet oss stille helt til vi fikset selve målingen, og deretter satte hvert tall på nytt grunnlag.

kandidatmodell
( evalueringsrigg )
  • holdt-ut sett
  • alvorlighetsvektet
  • dommer validert
sett i driftholdrull tilbake
( en kandidat settes bare i drift når den passerer porten )
( plattformen · zero-trust ) En zero-trust-plattform for pasientdata, bygget forbi GDPR, NIS2 og HIPAA

Å eie modellene betyr bare noe hvis grunnen under dem er til å stole på. Vi bygde MediMind en zero-trust Kubernetes-plattform for pasientdata, konstruert til GDPR, NIS2 og HIPAA, og flere steder forbi dem. Hver tjeneste autentiserer og krypterer mot hver annen med gjensidig TLS. Pasientdata krypteres per post, og nøklene ligger i en maskinvaresikkerhetsmodul sertifisert til FIPS 140-2 Level 3, samme standard som banker og forsvar bruker. Ingenting stoler på nettverket det står på, og tilgang er nektet som standard overalt.

( zero-trust · forsvar i dybden ) kant & TLSmTLS overaltidentitet & autorisasjonnettverkssegmenteringkjøretidshåndhevingsignert forsyningskjedekryptering · HSM-nøkler pasientdata
( lag med forsvar som omslutter pasientdataene i kjernen )
( plattformen · beviselig sikkerhet ) Sikkerhet som handler raskere enn en angriper, på programvare du kan bevise

De fleste systemer oppdager en trussel og varsler et menneske. Dette avslutter en ondsinnet prosess på kjernenivå på mikrosekunder, før data forlater maskinen. Det finnes ingen langlevde passord noe sted: arbeidslast-nøkler utløper på en time, utrullingstokens på ti minutter, så en stjålet hemmelighet er død før den kan brukes. Og hver utgivelse er kryptografisk signert og uavhengig verifiserbar til SLSA Level 3, så klyngen nekter å kjøre programvare den ikke kan bevise kom fra pipelinen.

( plattformen · suverenitet ) Alt inne i Norge, og beviselig for en tilsynsmyndighet

Alt kjører selv-hostet inne i norsk jurisdiksjon: inferens, trening, merking, logger, sikkerhetskopier. Ingenting krysser grensen. Sju revisjonsstrømmer samles i én visning, pasientidentifikatorer fjernes, og alt tas vare på i et år, så en hendelse kan rekonstrueres og rapporteres innenfor 72-timersfristen i loven, og en tilsynsmyndighet eller en bedriftskunde kan få en levende visning i stedet for et løfte. Den klarer sikkerhetsspørreskjemaene som avgjør bedriftsanbud, med en vei til FedRAMP allerede åpen.

( norsk jurisdiksjon )
inferenstreningmerkingevalueringloggersikkerhetskopier
( inferens, trening, merking, logger og sikkerhetskopier blir alle i Norge )
( 03 - resultat )

MediMind eier hele stacken: modeller som blir bedre etter hvert som ekspertene bruker dem, på en plattform de kan bevise er sikker, helt og holdent inne i Norge.

( neste prosjekt ) K33 Loans En regulert plattform for å låne fiat mot Bitcoin og Ethereum - desentraliserte protokoller med et meglerhus' depot og etterlevelse.