En medisinsk redaktør åpner Contentful – det samme publiseringsverktøyet hun alltid har brukt – og finner artikkelen hun skal gjennomgå allerede ferdig annotert: påstander som trenger kildesjekk er markert, forslag til korreksjoner ligger klare med direkte lenker til fagfellevurderte studier og retningslinjer fra regulatoriske organer. Hun trenger ikke lete. Hun trenger ikke starte på blank side.

Flo Health er selskapet bak den ledende appen for kvinnehelse, med over 420 millioner brukere globalt. Ingeniørteamet har publisert en teknisk gjennomgang på AWS sin ML-blogg av hvordan de tok et proof of concept fra AWS Generative AI Innovation Center og bygget det om til et produksjonsklart system.

Flaskehalsen som ikke lot seg løse med mer folk

Utfordringen Flo Health beskriver er gjenkjennelig for enhver virksomhet som produserer faglig innhold i regulerte bransjer: kvalifiserte fagfolk er knappe, rekruttering tar tid, og å skalere ved å ansette er verken bærekraftig eller økonomisk forsvarlig. Hver artikkel krevde i snitt syv arbeidsdager med fakturering mot kildelitteratur, referansesjekk og vurdering mot en tistegs sjekkliste for medisinsk nøyaktighet.

Generiske AI-verktøy var ikke svaret. Flo Health peker eksplisitt på hallusinasjoner – at modellen genererer informasjon uten dekning i underliggende kilder – som en uakseptabel risiko når brukerne stoler på innholdet for å forstå sin egen helse. Løsningen måtte bygges spesifikt rundt selskapets egne retningslinjer og kildestruktur.

Tre lag, ikke én stor modell

Kjernen i arkitekturen er det Flo Health kaller MACROS – et rammeverk utviklet sammen med AWS. Innholdet valideres i tre lag: først mot interne medisinske retningslinjer, deretter mot klarerte eksterne kilder som kliniske oppslagsverk og fagfellevurderte tidsskrifter, og til slutt av et menneske som ser AI-annotert innhold i et kjent grensesnitt.

I det første og andre laget kjører selskapet AI-dommere – separate, spesialiserte store språkmodeller som hver vurderer én bestemt dimensjon: medisinsk nøyaktighet, juridisk etterlevelse, merkevaretonalitet og lignende. Å splitte oppgaven i slike spesialistroller, fremfor å sende alt til én altomfattende prompt, gjør at hvert vurderingsledd kan forbedres uavhengig av de øvrige. Flo Health oppgir at dette reduserte gjentakende feil med over 70 prosent.

Modellvalget er bevisst lagdelt: for lette klassifiseringsoppgaver brukes Claude Haiku fra Anthropic via Amazon Bedrock, mens mer kompleks medisinsk resonnering og innholdsgenerering overlates til Claude Sonnet-modellene. Kostnad og kapasitet fordeles dit de trengs.

RAG mot hallusinasjoner

For innholdsgenerering bruker systemet RAG – Retrieval-Augmented Generation – der modellen henter relevant informasjon fra en kuratert kunnskapsbase før den genererer tekst. Når systemet skal utforme innhold om et helsefaglig tema, henter det gjeldende retningslinjer, godkjente maler og medisinske referanser fra en dokumentbase lagret i Amazon S3 og mater disse inn i modellens kontekst. Alle kilder modellen har brukt, lagres synlig ved siden av det genererte innholdet, slik at medisinsk ekspert kan sjekke referansene uten manuelt kildesøk.

Flo Health trekker frem to tekniske funn fra produksjonssetting: YAML viste seg mer robust enn JSON som utdataformat – færre ugyldige svar og enklere feilsøking. Og konkrete eksempler ga konsekvent bedre resultater enn rene regelformuleringer. Å vise modellen hva god output ser ut, fremfor å liste opp hva den skal unngå, reduserte feil vesentlig.

Menneskelig kontroll som designprinsipp

Det tydeligste strategiske valget i Flo Health-casen er at automatiseringen bevisst ble begrenset. AI-systemet foreslår, flagger og forbereder – men hvert innholdselement avsluttes med en menneskelig beslutning. Eksperten ser hvilke regler som ble anvendt og hvilke kilder som er hentet, og kan velge mellom AI-forslaget, en redigert versjon eller å beholde originalen. Dette er ikke bare en UX-prioritering; det er en regulatorisk nødvendighet.

For healthtech-selskaper er dette designprinsippet direkte relevant under EU AI Act (forordning 2024/1689). Forordningen klassifiserer de fleste AI-systemer brukt i medisinsk beslutningstøtte som høyrisiko-systemer, med krav om dokumentert menneskelig tilsyn. De fleste bestemmelsene for høyrisikosystemer trer i kraft fra august 2026, mens AI innebygd i regulerte produkter som medisinsk utstyr er utsatt til august 2028 etter en politisk avtale i EU fra mai 2026. EU AI Act er under EØS-behandling og er foreløpig ikke innlemmet i norsk rett, men norske selskaper som opererer i EU-markedet er allerede berørt av kravene.

Clifford Chance-partnere som jobber med helsetech-klienter har uttalt at det ikke er behov for å bygge en helt ny AI-etterlevelsesstruktur – de fleste selskaper kan tilpasse eksisterende styringsrammeverk. Det forutsetter imidlertid at man har kartlagt hvilke AI-systemer som faller under hvilke risikoklasser.

Fra prosjekt til produksjon

Flo Health beskriver fem anbefalinger for organisasjoner som vurderer lignende implementeringer: start med klart dokumenterte standarder, design for kontinuerlig læring fra dag én, mål både effektivitet og kvalitet, invester i brukeropplevelse, og planlegg for gradvis utrulling der tillit bygges gjennom dokumenterte resultater.

Den siste anbefalingen er særlig verdt å merke seg. Flo Health valgte å integrere AI gradvis i ekspertens eksisterende arbeidsflyt – i kjente verktøy, med synlig resonnering – fremfor å lansere et parallelt system ekspertene måtte bytte til. Tillit til systemet ble bygget gjennom track record, ikke intern markedsføring.

Selskapet utforsker nå konfidensscoring – automatisert prioritering av innhold til rask eller grundig gjennomgang basert på etterlevelseshistorikk og retningslinjekompleksitet – og vurderer å utvide systemet til å dekke visuelt innhold som infografikk og illustrasjoner.