Klinikstöd-sökningen: vad som gick fel, och vad jag gjorde.
Alla system har luckor och alla utvecklingsprojekt stöter på problem. Här är ett konkret fall ur min egen utveckling, återgivet i sin helhet. Synappsen har ännu ingen enhet i skarp drift, och fallet är hämtat ur utvecklingen, inte från en kunds verksamhet.
Klinikstödet ska bara sammanfatta godkända svenska källor. En första version byggde på att instruera AI-modellen att hålla sig till listan. Ändå citerade den i vissa fall källor utanför den.
Jag stängde av funktionen helt, utan att först pröva en begränsning eller en varningstext. Sedan byggde jag om grunden: sökningen går numera via en verkligt domänbegränsad sökmotor i stället för en instruktion till modellen.
Funktionen är i drift igen, nu med gränsen verkställd i två tekniska lager. En daglig automatisk källkontroll och en manuell verifieringsknapp bevakar löpande att den håller.
Avstängningen kostade den mest säljbara funktionen i sex veckor. Samma avvägning kommer att uppstå igen, och kommer att göras på samma sätt.
Fråga vidare.
Skriv vad ni undrar över, eller be om en genomgång. Det går bra att fråga innan ni bestämt er för något.