Sørlandet sykehus har nylig publisert en omfattende veileder for ansvarlig bruk av kunstig intelligens (KI) i helseforskning. Veilederen tar for seg både etiske og juridiske aspekter ved bruk av KI, med særlig fokus på personvern og samtykke. Den gir også praktiske råd om hvordan KI kan benyttes til tekst- og dataanalyse samt bildegenerering, samtidig som den understreker viktigheten av åpenhet og ansvarlighet i bruken av slike verktøy.
Et sentralt tema i veilederen er behovet for å unngå skjevheter (bias) i KI-modeller. Kvaliteten på en KI-modell avhenger i stor grad av kvaliteten på treningsdataene. Historiske eller systematiske skjevheter i datagrunnlaget kan føre til diskriminerende eller feilaktige konklusjoner. Derfor oppfordres forskere til å vurdere både egne data og KI-modellen kritisk for å sikre rettferdige og nøyaktige resultater.
Veilederen understreker også at forskere har det endelige ansvaret for forskningen, uavhengig av hvilke verktøy som benyttes. Det er essensielt å dokumentere hvilke KI-verktøy som anvendes og hvordan de brukes, samt å være forberedt på å kunne redegjøre for metodene som er benyttet. Selv om mange KI-modeller fungerer som «svarte bokser», må forskere kunne forklare prosessene rundt modellen, inkludert datainnsamling, preprosessering og validering av resultater.
Denne veilederen er et viktig skritt mot en mer ansvarlig og transparent bruk av kunstig intelligens i helseforskning, og gir forskere nødvendige verktøy for å navigere i det komplekse landskapet av KI-teknologi.