Ansvarsfull användning av AI

AI kan göra arbetsuppgifter snabbare och ge nya möjligheter att analysera och bearbeta information. Samtidigt kan AI ge felaktiga svar, missa viktiga sammanhang eller hantera information på sätt som innebär risker. Därför behöver användningen vara kontrollerad och anpassad till verksamheten.

Mänsklig kontroll

AI används som stöd. Den som använder ett AI-resultat behöver bedöma om det är korrekt och relevant. I verksamheter där konsekvenserna av ett fel kan bli stora krävs särskilt tydliga kontroller och ansvarsfördelning.

Informationssäkerhet och dataskydd

Vilken information som får användas i ett AI-verktyg beror på informationens känslighet, hur tjänsten är utformad och vilka regler och avtal som gäller. Personuppgifter, patientuppgifter och annan skyddsvärd information kräver särskild hänsyn.

Kvalitet och transparens

AI kan skapa innehåll som ser trovärdigt ut men ändå är fel. Därför behöver fakta, källor och slutsatser kontrolleras. När AI har en viktig roll i en tjänst eller process ska det också vara möjligt att förstå hur tekniken används och vem som ansvarar för resultatet.

Test innan bredare införande

Flera AI-initiativ inom Region Gävleborg börjar som förstudier eller test i liten skala. Det gör det möjligt att bedöma nytta, risker, teknik och arbetssätt innan en lösning eventuellt införs bredare.

Människor ansvarar för beslut och bedömningar.
AI-resultat ska kontrolleras innan de används.
Informationssäkerhet och dataskydd ska beaktas från början.
Lösningen ska vara lämplig för den information och den verksamhet där den används.
Nya arbetssätt testas och följs upp innan de sprids bredare.