De Inspectie Gezondheidzorg en Jeugd (IGJ) ziet kansen voor generatieve AI in de zorg, maar veel toepassingen zijn nog nieuw. Daardoor is de impact op de zorg bij gebruik van AI nog (deels) onbekend. De IGJ roept zorgaanbieders daarom op om generatieve AI in de eigen organisatie zorgvuldig en met aandacht voor risico’s in te voeren.
AI in de praktijk
De eerste toepassingen hebben vooral als doel om de administratie te verlichten. Voorbeelden zijn geautomatiseerde verslaglegging via spraakherkenning, het samenvatten van dossiers of het ondersteunen van de communicatie met cliënten via chatbots. Deze toepassingen worden aangeboden door softwareleveranciers of ontwikkeld door de zorginstellingen zelf.
De inspectie adviseert zorgaanbieders om extra alert te zijn op de mogelijke impact van deze toepassingen op de (kwaliteit van) zorgverlening. Deze alertheid is zowel vóór de ontwikkeling of aanschaf, tijdens de implementatie én na ingebruikname belangrijk. Zorgaanbieders die generatieve AI gebruiken in de zorgverlening zijn wettelijk verantwoordelijk voor een zorgvuldige implementatie en gebruik hiervan.
Vragen over generatieve AI
De IGJ heeft een aantal vragen geformuleerd die kunnen ondersteunen bij:
- de ontwikkeling of aanschaf
- de implementatie
- na de gebruikname
Deze vragen hebben vooral te maken met de veiligheid en kwaliteit van de zorgverlening. Daarnaast is het belangrijk om aandacht voldoende te hebben voor andere risico’s. Denk aan informatiebeveiliging, zoals de bescherming van persoonsgegevens.
Bron: IGJ
