L’AI Act, Règlement européen sur l’intelligence artificielle, est entré en application ce 2 février 2025.

Le monde médical est évidemment concerné, comme tous les autres, d’autant plus que les traitements de données et les activités qui font sa spécificité le placent en position de “zone à risque”.

Pour les hôpitaux, si cela n’a pas encore été fait, le mot d’ordre est, en tant que “déployeurs de systèmes d’IA”, de mettre en oeuvre des mesures et procédures permettant d’“assurer, dans la mesure du possible, un niveau suffisant de connaissances en matière d’IA à leur personnel et aux autres personnes chargées du fonctionnement et de l’utilisation des systèmes d’IA en leur nom, en tenant compte de leurs connaissances techniques, de leur expérience, de leur éducation et de leur formation, du contexte dans lequel les systèmes d’IA doivent être utilisés et des personnes ou groupes de personnes sur lesquels les systèmes d’IA doivent être utilisés”. En clair, Fare en sorte que les personnes concernées maîtrisent des connaissances ou compétences nécessaires pour identifier les risques et impacts potentiels et assurer une mise en oeuvre conforme au cadre légal et juridique.

On le sait, les dispositions de l’AI Act ont été imaginées et définies en fonction du critère de risque que font courir l’intelligence artificielle et son utilisation dans une multitude de domaines et de contextes.

Des lignes rouges ne pourront être franchies – via, notamment, l’interdiction de mettre à disposition ou de déployer des solutions IA présentant un risque systémique ou un risque élevé, inacceptable, pour la sécurité ou encore le respect des droits fondamentaux.

L’une des pratiques spécifiquement interdites par l’AI Act est le recours à des techniques et outils d’IA pour “inférer des émotions d’une personne sur le lieu de travail” (principe de la reconnaissance des émotions).

Le monde médical est toutefois un terrain d’exception en ce qui concerne cette interdiction. En tout cas, si la finalité tombe dans le champ des raisons médicales ou de sécurité. Ce qui ne veut pas dire que tout soit pour autant permis, les acteurs médicaux demeurant soumis aux législations applicables en matière de protection des données et de conditions de travail

Sources : Le Spécialiste, Silicon.fr