L’intelligence artificielle n’est plus une technologie du futur : elle est déjà présente dans les outils utilisés au quotidien par les services de soins et d’accompagnement à domicile. Gestion des plannings, aide à la décision, centralisation des transmissions, traduction automatique des échanges avec les usagers… L’IA transforme progressivement l’organisation du travail et la manière dont les soins sont délivrés. Mais cette transformation s’opère souvent plus vite que les cadres réglementaires et les référentiels de certification ne peuvent l’anticiper. D’où une question simple en apparence, mais loin d’être triviale : l’éthique de l’IA dans l’accompagnement et les soins à domicile, grand dilemme ou simple détail ?

Une technologie qui s’immisce dans un secteur pas comme les autres

Contrairement à un logiciel bureautique classique, l’IA ne se contente pas d’exécuter une tâche : elle influence des décisions qui touchent directement des personnes vulnérables. Optimiser une tournée, recommander une posologie, détecter une fragilité, prioriser une transmission, chacune de ces actions, si elle est déléguée sans discernement à un système automatisé, peut avoir des conséquences concrètes sur la qualité de l’accompagnement et sur la vie des personnes accompagnées.

Le secteur médico-social présente des caractéristiques qui le distinguent nettement d’autres domaines d’application de l’IA : la relation de confiance, l’attention portée à l’autre, la reconnaissance de la vulnérabilité du patient sont au cœur du métier. Or, ce sont précisément des dimensions qu’un algorithme ne sait pas appréhender, puisqu’il ne travaille que sur ce qui est mesurable et quantifiable. Réduire la qualité d’une prise en charge à une somme de données exploitables, c’est prendre le risque d’appauvrir le sens même du soin.

Le planning, un cas d’école

L’optimisation des plannings d’intervention illustre bien la complexité de ces enjeux. D’un côté, automatiser cette tâche chronophage permettrait de libérer du temps pour le cœur du métier : le prendre soin. De l’autre, tout dépend de la façon dont l’algorithme est programmé et des critères qui lui sont donnés à optimiser. Si la seule finalité poursuivie est la réduction des coûts, l’outil devient un simple levier d’économies sur la masse salariale. S’il intègre au contraire les attentes singulières des usagers, la charge de travail réelle des professionnels et la qualité de la relation, il peut réellement contribuer à un accompagnement plus juste.

La question posée n’est donc pas « pour ou contre l’IA », mais bien : qui décide de ce qu’on demande à l’algorithme, et qui est associé à cette décision ? Aujourd’hui, les usagers sont rarement reconnus comme une partie prenante à part entière dans la conception de ces outils, alors même que les référentiels, à commencer par celui de la Haute Autorité de Santé, placent la participation, le consentement éclairé et la transparence au rang d’exigences fondamentales.

Des biais qui ne demandent qu’à se reproduire

Un algorithme n’est jamais neutre. Il reflète les données sur lesquelles il a été entraîné, et donc les inégalités déjà présentes dans la société. Plusieurs affaires documentées à l’échelle internationale l’ont montré : des administrations publiques ayant dû revoir leurs systèmes de traitement de dossiers après avoir écarté des profils sur des bases discriminatoires, ou des outils de recrutement par reconnaissance faciale reproduisant des stéréotypes de genre jusqu’à leur retrait du marché.

Dans le secteur de l’accompagnement et du soin, ces biais prennent une dimension particulière : selon l’origine, l’âge ou le milieu social d’une personne, un système peut, sans intention malveillante de qui que ce soit, proposer un traitement différent. C’est un point de vigilance majeur pour tout secteur qui manipule des données sensibles et qui accompagne des publics fragiles.

Cinq principes pour guider l’intégration de l’IA

Face à ces enjeux, une réflexion structurée s’impose, fondée sur les principes classiques de l’éthique biomédicale (autonomie, bienfaisance, non-malfaisance, justice) enrichis des exigences propres au numérique que sont la transparence et l’explicabilité. Cinq principes directeurs peuvent ainsi guider l’intégration responsable de l’IA dans les services d’accompagnement à domicile :

• La primauté humaine : l’IA reste un outil au service du jugement professionnel et de la relation de soin, jamais un substitut à la décision humaine.
• La bénéficence partagée : les bénéfices apportés par l’IA doivent profiter équitablement à l’ensemble des acteurs concernés : usagers, professionnels, structures.
• La transparence et l’explicabilité : les mécanismes de décision des systèmes doivent pouvoir être compris par ceux qui les utilisent, et par ceux qui en sont les destinataires.
• La responsabilité distribuée mais clairement définie : la chaîne des responsabilités doit être explicite, pour qu’aucune décision ne se retrouve « attribuée » à l’algorithme.
• L’adaptabilité contextuelle : un système d’IA doit pouvoir s’ajuster à la singularité de chaque situation de soin, plutôt que d’imposer une réponse uniforme.

L’éthique, un levier plutôt qu’un frein

Loin d’être un obstacle à l’innovation, une démarche éthique construite dès la conception des outils constitue au contraire une condition de leur pérennité. Elle permet d’anticiper les crises de confiance, de sécuriser juridiquement les usages, et de construire une adoption durable auprès des professionnels comme des usagers. Une organisation qui n’intègre l’éthique qu’a posteriori, une fois l’outil déployé, s’expose à devoir revenir en arrière, avec un coût humain et organisationnel bien plus élevé.

Concrètement, cela suppose une méthode en plusieurs temps : partir des usages réels du terrain plutôt que d’une vision descendante, associer l’ensemble des parties prenantes à la conception, former les équipes non pas seulement à l’utilisation des outils mais à la compréhension de leurs logiques et de leurs limites, puis ajuster en continu les systèmes à mesure que les usages, les besoins et le cadre réglementaire évoluent.

Une réflexion collective, pas encore stabilisée

Il n’existe pas aujourd’hui de réponse définitive à ces questions, et c’est précisément ce qui en fait un sujet d’actualité pour l’ensemble des acteurs du secteur : professionnels de terrain, gestionnaires, éditeurs de logiciels, régulateurs et usagers eux-mêmes. Les cadres réglementaires évoluent structurellement plus lentement que la technologie, ce qui laisse aux acteurs de terrain une responsabilité d’autant plus grande dans la manière dont ils s’approprient ces outils.

Pour aller plus loin sur ces questions, retrouvez ci-dessous le replay du webinaire consacré à ce sujet, avec les témoignages croisés d’Amélie RAOUL chercheuse spécialiste des enjeux éthiques de l’IA et Olivier DUPILLE de l’UNASSI.

Découvrez la puissance d’Arcad360 Livia

Besoin d’information ?

Contactez-nousContactez-nousDemander une démoDemander une démo