Découvrez le modèle économique du Groupe SOS
Pourquoi la gestion non lucrative est la seule capable de garantir une éthique de l’IA dans le secteur social
Dans tous les secteurs, l’intelligence artificielle (IA) bouleverse les pratiques et amène à la fois des opportunités inédites que des défis éthiques majeurs. Dans le domaine du travail social, cette technologie constitue une véritable plus-value et permet notamment de renforcer la qualité et l’efficacité du suivi des personnes accompagnées. Son émergence rapide pose toutefois une question : comment garantir qu’elle ne devienne pas un outil d’exclusion ? De par sa nature désintéressée, la gestion non lucrative constitue un rempart solide pour protéger les plus vulnérables contre les risques éthiques de l’IA. Explications.
Gestion non lucrative vs lucrative : deux logiques qui s’opposent
Le secteur lucratif et le secteur non lucratif fonctionnent sur deux logiques différentes : quand la première cherche l’efficacité financière et le retour sur investissement, la seconde se met au service de l’intérêt général.
Pour les entreprises à but lucratif, le risque de scoring est réel : si les données permettent d’identifier des priorités (cas de protection de l’enfance ou allocation des logements d’urgence par exemple), elles peuvent aussi servir à développer des algorithmes qui évaluent la « rentabilité sociale » d’une personne. Dans une logique lucrative, les profils les plus faciles à accompagner peuvent ainsi être sélectionnés en priorité pour améliorer les résultats.
Du côté du secteur à but non lucratif, son engagement en faveur de l’intérêt général le place dans une position idéale pour mettre en œuvre une IA bénéfique et responsable. Le secteur social s’affranchit des incitations financières et des contraintes en matière de rentabilité et de résultats.
La gestion non lucrative agit alors comme une boussole morale, qui met en œuvre des systèmes d’IA qui ne causent pas de préjudices et privilégient le lien humain et le renforcement du tissu social (plutôt que la simple efficacité).
Une vigilance accrue face aux biais dans le secteur non lucratif
Le secteur social est représenté par des métiers ancrés dans des valeurs profondément humanistes comme la justice sociale, l’égalité des chances et le respect de la dignité. Les biais discriminatoires des algorithmes constituent une préoccupation majeure, contrairement aux entreprises lucratives qui peuvent avoir tendance à les ignorer sous couvert d’efficacité.
Le Groupe SOS déploie des outils d’IA responsables et dignes de confiance. L’IA est notamment intégrée dans des chartes de confiance, la création d’équipes dédiées (risques IA, données), des audits et des actions de formation ciblées (RH, management, etc.). Une de ses associations, Respect EMI, travaille également sur des sujets comme l’identification des biais, la construction d’un algorithme éthique et l’utilisation de l’IA pour créer des fakes news.
L’IA accompagne les travailleurs sociaux et de santé, mais ne décide jamais
En suivant des objectifs de gains financiers, la gestion lucrative tend à utiliser l’IA pour gagner en productivité, au détriment de l’humain. Les patients ou les employés deviennent ainsi des statistiques et des probabilités (ce que l’on appelle également la datafication). Le risque ? De se fier uniquement au score et d’accorder plus de poids aux recommandations algorithmiques qu’à son propre jugement.
Avec une logique de gestion non lucrative, les outils d’IA ne prennent pas de décisions autonomes : ils sont au service de l’humain. Ils peuvent conseiller, suggérer, mais l’humain reste l’ultime décideur. Dans ses dispositifs d’insertion par exemple, le Groupe SOS accompagne des personnes éloignées de l’emploi via des chantiers et entreprises.
L’IA pourrait à l’avenir soutenir ces parcours en analysant les compétences, en orientant vers les formations ou emplois adaptés, et en repérant les risques de rupture de parcours. Dans les établissements de santé, des projets se mettent progressivement en place. Un hôpital de l’association Groupe SOS Santé expérimente une solution IA pour faciliter la gestion des plannings des équipes. L’objectif : libérer les soignant·e·s des tâches de gestion pour qu’ils et elles puissent se concentrer sur le plus important : soigner et accompagner les patient·e·s. Un gain de temps précieux pour permettre aux conseiller·ère·s et professionnel.le.s de santé de se concentrer sur le suivi et le soin humain et la relation de confiance, tout en renforçant l’efficacité et la personnalisation des parcours.
