Anne-Sophie Maillot, chercheuse au LaborIA : « Le travail social passe par des affects que l’IA ne capte pas »

La Direction générale de la Cohésion sociale (DGCS) a contacté le LaborIA en partant d’un constat simple : l’intelligence artificielle, et plus spécifiquement l’IA générative, est en train de traverser le monde du travail, et les professionnels du travail social n’y échapperont pas.

La DGCS souhaitait que nous commencions à étudier les usages et (éventuellement) les effets que cela pourrait avoir sur l’activité des professionnels. Le périmètre a donc été circonscrit aux travailleurs sociaux et aux impacts sur leur activité : nous n’avons pas interrogé les personnes accompagnées, qui feront l’objet de futures études du LaborIA.

Un souhait fort de la DGCS était d’éviter de reproduire ce qui s’était passé à l’époque de la numérisation du secteur, avec une fracture numérique et une charge supplémentaire pour les professionnels de terrain. L’idée était donc de prendre un peu d’avance sur cette question, même si c’est difficile, car l’IA est dans une dynamique d’évolution rapide.

Nous avons proposé trois volets. Le premier consistait à élaborer une « convention professionnelle ». Non pas au sens juridique, mais un document co-construit avec des professionnels et des chercheurs, destiné à mettre en évidence les grands enjeux soulevés par l’IA et à préciser ses conditions d’introduction acceptables, ou ses impossibilités. Un panel non représentatif de travailleurs sociaux, choisis parmi de nombreux volontaires, a participé à ce projet de convention.

Nous les avons outillés — auditions d’experts, documents, mises en situation à partir de dispositifs étrangers existants, etc. — tout en restant en retrait, avec pour objectif de leur offrir des ressources leur permettant de questionner ces enjeux à l’aune de leur activité quotidienne. Cela aboutit à un document, à paraître, sur le cadre dans lequel ces IA peuvent ou non être introduites.

Notre étude se complète d’autres volets : des enquêtes quantitatives et qualitatives sur l’usage actuel de l’IA par certains professionnels, l’observation d’un dispositif d’intelligence artificielle institutionnel (un chatbot déployé en maison départementale pour l’information primaire fournie aux usagers), et une analyse concernant le rapport qu’entretiennent les établissements de formation au travail social à l’IA — où en sont leurs dispositifs pédagogiques, et comment responsables, formateurs et étudiants s’en saisissent.

Si l’on entend l’accompagnement au sens de la relation, alors l’usage de l’IA est très, très marginal. Certains travailleurs sociaux peuvent l’utiliser directement en entretien, simplement pour rechercher une information de manière plus rapide. Il arrive aussi de plus en plus que les personnes accompagnées consultent une IA au préalable de leurs échanges avec un travailleur social.

Cela ne délégitime guère le professionnel, car ces pratiques existent depuis la généralisation d’Internet, mais elles peuvent compliquer les choses lorsqu’une réponse générée, inadaptée à une situation toujours singulière, envenime la situation.

Les usages de l’IA se font donc par le bas comme par le haut. Par le bas, ce sont des usages spontanés et informels, portés par la libre disponibilité de l’IA générative. Nos résultats montrent qu’il ne s’agit pas d’un effet de mode, mais d’une réponse à des besoins, dans un secteur en surcharge, où les conditions se sont dégradées : faible attractivité, hausse du nombre de personnes à accompagner, multiplication et complexité des dispositifs.

L’IA devient une stratégie mobilisée par le professionnel pour répondre à des besoins réels et/ou de terrain. Par le haut, de plus en plus de territoires et de structures s’en saisissent, à des degrés de maturité variables — de la simple sensibilisation à l’intégration directe d’outils dans les équipes.

Dans le détail, nous avons regroupé les usages de l’IA que nous avons observés dans le travail social en six grandes fonctions. La première est le soutien à la rédaction et à la reformulation. Dans ce registre, l’IA peut notamment s’avérer utile aux professionnels pour mettre l’émotion à distance dans un courrier après un entretien difficile.

La deuxième relève de l’organisation et de la planification : plans détaillés, rétroplannings, méthodes de priorisation quand les dossiers s’accumulent. La troisième, très souvent citée, est la recherche et la veille : l’IA aide les professionnels à trouver des informations sur les dispositifs et la législation, faute d’une source institutionnelle centralisée.

La quatrième est le traitement et l’analyse de données : synthèse de notes, statistiques sur les caractéristiques d’un territoire et ses publics, ou encore sa description à partir de documents officiels lorsque les données manquent, etc.

La cinquième fonction concerne la création de supports et de contenus, par exemple des newsletters professionnelles. C’est aussi là que surgissent des limites : je pense à ce flyer demandé par des professionnels d’un département d’outre-mer, totalement inadapté aux réalités locales, illustrant des biais culturels de l’IA.

La sixième, enfin, fait de l’IA un outil de médiation et de réflexivité : entrer en relation, par exemple avec un jeune en protection de l’enfance, ou confronter sa propre analyse à celle de la machine. Sur ce dernier point, nous restons attentifs : cette fonction ne doit pas se substituer à la richesse du collectif, qui s’efface parfois faute de temps et de moyens.

Plus qu'un métier - Travailleur Social – Yvelines, le Département

Oui : les systèmes d’IA prédictive, qui existent au moins depuis les années 1980 dans d’autres domaines (Ex. : MYCIN). Lorsque nous avons volontairement soumis ce scénario au panel, pour en discuter, il a beaucoup fait réagir et plutôt dans le mauvais sens, à juste titre.

Une telle IA suppose de choisir des caractéristiques pour prédire la probabilité qu’un événement se produise dans le futur, au risque d’enfermer les personnes accompagnées dans une trajectoire déterministe. Quels critères sont pris en compte ? À quel moment l’IA intervient-elle dans le processus de travail, et qu’est-ce qui reste à la discrétion du professionnel ? Son usage est-il obligatoire, et qui a le dernier mot ?

S’ajoute un problème de transparence. Sur les systèmes connexionnistes, dont relève l’IA générative, on ne voit pas comment la réponse est produite : c’est une boîte noire. Les systèmes plus anciens, comme les systèmes experts ou « IA métiers », offraient au contraire une lisibilité de leur architecture.

Les IA prédictives, aujourd’hui souvent hybrides, héritent de cette opacité. Savoir ce qui est intégré au processus pour qu’il identifie tel dossier ou telle personne à rencontrer, et si l’outil livre un simple signalement ou un véritable diagnostic, est donc déterminant. C’est l’une des situations qui a généré le plus de réserves de la part des professionnels.

Le premier enjeu est de ne pas réduire le travailleur social à un professionnel qui octroie des aides ou ouvre l’accès à des dispositifs. C’est une simplification excessive. Derrière, il y a des enjeux d’intégration et d’insertion sociale, et aussi un enjeu d’incarnation de l’État-providence. Le travailleur social fait office de médiateur, en quelque sorte. Préserver ce lien, c’est aussi préserver une confiance envers la communauté des citoyens, ce qu’une automatisation mal placée viendrait rompre.

Le deuxième enjeu est ce besoin de relation directe, d’humain à humain. Les trajectoires sociales sont extrêmement diverses. La personne arrive avec une demande explicite, mais le travailleur social investigue de façon holistique pour repérer d’éventuelles demandes sous-jacentes, dont elle n’a parfois pas conscience, et pour construire un dispositif qui lui redonne du « pouvoir d’agir ».

Tout cela passe par les comportements non verbaux, les affects, que l’IA ne capte pas. L’entrée en relation est déterminante : c’est le moment où l’on ouvre la porte, où la prise en charge commence. Par exemple, si l’on automatise ce point d’entrée, on laisse de côté ceux qui n’ont pas de messagerie électronique, ne savent pas écrire ou utiliser un ordinateur, et l’on perd quelque chose d’essentiel.

De plus, le professionnel conjugue des temporalités multiples : celle de la personne, celle des institutions, celle des dispositifs. Fort de son expertise, il sait anticiper, après un ou deux entretiens, si la personne pourra réunir tel document, et composer avec le déni ou la difficulté à accepter sa vulnérabilité. Cette intelligence situationnelle et incarnée dont fait preuve le professionnel est enracinée dans l’expérience et dans le corps-à-corps de la rencontre, et échappe à tout système d’IA.

Les fonctions que l’on observe se retrouvent dans d’autres secteurs. Ce qui est spécifique, c’est le contexte et l’impact que ces usages produisent dans un secteur déjà sinistré, du côté des professionnels, comme des personnes accompagnées, avec des retards accumulés dans les dossiers.

Notre étude fait ressortir trois grands types de craintes. D’abord, la déshumanisation et l’éthique : le travail social repose sur l’écoute, l’empathie et la singularité, perçues comme incompatibles avec une technologie automatisante. Ensuite, la confidentialité et le secret professionnel : la crainte que les données des usagers et des familles soient exposées, et la difficulté à concilier le secret professionnel avec l’IA.

Enfin, la perte de compétences et d’autonomie, avec la crainte d’un appauvrissement de la pensée : l’écriture comme l’analyse sont vécues comme constitutives de l’identité professionnelle des travailleurs sociaux, les déléguer serait une perte. Viennent ensuite, en proportion moindre, le manque d’utilité perçue, le manque de formation, la fiabilité des réponses fournies par les IA, l’impact environnemental et la crainte de suppressions d’emplois.

Adrien Guionie : L'IA, un outil pour le travail social 1 – Éditions Érès

Ce sont précisément les résultats que nous allons mettre en avant de la convention professionnelle sur laquelle débouche notre étude. Les professionnels veulent d’abord et avant tout préserver la justice sociale : un accès au service social pour tous, qui réduit les fractures sociales et numériques existantes, dans le respect du principe de non-discrimination. Car l’IA reproduit des biais et des stéréotypes.

Deuxième exigence, le secret professionnel et la confidentialité des informations produites dans le cadre de l’exercice. Troisième exigence, une dimension humaine fondée sur la bienveillance, en rappelant que l’IA n’est pas bienveillante : elle livre des réponses qui semblent sympathiques et nous fournit souvent ce que nous souhaitons entendre.

Cette dimension humaine suppose le respect du rythme et de la temporalité des personnes, et la prise en compte de leur singularité (contexte familial, émotionnel, historique, vulnérabilités, etc.). Il s’agit de préserver la complexité des situations : tout ne peut pas être rationalisé ni réduit à des données quantitatives. Le professionnel n’applique pas de réponse standardisée : il déploie, dans un « protocole » général, des pratiques ajustées à chaque situation.

Vient enfin l’exigence d’expertise et de développement des compétences, avec le besoin de renforcer l’esprit critique face à l’IA : ne pas prendre ses réponses pour argent comptant, développer des réflexes de vérification des sources, rester prudent face aux erreurs et connaître ses biais. Nous avons aussi des biais, mais la différence, c’est que nous pouvons les infléchir lorsque nous en prenons conscience.

D’ailleurs, le partage de pratiques et des situations, très développé dans le travail social, a des fonctions essentielles (réflexion et élaboration, apprentissage collectif, soutien face à la complexité, régulation du travail, etc.).

L’attente de performance et de gain de temps est très forte. Une particularité mérite d’être soulignée : contrairement aux technologies habituellement déployées par les organisations, ce que nous avons observé dans nos études, c’est le plus souvent le professionnel lui-même qui se saisit de l’IA dans son activité. S’il le fait, c’est bien qu’elle répond à des besoins réels.

Les professionnels signalent des gains de temps sur des tâches très standard, notamment autour de la rédaction au sens large. Mais nos travaux invitent à nuancer : ces usages génèrent d’autres tâches du registre de la vérification, si bien qu’il est difficile de dire s’il y a un gain net, et plus encore de le quantifier. À cela s’ajoute le fait que l’IA fournit d’emblée une réponse très consolidée, séduisante, mais qui se révèle souvent superficielle pour le spécialiste dès que l’on entre dans le détail.

L’autre promesse, automatiser les tâches chronophages pour réinvestir ce temps dans l’accompagnement, se heurte à la réalité : aujourd’hui, le temps gagné est plutôt affecté à de l’administratif qu’à des rendez-vous avec les personnes.

Comme nous l’expliquait un professionnel, gagner 45 minutes sur une journée sur des tâches standard ne permet pas de prendre sa voiture au pied levé pour aller voir quelqu’un : un rendez-vous se prépare, la personne doit être prévenue, et ce gain n’est pas anticipable. Surtout, la charge est généralement telle pour les travailleurs sociaux que les professionnels n’en sont pour le moment pas à réinvestir la relation, mais plutôt à rattraper les retards.

Oui, les professionnels reconnaissent par exemple que des technologies pourraient aider à repérer des personnes éligibles à des dispositifs dont elles ne bénéficient pas encore, et donc réduire le non-recours. On peut imaginer, par exemple, d’utiliser les données de la déclaration d’impôts pour repérer un foyer susceptible d’avoir d’autres droits, puis de le lui signaler - à condition bien sûr que la personne accepte le partage de ses données.

En tant que chercheuses, ce qui nous interroge n’est pas tant l’IA elle-même que la façon dont elle va être implémentée par les structures (avec ou sans les professionnels), les données qu’on lui donne à traiter et la manière dont on les utilise et on les conserve.

Réduire le non-recours est a priori possible et souhaitable, à condition de respecter strictement la protection, la confidentialité et la souveraineté des données : les personnes doivent être informées de l’usage qui en est fait et y consentir, et l’on doit savoir où vont ces données et à quelles fins.

Il faut aussi que l’IA n’intervienne pas seule dans l’analyse, mais en complément du travail social, et tenir compte de ce que cela va produire sur l’activité, par exemple sur la charge de travail si de nouveaux publics sont détectés.

Pourquoi l’intelligence artificielle a besoin d’éthique – Le Monde

L’intégration de toutes les parties prenantes est la condition sine qua non pour que cela fonctionne. J’ai en tête l’exemple d’un Département qui l’illustre bien. Il avait décidé d’implémenter un chatbot non pas à partir des besoins du terrain, mais pour répondre à une problématique importante de turnover au poste d’accueil d’un guichet départemental.

L’idée, légitime, était d’homogénéiser les pratiques des professionnels et de garantir des réponses dites « de niveau 1 », afin que chaque usager bénéficie du même niveau d’information, quel que soit le lieu d’accueil auquel il s’adresse. Une base de connaissances qui nourrissait l’IA a été co-construite avec un prestataire. Les agents pouvaient poser leurs questions sur un dispositif, des documents à réunir, etc., et obtenir une réponse en direct.

Dans les faits, cet outil a été peu utilisé. Rapidement après sa mise en situation, et à la suite de dysfonctionnements identifiés, ils l’ont suspendu, afin de procéder aux ajustements nécessaires. Mais ce que nous avons pu analyser et comprendre, surtout, c’est qu’à l’accueil téléphonique, ce sont des secrétaires territoriales qui tiennent le poste.

Ces professionnels, déjà spécialisés et experts, n’ont finalement pas tellement besoin de ce type d’outil. L’enjeu de la réponse à un appel est d’accueillir une personne vulnérable qui vient avec un besoin, sans rompre le flux de l’échange. C’est un moment de « pré-diagnostic » où l’on commence à construire une relation.

Or, consulter ce chatbot obligeait à créer des temps « morts » : taper la question, attendre, lire la réponse, la restituer. Habituellement, si le professionnel a besoin d’une réponse, il peut mettre en attente quelques secondes l’usager, il s’adresse à un collègue travailleur social pour obtenir des informations, et on se rend compte aussi que cet échange a plusieurs fonctions. Il sert à partager des informations plus larges, par exemple sur la situation de l’usager en ligne, sur les besoins, etc., qui vont permettre de réguler l’activité future du travailleur social qui prendra l’usager en charge.

Or, si ce chatbot vient se substituer à cet échange, cela va requestionner, modifier, voire dégrader, la façon dont les professionnels régulent leur travail entre eux et au bout du processus, la prise en charge de la personne accompagnée.

Finalement, sans l’intégration des professionnels, on risque de développer des outils inappropriés au terrain, et on passe à côté des stratégies déjà déployées, parfois de façon informelle, qui, elles, sont bénéfiques. Le risque majeur, dans des structures aux conditions de travail dégradées, c’est de tout perdre : implémenter l’IA là où il ne faut pas, au point que les professionnels se désengagent par perte de sens et que les personnes accompagnées soient elles aussi perdues. On perd alors tout le monde.

Elle va être diffusée, avec pour objectif de poser les premières pierres d’une réflexion autour de l’IA. Les collectivités et les professionnels pourront s’en saisir, rediscuter les avis formulés, les enrichir. Toute la difficulté tient à ce que certains usages peuvent être acceptables dans une configuration et non dans une autre : c’est ce qui rend un dispositif national complexe à concevoir.

On peut imaginer un cadre général, une sorte de « grand chapeau » à décliner ensuite au niveau des Départements, des dispositifs, des personnes accompagnées, mais il y a là un vrai défi. La vocation de la convention est de poser ces premières pierres, les éléments sont désormais entre les mains des professionnels et des structures.

Anticiper est extrêmement difficile, car tout est trop mouvant : le travail social évolue vite, l’IA aussi, et trop de facteurs entrent en jeu. Ce que l’on peut craindre, c’est la logique productiviste à l’œuvre du côté des organisations, et le fait qu’elles risquent d’essayer d’implémenter l’IA dans les processus de travail sans tenir compte des réalités professionnelles de terrain. S’y ajoutent des craintes sur le pilotage de l’IA, sur l’éthique, sur une fracture encore plus marquée, sur la discrimination et la multiplication des biais.

À l’inverse, l’espoir, c’est une amélioration des conditions de travail et un pouvoir d’agir étendu, redonné à la fois aux personnes accompagnées et aux professionnels, pour faire sens dans leur activité. Ce serait la plus belle des choses. Mais cela ne se fera pas sans partir de ce qui se passe aujourd’hui dans le secteur ni sans comprendre quelle IA on implémente, avec ses caractéristiques et ses biais, et ce qu’elle viendra reconfigurer dans le travail.

• Le LaborIA, laboratoire de recherche-action dédié à l’impact de l’intelligence artificielle dans le milieu professionnel