Ce que m'a appris la création d'une IA conversationnelle plus sûre pour la santé mentale des jeunes

Développement sûr des systèmes d'IA conversationnelle dans le contexte de la santé mentale des jeunes

La semaine dernière, j'ai eu l'immense honneur de participer à un hackathon national novateur, axé sur le développement d'une IA plus sûre pour la santé mentale des jeunes. Ce fut une expérience très enrichissante qui a nécessité une profonde réflexion et de longues nuits blanches.

En tant que professionnelle de l'accessibilité, j'ai été confrontée à de nombreux défis liés à la résolution de problèmes, à la constitution d'équipes, à l'inclusion de produits et à l'accessibilité au fil des ans, mais ce défi particulier s'est avéré différent dès le départ. La santé mentale, la diversité, l'équité et l'inclusion étaient au cœur de ce défi. On nous a confié la résolution de ce problème crucial :

Comment rendre un agent IA véritablement sûr pour un jeune qui traverse déjà une période très difficile ?

Les personnes derrière les « utilisateurs »

Pendant que nous testions la robustesse de l'assistant virtuel factice, je repensais sans cesse à des situations réelles. Le travail d'équipe était essentiel, car nous devions tous gérer la pression des délais serrés tout en préservant notre bien-être mental. Mon équipe a vite compris que j'étais un peu noctambule. Souvent, tard le soir, alors que je travaillais sur ce défi, des moments me replongeaient dans mon enfance. Je m'imaginais un adolescent allongé, les yeux grands ouverts, ne sachant pas à qui parler, ou quelqu'un fixant son téléphone, tapant et effaçant sans cesse le même message. Je me suis retrouvé à nouveau dans cette situation, jeune, essayant de comprendre quelque chose de très difficile, sans trouver les mots.

Cela a rendu le tout plus réel, plus humain. J'ai rapidement compris l'importance cruciale de la qualité dans ce défi.

L'IA conversationnelle, dans ce contexte, ne se présente pas comme une simple fonctionnalité. Elle s'impose comme une présence, comme quelque chose qui intervient dans un moment déjà capital. Ce sentiment m'a accompagné tout au long de ce défi et je suis certain qu'il me suivra encore.

Repenser la notion de « sécurité »

En créant des scénarios pour tester la robustesse d'un système de gestion des anciens combattants (VA) fictif, nous avons rapidement réalisé que les approches habituelles en matière de sécurité et de qualité ne suffisent pas.

Il est facile de tester les scénarios optimaux de conversations « standard » simples, directes et soigneusement élaborées, de documenter les défaillances du système, puis de créer des réponses « sûres » par défaut. Mais qu'advient-il lorsque nous appliquons des conversations complexes, à plusieurs tours de parole, multilingues, nuancées, vagues et truffées de fautes d'orthographe, d'argot et de références culturelles ? Et si nous appliquions une véritable méthodologie de réduction des risques pour poser des questions plus difficiles et plus complexes, comme :

• Est-ce que cela permettrait vraiment à quelqu'un de se sentir compris ?

• Cette réponse pourrait-elle, sans le vouloir, le faire se refermer sur lui-même? 

• Créons-nous un espace où quelqu'un peut s'ouvrir, ou au contraire, le repoussons-nous insidieusement ?

Il m'est arrivé de me dire : « Ça a l'air bien… mais comment cela serait-il perçu par une jeune fille née avec des bras courts, vivant dans une petite ville, complexée par son image corporelle, se sentant seule et cherchant de l'aide ?» Ce passage d'une approche purement formelle à une véritable réflexion sur l'impact réel des choses a été parfois extrêmement difficile, mais profondément important.

Ce qui me revenait sans cesse à l'esprit…

L'accessibilité était une préoccupation constante, car ce défi avait un impact plus profond et significatif. Si un jeune ne comprend pas ce qui est dit, ou si l'expérience lui paraît confuse ou accablante, tout est vain.

Dans ce contexte, la sécurité ne se résume pas à créer des garde-fous simples et clairs. Il s'agit aussi de simplifier le langage, de faciliter la compréhension pour les personnes déjà stressées et de soutenir les différents modes de communication. L'expression de soi habituelle n'existe pas ici, et le système doit pouvoir s'adapter à la complexité des comportements humains dans les moments de plus grande vulnérabilité.

Pour moi, cela a renforcé une conviction profonde : si ce n’est pas accessible, ce n’est pas sûr.

Gérer la tension

L’un des aspects les plus difficiles de cette expérience a été de se confronter à cette question :

Quand l’IA est-elle utile, et quand est-elle nuisible ?

Il est risqué de vouloir rendre l’IA trop performante dans les situations qui requièrent une intervention humaine. Évaluer si une technologie est utile ou nuisible implique de s’assurer qu’il est facile de joindre une personne réelle au moment crucial, mais aussi d’évaluer le niveau d’accompagnement et d’intervention nécessaire selon la situation. Il n’y a pas de réponse parfaite, mais ignorer la question n’est pas une option.

Ce que je retiens

J'ai quitté le hackathon avec une vision différente de mon travail. Je suis beaucoup plus consciente de la responsabilité qui incombe à la création dans cet univers. Je suis plus attentive aux petits détails qui peuvent influencer l'expérience utilisateur.

• Voici quelques points que je compte bien retenir :

• Penser aux difficultés des gens, pas seulement à leurs moments de facilité.

• Se soucier du ressenti, pas seulement des performances.

• Donner la parole aux jeunes : ils comprennent cela mieux que quiconque.

• Placer l'accessibilité au cœur de nos préoccupations, en toutes circonstances.

Dernière réflexion

Ce qui m'a le plus marqué, c'est que lorsqu'un jeune demande de l'aide, même modeste, ce n'est pas un geste anodin. Il faut du courage.

Quoi que ce soit ou qui que ce soit qui croise son chemin à ce moment-là, qu'il s'agisse d'une personne ou d'un outil technologique, cela fait partie intégrante de cette expérience. Participer à ce hackathon m'a rappelé que l'enjeu ne se limite pas à la conception de systèmes plus performants. Il s'agit avant tout d'être présent, au bon moment, lorsque c'est vraiment important.