Lignes directrices pour l'utilisation de l'intelligence artificielle générative à l'Université de Sherbrooke
L’intelligence artificielle générative (IAG) repose sur un ensemble de technologies fondées sur de grands volumes de données ainsi que des techniques d'apprentissage automatique pour produire du contenu en réponse à des requêtes formulées par une personne utilisatrice. Le contenu produit par l’IAG peut être généré notamment sous forme écrite, graphique, audio ou vidéo.
L’IAG n’est pas une base de connaissance au sens classique, comme une encyclopédie. Chaque IAG repose en fait sur des modèles très sophistiqués qui modélisent sous forme de code l’association de données ayant été mises à sa disposition. La personne utilisatrice peut avoir l’impression d’interagir avec une autre personne : elle saisit ses requêtes en langage naturel et reçoit des réponses en langage naturel. Toutefois, les IAG ne connaissent pas leur contenu, mais seulement les associations entre les données. Leur force (coder les associations) est aussi leur faiblesse (codage erroné ou absent).
Ces outils évoluent constamment et à grande vitesse. Ils font l’objet de nombreuses recherches, tant sur le plan technologique qu’au niveau des impacts environnementaux, sociaux et des pratiques de gouvernance à instaurer. En raison de leur popularité et de leur potentielle utilité, l’Université de Sherbrooke a formulé un Énoncé de principe qui promeut une utilisation judicieuse, critique, sécuritaire et éthique de l’intelligence artificielle, dans le respect des lois en vigueur, des règles universitaires et des balises qui en découlent.
En conformité avec cet énoncé, voici des lignes directrices à suivre lors de l’utilisation d’une IAG, lignes directrices qui seront appelées à évoluer d’ici à ce qu’une politique ou une directive soit élaborée.
Pourquoi? D’abord, les IAG consomment une grande quantité de ressources, conduisant à des impacts environnementaux et économiques importants. Ensuite, les IAG ont été entraînés pour être particulièrement performantes dans des tâches spécifiques.
Que faire? D’abord, si le besoin peut être répondu par des moteurs de recherche ou des outils usuels, il est préférable d’utiliser ceux-ci plutôt qu’une IAG. Ce serait le cas par exemple pour rechercher de l’information, explorer un concept bien documenté ou traduire des mots. Ensuite, lorsque l’utilisation d’une IAG est jugée pertinente, il est important d’apprendre à identifier les applications les plus performantes pour générer le résultat souhaité, par exemple du texte, des graphiques, des images ou du contenu vidéo. Comme une panoplie d’applications existent déjà, que l'offre est foisonnante et évolue constamment, il devient primordial de les choisir judicieusement selon le besoin et d’en faire un usage responsable.
Pourquoi? Une IAG ne connait pas son contenu. Elle est entraînée pour minimiser l’écart entre les données d’entrée et les données générées. Les réponses aux requêtes inscrites sont assemblées; elles reposent sur des calculs probabilistes. Bien que les réponses puissent être vraisemblables, elles peuvent néanmoins être inexactes, obsolètes, biaisées, empreintes de valeurs ou de croyances.
Que faire? En tout temps, il importe de maintenir sa posture d’expert ou d’experte : réviser les réponses; s’assurer de l’adéquation du message (forme, style, ton); valider l’information avec d’autres sources; vérifier si les principes d’équité, de diversité et d’inclusion (EDI) sont respectés. La personne qui utilise une IAG demeure responsable du document ou de la production qu’elle génère.
Pourquoi?Au même titre qu’il importe de citer les sources utilisées pour produire un document, le fait de déclarer l’utilisation d’une IAG accroît la transparence et contribue à maintenir le lien de confiance, même lorsque son utilisation est minimale. Cela rend clair qu’une IAG a généré en tout ou en partie le contenu. Cela permet également de se conformer à des obligations de déclaration, le cas échéant.
Que faire?Selon les bonnes pratiques, la déclaration d’utilisation d’une IAG est requise et doit préciser l’usage fait de celle-ci : assister l’apprentissage; résumer, traduire ou réviser un document; générer ou améliorer un travail. La déclaration doit de plus mentionner l’IAG utilisée et sa version.
Par exemple :
- Cette description a été produite par ChatGPT version 4.0.
- Ce document a été révisé à l’aide de Gemini 1.5 Pro.
Une attention particulière doit être portée aux règles relatives aux droits d’auteur qui s’appliquent en tout temps. Par exemple, utiliser une IAG pour résumer ou traduire un document pour sa propre utilisation est possible; publier ce résumé ou cette traduction pourrait ne pas l’être.
Pourquoi?Les informations inscrites dans les requêtes sont par le fait même mises à disposition de l’IAG utilisée. Or, on ne sait pas ce que l’outil en fera, ni à qui, quand ou sous quelle forme elles pourraient être restituées. Selon leur niveau de sensibilité, d’importants enjeux de sécurité de l’information ou une perte de protection de la propriété intellectuelle pourraient en découler, particulièrement si cette IAG est accessible au public (comme ChatGPT, Gemini).
Que faire? Les informations inscrites dans les requêtes ne doivent pas être confidentielles, ni comporter des renseignements personnels, ni être susceptibles d'être protégées par de la propriété intellectuelle, notamment les droits d'auteur.
Avant de transmettre une requête ou d’utiliser une réponse produite par une IAG, le principe de prudence doit guider la personne utilisatrice pour préserver la sécurité de l’information de l'organisation et des personnes.
Télécharger les lignes directrices en format PDF.
Source : Ce document est inspiré de « City of Boston Interim Guidelines for Using Generative AI », version 1.1, préparé par Santiago Garces, publié le 18 mai 2023. Consulté en ligne le 16 mai 2024 au lien suivant : https://www.boston.gov/sites/default/files/file/2023/05/Guidelines-for-Using-Generative-AI-2023.pdf.