Utilisation de l'IA : challenges et questions éthiques pour les organisations caritatives

Les données utilisées sont-elles neutres ?

Les systèmes d’IA utilisent tous types de données pour la recherche et le traitement de l’information : les « bonnes », comme les « mauvaises ».

L’IA utilise donc des données qui ne sont pas exemptes de biais ou de discriminations, entraînant ainsi des prises de décisions potentiellement injustes…

• Bonne pratique

Détectez et corrigez ces biais, en faisant particulièrement attention à vos prompts (la façon dont vous posez des questions) afin de garantir l'équité et l'inclusion dans l'utilisation de l'IA. D’autant plus si vous utilisez des IA génératives.

Quelle prise en considération de la vie privée et de la protection des données ?

L'IA utilise parfois des données personnelles sensibles pour générer du texte ou prendre des décisions.

Or, d’après la RGPD (en France) et la Loi 25 (au Canada), il est essentiel de respecter la vie privée des individus et de protéger leurs données contre les abus ou les fuites.

• Bonne pratique

Ne partagez pas votre stratégie de développement confidentielle ou des données utilisateurs ou donateurs non anonymisées afin qu’elles ne soient pas réutilisées par l’IA !

Quel est l’impact de l’IA sur les emplois ?

Il s’agit d’une des plus grandes préoccupations aujourd’hui. Mais considérons trois éléments :

• L’IA est performante, mais elle a aussi ses limites : c’est plus un·e super stagiaire qu’un·e super assistant·e
• En aucun cas l’IA ne pourra vous remplacer en tant que responsable de la collecte de dons ou de la gestion/ relation donateur·ice
• L’intelligence et l’expérience humaine sont nécessaires pour se servir à bon escient de l’IA.

L’IA est-elle compatible avec la crise climatique ?

Rappelons que tout ce qui est numérique a un impact écologique. L’IA n’échappe pas à cette règle : beaucoup d’énergie est consommée pour « entraîner » l’outil et l’utiliser.

Lorsque vous posez des questions à ChatGPT, vous consommez des ressources dans les datacenters qui l’hébergent.

À titre d’exemple, 502 tonnes de CO2 ont été émis pour entraîner GPT-3 en 2022. C’est l’équivalent de 45 tours de la Terre en voiture !

• Bonne pratique

Adoptez des IA écologiquement plus durables tels que le modèle universitaire français BLOOM, qui est entre 30 et 50 fois moins énergivore dans sa création que ChatGPT-3.

Les réponses proposées proviennent-elles de sources fiables ?

Concrètement, le fonctionnement de l’IA repose sur des probabilités. Face à une question, elle recherche la réponse la plus probable en tenant compte du contexte et en tirant ses informations de diverses sources, mais sans pouvoir en spécifier l'origine exacte.

De plus, les informations dont ChatGPT dispose s'étendent jusqu'à septembre 2021. Si vous recherchez des informations actualisées, pensez à utiliser les versions payantes.

• Bonnes pratiques

Restez prudent·e dans l'interprétation des réponses produites par les outils d’IA : prenez le temps de les vérifier si vous avez le moindre doute ! Cela repose également beaucoup sur votre capacité à rédiger de bons prompts.

Des exemples sont disponibles dans le livre blanc « L’intelligence artificielle au service de votre organisation caritative ».

La conclusion d’Eudonet

Considérez l’IA comme un moyen pour gagner du temps et améliorer la gestion opérationnelle.

Pour comprendre concrètement comment l’IA peut vous aider dans votre quotidien de fundraiser et/ou de gestionnaire d'association ou de fondation, deux livres blancs sont à votre disposition :

• L’intelligence artificielle au service de votre organisation caritative
• Créez vos campagnes de collecte de dons grâce à l’intelligence artificielle

Et inscrivez-vous à notre webinaire du jeudi 15 février sur « L’IA au service de votre organisation caritative ».