Évaluation autochtone : rapport d'événement sur le rapprochement des perspectives
Tables des matières
Résumé
Dans le prolongement des efforts déployés récemment pour améliorer son offre aux Canadiens, Sécurité publique Canada (SP) a réuni en avril 2024 des représentants des communautés autochtones et des experts en politiques publiques afin d'examiner comment ses différents programmes pourraient être renforcés pour mieux répondre aux besoins des personnes qu'ils desservent. Cet exercice de mobilisation a principalement porté sur les approches utilisées par SP pour évaluer l'efficacité des projets financés et sur la manière dont le ministère peut soutenir des méthodes d'évaluation qui sont plus inclusives et davantage axées sur la culture.
Les participants ont souligné l'importance de fonder l'exercice de mobilisation sur une approche décoloniale et ont travaillé en collaboration avec SP pour explorer les quatre sujets de discussion suivants.
Lors de l'examen des systèmes d'évaluation actuels, les participants ont estimé que ces systèmes encouragent la concurrence plutôt que la collaboration, que les mesures ne permettent pas de saisir les effets à long terme des programmes et des initiatives, et que les lourdes exigences en matière de rapport découragent souvent les communautés de s'engager dans cette voie. Les participants ont également noté que le gouvernement n'est pas toujours transparent dans la manière dont il utilise les commentaires qu'il recueille, et qu'il n'existe pas non plus de systèmes permettant d'assurer la continuité des programmes ou d'établir une relation de confiance avec les évaluateurs. Ils ont recommandé des contacts plus directs entre les administrateurs de projet, les évaluateurs et les communautés afin de résoudre certains de ces problèmes systémiques.
Les participants ont également discuté de la manière dont les effets bénéfiques des programmes ne sont pas toujours pris en compte dans les méthodes d'évaluation, en particulier lorsque les bénéfices se produisent sur des périodes plus longues ou sont le résultat d'un ensemble plus large de programmes et d'initiatives. De même, ils ont souligné la structure rigide des méthodes d'évaluation qui ne permettent pas toujours de faire état de bénéfices imprévus ou de recueillir des commentaires qualitatifs. Les participants ont suggéré que l'on assouplisse les méthodes d'évaluation, qu'elles soient administrées par des membres de la communauté et qu'elles soient conçues pour répondre aux besoins des personnes concernées plutôt qu'à ceux du gouvernement.
Le troisième sujet abordé portait sur la manière dont les communautés peuvent déterminer que les programmes ont été couronnés de succès. Les participants ont jugé que de nombreux programmes produisent bel et bien des effets, mais qu'il est difficile de les évaluer globalement dans la mesure où ils se manifestent sur le plan individuel et varient d'une communauté à l'autre. En conséquence, il a été noté que les méthodes d'évaluation devraient être conçues en fonction des expériences spécifiques des communautés et ancrées dans celles-ci. En outre, les évaluations devraient être menées en personne, disposer de ressources adéquates et être fondées sur les modes de connaissance autochtones.
Le dernier sujet était centré sur les mesures nécessaires pour rendre les systèmes d'évaluation plus souples et culturellement appropriés. En rassemblant les éléments des trois discussions précédentes, les participants ont dégagé certaines solutions : une meilleure disponibilité des ressources, un meilleur soutien et une meilleure formation pour le personnel et les évaluateurs de programme, une plus grande souplesse et une meilleure adaptation dans la manière dont les évaluations sont conçues et réalisées dans les communautés, ainsi qu'une amélioration de la communication et de la collaboration. Ils ont souligné qu'il ne s'agit pas de déterminer les bons paramètres pour évaluer un programme, mais plutôt de créer les meilleures circonstances possibles pour que les bonnes expériences puissent être entendues.
Bien que les conclusions du présent rapport reflètent uniquement les points de vue des personnes ayant participé à la séance, elles fournissent néanmoins des renseignements importants sur la manière dont les programmes et les méthodes d'évaluation de SP peuvent mieux refléter les valeurs, l'éthique et les priorités des communautés autochtones.
Reconnaissance territoriale
Nous reconnaissons respectueusement que la mobilisation organisée dans le cadre du présent rapport s'est déroulée sur le territoire du Traité no 6, dans la patrie métisse et dans la région no 4 de la Métis Nation of Alberta. Nous reconnaissons qu'Edmonton est située sur les territoires traditionnels de nombreuses Premières Nations, dont les Nehiyaw (Cris), les Dénésulines (Dénés), les Nakota Sioux (Stoney), les Anishinaabe (Saulteaux) et les Niitsitapis (Pieds-Noirs).
La planification de cette mobilisation a eu lieu sur le territoire mohawk de Tyendinaga, le territoire non cédé de la nation algonquine Anishinaabe, et les territoires des peuples Lək̓ʷəŋən et W̱SÁNEĆ, y compris les Premières Nations des Songhees et des Esquimalt.
La rédaction de ce rapport s'est déroulée sur les territoires des peuples Lək̓ʷəŋən et W̱SÁNEĆ, ainsi que sur les territoires non cédés de la nation algonquine Anishinaabe.
Nous remercions les personnes qui ont pris le temps de s'entretenir avec l'équipe responsable de cette mobilisation et de nous faire part de leurs points de vue, qui sont inclus dans le présent rapport. Nous sommes également reconnaissants envers l'Aîné Arnold Alexis de la Première Nation d'Alexis pour son soutien et ses conseils tout au long de l'événement.
Aperçu de la mobilisation
Contexte
Sécurité publique Canada (SP) est chargé d'exercer un leadership au niveau national en matière de sécurité publique et de protection civile, notamment par la mise en œuvre de différents programmes et de différentes politiques et structures, comme le Programme de contribution à l'amélioration de la sécurité des collectivités autochtones (PCASCA), qui distribue des fonds par l'intermédiaire de l'Initiative en matière de planification de la sécurité des collectivités autochtones (IPSCA) et l'Initiative sur les services correctionnels communautaires destinés aux Autochtones (ISCCA). Ces initiatives visent à financer la mise en œuvre de plans de sécurité propres aux communautés et dirigés par celles-ci, ainsi que de programmes correctionnels communautaires dans les communautés autochtones de tout le pays. En outre, SP est responsable de la mise en œuvre de la Stratégie nationale pour la prévention du crime (SNPC), dans le cadre de laquelle la Division de la recherche de SP est principalement chargée de la recherche et de l'évaluation à l'appui de la SNPC.
En 2023, SP a organisé un processus de mobilisation en ligne avec d'anciens bénéficiaires du financement de la SNPC et leurs évaluateurs tiers, y compris des participants autochtones et non autochtones, afin de mieux comprendre leur expérience des processus d'évaluation de SP. Cette mobilisation a permis de mettre en évidence les forces et les faiblesses du processus, dans le but d'incorporer des idées visant à renforcer les pratiques d'évaluation de projet de SP. Les répondants ont indiqué à SP que les processus d'évaluation actuels ne reflètent pas pleinement la diversité des communautés autochtones du pays et qu'ils peuvent perpétuer les inégalités et les pratiques contraires à l'éthique dans la recherche à laquelle participent les peuples autochtones.
Fort du travail accompli dans le cadre de cette mobilisation, SP a réuni des représentants des communautés autochtones, des gestionnaires de projet, des évaluateurs professionnels et des experts en éthique et en méthodologies d'évaluation autochtones, afin de poursuivre la discussion sur les défis et les possibilités et d'explorer les recommandations susceptibles de renforcer les évaluations de SP. Ce processus de mobilisation, centré sur un événement de deux jours tenu à Edmonton, en Alberta, les 24 et 25 avril 2024, a été une occasion véritable d'approfondir la compréhension des expériences liées aux projets en collaboration avec SP et d'explorer les possibilités inhérentes à une approche d'évaluation de l'éthique autochtone axée sur la culture.
Objectifs de la mobilisation
En réunissant un large groupe de personnes représentant diverses communautés autochtones, différents niveaux d'expérience en matière de gestion et d'évaluation de projet, ainsi que des experts des approches autochtones relatives à l'éthique et à l'évaluation, SP espérait créer une tribune propice à des conversations productives et tournées vers l'avenir. Le ministère souhaitait mettre en lumière des idées et des recommandations clés dont les administrateurs de programme pourraient s'inspirer pour renforcer les processus d'évaluation afin de mieux prendre en compte et gérer les effets des programmes sur les communautés, et pour créer des évaluations qui soient utiles tant à SP qu'aux communautés elles-mêmes.
SP espérait explorer plusieurs sujets clés de discussion avec les participants, dont les suivants :
- Définir les domaines prioritaires en matière d'éthique et d'évaluation autochtones, en particulier en ce qui concerne les programmes de sécurité communautaire et de prévention du crime
- Explorer les tensions entre les approches occidentales et autochtones de l'évaluation, et certaines des préoccupations liées à l'harmonisation de ces deux approches de l'éthique et de l'évaluation
- Explorer des pratiques exemplaires pour tenir compte des approches autochtones et les appliquer de manière authentique aux approches d'évaluation de SP, et examiner les moyens d'atténuer les risques présents lorsqu'on tente de refléter les effets des programmes dans une diversité de communautés au moyen des évaluations du gouvernement du Canada
- Explorer la forme que pourrait prendre, concrètement, la relation entre SP et les communautés autochtones si la recherche et l'évaluation étaient culturellement appropriées et sensibles à l'éthique autochtone
- Explorer les expériences passées des participants en matière d'évaluation des programmes financés par SP et ce à quoi pourrait ressembler une évaluation de programme idéale à l'avenir
Approche de la mobilisation
SP souhaitait s'appuyer sur les commentaires recueillis dans le cadre du processus de mobilisation virtuel mené en 2023 pour réunir des représentants de communautés autochtones, des gestionnaires et des évaluateurs de programme, y compris des experts-conseils en évaluation autochtone et des experts en éthique et en évaluation autochtones, pour une séance de mobilisation en personne de deux jours afin d'approfondir les sujets relevés lors des mobilisations précédentes. Cette séance s'est tenue les 24 et 25 avril 2024 au Delta Edmonton South Conference Centre à Edmonton, en Alberta.
SP a invité les participants à la mobilisation de 2023 et d'autres personnes ayant des expériences pertinentes à participer à la séance de deux jours à Edmonton. Les représentants du ministère ont travaillé avec des partenaires externes, dont Hill & Knowlton (H&K) et Redstone, pour concevoir et mettre en œuvre une stratégie de mobilisation inclusive, fondée sur la confiance et l'établissement de relations, afin de créer une tribune pour un dialogue productif entre les participants et le personnel de SP lors de l'événement. H&K a contribué à la conception et à l'animation du programme de mobilisation, tandis que Redstone a travaillé en étroite collaboration avec H&K pour mettre en place les installations de conférence et organiser l'hébergement et le transport des participants.
SP savait qu'il était important de créer un climat sûr et accueillant pour les participants, qui inspire la confiance et permet d'établir des relations, tout en abordant les principaux sujets de discussion que les participants étaient invités à aborder. H&K a proposé un programme de mobilisation de deux jours, le premier jour étant consacré à faire plus ample connaissance avec les personnes présentes et à mieux cerner les thèmes abordés, et le deuxième jour étant consacré aux principaux sujets de discussion que SP souhaitait explorer.
Le premier jour visait à permettre aux participants d'apprendre à se connaître et à connaître l'équipe de SP, de mieux comprendre les sujets que SP espérait aborder, d'exprimer leurs réactions initiales, leurs préoccupations et d'ajouter tout sujet supplémentaire à explorer. Les participants, ainsi que l'équipe de SP et l'équipe d'animation de H&K, ont été invités à se présenter, avant de se lancer dans un exercice visant à définir certaines valeurs communes sur lesquelles ils souhaitaient asseoir les discussions à venir. Les participants ont ensuite eu l'occasion de définir leur rôle dans ces discussions et les priorités concernant les projets de prévention du crime et de sécurité communautaire de leurs communautés. Après le dîner, SP a fait une présentation de mise en contexte décrivant la mobilisation précédente et la portée des évaluations à explorer au cours de la présente mobilisation et a répondu aux questions des participants. Avant de conclure, les participants ont examiné en détail l'ordre du jour du lendemain afin de mieux comprendre les sujets de discussion, de faire part de leurs premières réactions aux questions qui allaient être posées et de suggérer d'autres sujets à explorer lors des discussions.
Le deuxième jour du programme a été conçu de manière à mettre l'accent sur les principaux sujets de discussion pour lesquels SP avait rassemblé les participants. La journée a été divisée en quatre périodes portant chacune sur un sujet de discussion clé : les systèmes d'évaluation de programme actuels, l'efficacité des évaluations et des programmes, les programmes et les évaluations communautaires produisant des effets, et l'amélioration des systèmes d'évaluation. Ces sujets de discussion ont été conçus de façon à guider les discussions des participants vers des éléments clés, comme leur expérience des programmes en place, les difficultés à signaler les effets des programmes dans leur communauté au moyen des évaluations actuelles, la manière dont les communautés constatent les effets des programmes et dont ceux-ci pourraient être mesurés, et enfin, la manière dont SP peut améliorer les évaluations afin de mieux refléter l'éthique et les approches d'évaluation autochtones et la manière dont les communautés constatent les effets des programmes. Les discussions ont été consignées par des preneurs de notes à chaque table, ainsi que par les participants eux-mêmes, au moyen d'un grand gabarit de prise de notes placé à chaque table pour chaque discussion, et dans des livrets individuels créés à l'intention des participants et qu'ils étaient encouragés à laisser sur place.
L'objectif de cette approche était de créer un espace sûr et accueillant qui favoriserait des conversations honnêtes et productives tout en laissant une marge de manœuvre suffisante pour que les conversations prennent la direction que les participants estimaient nécessaire, et de permettre aux conversations d'être retranscrites sous différentes formes. Les participants ont été encouragés à réfléchir à des questions présentées sous forme d'affiches placées dans la salle et dans un livret individuel conçu pour leur permettre de consigner leurs réflexions tout au long de l'événement. Ces livrets comprenaient des activités individuelles, une zone réservée à la prise de notes pendant les discussions, ainsi qu'une évaluation de l'activité de mobilisation à remplir à la fin de l'événement. Ils ont été laissés sur place pour que l'équipe responsable de la mobilisation puisse les inclure dans l'analyse. Les participants ont également reçu des gabarits de prise de notes qui ont été utilisés pour prendre des notes pendant les discussions et pour les aider à faire un compte rendu de leurs discussions aux autres tables. Ces gabarits ont été ramassés à la fin de chaque discussion. En plus de l'autoréflexion et de la prise de notes par les participants, les membres de l'équipe responsable de la mobilisation étaient répartis stratégiquement dans la salle pour prendre des notes détaillées et poser des questions plus approfondies si la conversation devait être réorientée. Par ailleurs, les participants ont été encouragés à explorer les sujets de discussion de la manière qui leur semblait la plus appropriée, ce qui a permis de tenir des conversations fructueuses et productives et de mettre en évidence des idées clés et des sujets nécessitant une réflexion plus approfondie, et a guidé SP pour l'amélioration des évaluations afin de mieux refléter la diversité culturelle des communautés autochtones au Canada.
Ce que nous avons entendu
Comme l'indique le titre du programme, les participants ont exploré l'idée de « rapprocher les perspectives » en discutant des défis posés par l'évaluation des programmes dans les communautés autochtones à travers le prisme d'un ministère du gouvernement du Canada. Ils se sont aussi penchés sur les occasions qui pourraient découler des efforts déployés par SP pour réévaluer la façon dont les évaluations sont effectuées afin de mieux refléter les valeurs, l'éthique et les priorités des communautés autochtones. Cependant, les participants ont souligné que ces changements ne peuvent pas se produire et ne se produiront pas à la suite d'un seul événement de mobilisation tenu à un seul endroit, que d'autres voix doivent être incluses dans les discussions, que les efforts déployés pour explorer des approches « autochtones » de l'éthique et de l'évaluation ne sont pas sans risque, étant donné la diversité des communautés autochtones au Canada, et qu'aucune approche ne reflétera les besoins ou les priorités de toutes les communautés des Premières Nations, des Inuit et des Métis. Les participants ont exprimé leur inquiétude, et l'équipe responsable de l'événement reconnaît que les participants ne représentaient que les personnes qui avaient répondu aux efforts de mobilisation précédents et qui avaient reçu une invitation, que la majorité d'entre eux étaient associés à des projets financés dans les communautés des Premières Nations, et qu'une forte proportion provenait des Prairies et de la région de l'Atlantique. Une seule communauté métisse était représentée parmi les participants, et aucune communauté inuite n'était représentée. En outre, plusieurs participants étaient eux-mêmes non autochtones, bien qu'ils aient joué un rôle dans la supervision d'un programme de la SNPC ou dans l'évaluation d'un programme dans une communauté autochtone. L'équipe responsable de l'événement reconnaît également qu'elle est composée de Canadiens non autochtones, qu'elle a joué un rôle dans la conception et l'animation de l'événement et que l'utilité de conversations qui ne sont pas menées par des peuples autochtones dans des espaces autochtones est limitée. Par conséquent, les résultats présentés dans le présent rapport le sont en tenant compte de ces réflexions importantes et contextualisées : il s'agit des réflexions des participants recueillies lors de l'événement « Rapprochement des perspectives : comprendre l'éthique autochtone et l'évaluation » et elles ne doivent pas être interprétées comme représentant un point de vue précis des évaluateurs de programme autochtones, des experts en éthique et en évaluation autochtones ou des communautés autochtones dans leur ensemble.
Principes directeurs
Afin de créer un climat qui encourage la confiance et l'établissement de relations et qui soit propice à un dialogue positif et constructif, le programme de l'événement a été conçu de manière à ce que les participants commencent par un tour de table, suivi d'une activité visant à définir des principes communs acceptés par tout le groupe et sur lesquels fonder les échanges à venir. Les participants ont été invités à sélectionner un certain nombre de principes à partir d'une liste figurant dans leur livret, avant de partager leur liste avec les autres personnes de leur table. Il a ensuite été demandé à chaque table de dresser une liste de principes communs parmi ceux proposés par chaque personne, puis chaque table a communiqué sa liste avec les autres personnes présentes dans la salle.
Les participants ont dégagé plusieurs principes importants sur lesquels fonder les échanges. Ces principes comprenaient de mettre au cœur du processus la relation avec le territoire, le leadership, l'amour, la sagesse, le courage, la justice, le respect, la vérité, l'humilité, la collaboration, la sécurité, l'honnêteté et la responsabilité.
Décolonisation
Le principe qui a été le plus nommé parmi les tables est celui de la décolonisation. Les participants ont mentionné que les discussions axées sur le renforcement des programmes du gouvernement du Canada, y compris les évaluations, devraient se fonder sur une approche décoloniale, ce qui suppose de mettre les perspectives autochtones au cœur du processus, de favoriser l'appropriation des programmes et des évaluations par les Autochtones et de repenser fondamentalement le mode de fonctionnement des systèmes, au-delà des évaluations. Il a été mentionné que la décolonisation est impossible à réaliser dans des systèmes que les peuples autochtones n'ont pas créés, mais dans lesquels ils sont tenus de fonctionner, et que la décolonisation des systèmes d'évaluation n'est peut-être pas possible dans un système dans lequel ces derniers continuent d'être nécessaires. On a également fait remarquer qu'il n'était peut-être pas possible d'ancrer ces conversations dans la décolonisation dans la mesure où elles ont été conçues et sont animées par une équipe de mobilisation non autochtone et se déroulent dans un espace non autochtone, et que la forme que prendrait une discussion décolonisée sur les effets des programmes serait bien différente. Bien que les participants aient relevé les difficultés et les nuances associées à la décolonisation des conversations dans un cadre gouvernemental, tous étaient d'accord qu'il s'agit d'un principe important sur lequel fonder les échanges à venir.
Collaboration
L'autre principe qui a été évoqué par plusieurs tables est celui de la collaboration. Les participants ont souligné l'importance d'inclure les communautés tout au long des processus d'évaluation et de mobilisation relatifs à ces évaluations, et d'éviter un dialogue à sens unique. Ils ont également insisté sur le fait qu'un dialogue à sens unique, dans lequel le gouvernement recueille les expériences et les points de vue des communautés autochtones, mais ne communique pas en retour les résultats obtenus et les mesures prises pour y donner suite, ne constitue pas une réelle collaboration. Cela crée une situation dans laquelle les personnes et les communautés ne peuvent pas voir comment les renseignements et les témoignages sur les effets positifs qu'ils ont partagés sont utilisés par le gouvernement une fois qu'ils lui ont été communiqués. Cette situation engendre de la méfiance et de la frustration, ainsi qu'un manque d'intérêt envers la participation aux discussions futures. Les participants ont encouragé SP à faire preuve de transparence quant aux propos recueillis, et plus important encore, quant à leur incidence éventuelle sur les évaluations ou d'autres exigences de programme. Enfin, ils ont insisté sur le fait que les échanges entre SP et les communautés autochtones doivent rester ouverts et collaboratifs tout au long de ce processus.
Les participants ont discuté de l'importance du choix des termes et de l'incidence que ceux-ci peuvent avoir sur la manière dont les questions sont abordées et formulées. Plusieurs exemples ont été donnés quant à la façon dont certains termes peuvent être choisis pour mettre en valeur les communautés, par exemple en parlant de « ressources » plutôt que de « capacités », de « réautonomiser » plutôt que d'« autonomiser », et comment des termes fondés sur les distinctions peuvent être privilégiés plutôt que les termes panautochtones utilisés par les ministères du gouvernement fédéral dans le passé. Le présent rapport entend répondre à cette problématique en utilisant les termes employés par les participants tout au long de l'événement de mobilisation.
« On ne peut pas autonomiser des personnes qui sont déjà autonomes. Il faut les réautonomiser. »
Discussions initiales avec les participants et mise en contexte
Un participant a comparé le volet évaluation d'un programme à une paire de lunettes dont les verres doivent ajustés en fonction d'une ordonnance pour être efficaces. Il a souligné que la participation de la communauté est la prescription nécessaire pour ces « lunettes ».
SP a entrepris de s'appuyer sur les résultats de la mobilisation de 2023, qui ont démontré que d'importants problèmes sont encore associés aux évaluations de programme et que les administrateurs et les évaluateurs gouvernementaux ont encore de la difficulté à comprendre ce qui constitue des effets et des réussites pour les programmes mis en œuvre dans les communautés autochtones. Comme l'a fait remarquer un participant au cours de la séance, en ce qui concerne les conversations sur les évaluations gouvernementales et leurs effets sur les programmes communautaires, ce sont les peuples autochtones qui devraient faire part au gouvernement de leurs préoccupations et de ce qui devrait être corrigé, plutôt que ce soit le gouvernement qui présente des renseignements et pose des questions aux peuples autochtones.
Ainsi, cet événement a été conçu pour permettre aux participants de communiquer à SP leurs réactions initiales, leurs préoccupations et leurs questions, de façon à ce qu'ils aient le sentiment que leurs commentaires les plus urgents ont été pris en compte, avant d'aborder les sujets de discussion proposés par SP. Les participants ont ensuite eu l'occasion d'entendre SP sur les sujets de discussion proposés, de formuler des commentaires et de suggérer des questions supplémentaires à inclure.
Les participants ont formulé plusieurs réflexions importantes sur l'évaluation de programme et le processus d'examen des évaluations de programme entrepris par SP. Ils ont indiqué que les évaluations ont été mises en place à l'origine pour des raisons financières, l'objectif initial étant de déterminer les programmes « inefficaces » afin d'économiser les fonds publics. Ainsi, les évaluations, de par nature, constituent des outils pour supprimer les programmes jugés inefficaces, uniquement en fonction des critères occidentaux de réussite, ce qui signifie que de nombreux programmes ont été supprimés à la suite de leur évaluation, même s'ils avaient une incidence positive sur les communautés autochtones. Les participants ne considèrent pas les évaluations comme un outil permettant de connaître les effets ou les réussites, mais plutôt comme un outil au service du gouvernement qui met en péril leurs programmes.
Bien que ce ne soit pas forcément le cas des évaluations de programme actuelles, les participants ont fait remarquer que les évaluations sont également souvent perçues comme un exercice consistant à cocher des cases qui aide les gouvernements à administrer les programmes, mais qui n'a que peu d'utilité pour les communautés elles-mêmes.
« On en a assez d'être des cases à cocher. »
Cela est particulièrement difficile pour les programmes qui fonctionnent avec des ressources limitées, lesquelles sont tenues de réaliser des évaluations de programme qui sont perçues comme étant du travail que le gouvernement devrait faire lui-même plutôt que de le faire faire par les communautés. Si les évaluations peuvent être importantes pour l'administration des programmes du point de vue du gouvernement, l'investissement en temps et en efforts requis par la communauté pour les réaliser est inutile du point de vue des programmes eux-mêmes. Les communautés ont souvent du mal à trouver les ressources nécessaires pour mener à bien des évaluations contraignantes. Les participants ont souligné que le vocabulaire utilisé, soit le développement de capacités, insinue que les Autochtones ne sont pas capables d'effectuer le travail, ce qui n'est pas le cas. C'est souvent le gouvernement qui n'a pas la capacité de soutenir et de mesurer adéquatement tous les programmes, les communautés devant fournir les ressources nécessaires pour mener à bien les évaluations. Un participant a suggéré d'utiliser l'expression « renforcement des capacités », qui reconnaît que les communautés disposent de l'expertise nécessaire pour évaluer leurs propres programmes, mais qu'elles sont limitées par les exigences du gouvernement en matière d'évaluation.
Les participants ont indiqué que les structures actuelles de programme et d'évaluation posent des problèmes de responsabilité et de propriété; on ne sait pas très bien à qui appartient le programme, qui en est responsable et qui a défini les « réussites » que les évaluations visent à mesurer. Si les programmes sont souvent conçus pour refléter les besoins et les priorités des communautés individuelles, les évaluations, elles, sont conçues pour refléter le programme dans son ensemble et pour rendre des comptes non pas aux personnes desservies par les programmes, mais à d'autres organismes gouvernementaux. Les participants ont indiqué que si l'intention était réellement de mettre les programmes au service des populations autochtones et de les confier à ces dernières, la création d'un espace pour des processus d'évaluation propres aux Autochtones et fondés sur leurs visions du monde serait automatique. Les communautés ne communiqueraient pas leurs réussites par le biais d'un système d'évaluation rigide, mais plutôt par l'entremise d'un système d'évaluation plus souple qui refléterait les besoins et les priorités de chaque communauté, ce qui permettrait alors de communiquer les réussites du programme dans son ensemble par la puissance des récits, et non seulement par des résultats quantitatifs.
Les participants ont préconisé une plus grande souplesse des évaluations et des évaluateurs, une plus grande collaboration avec les communautés et la reconnaissance des effets des programmes dans leur forme actuelle. Ils ont également suggéré que les évaluations prennent des formes diverses, par exemple des évaluations photographiques et vidéo, des évaluations en personne, des évaluations artistiques ou d'autres formes dont l'interprétation nécessite une certaine souplesse de la part du gouvernement. Les communautés ne devraient pas avoir à essayer de placer les effets de leur programme dans le cadre d'une évaluation; le gouvernement devrait plutôt s'efforcer de tirer des conclusions sur les effets d'un programme à partir de tout ce qui en découle. En outre, les participants ont noté que les évaluations de programme sont souvent cloisonnées par le ministère qui a financé le programme, bien que les programmes produisent des effets dans plusieurs domaines prioritaires. Par exemple, un programme d'« éducation » peut avoir des effets positifs sur la sécurité communautaire, ou vice versa, mais il est impossible de communiquer les réussites touchant différents programmes ou domaines prioritaires.
Selon les participants, un tel niveau de souplesse exige une plus grande confiance et des relations plus solides entre le gouvernement, les évaluateurs, les gestionnaires de programme et les communautés elles-mêmes. Les participants ont encouragé les administrateurs de l'administration publique et les évaluateurs de programme, dans le cadre de leurs évaluations, à se rendre sur place et à participer aux activités mises en œuvre dans le cadre de leurs programmes afin de passer du temps dans et avec les communautés qu'ils sont censés évaluer et de mieux comprendre les effets des programmes sur le terrain. Ils ont mentionné que « rapprocher les perspectives », en particulier dans une optique décoloniale, exige plus de travail de la part du gouvernement que de la part des communautés, et que les administrateurs de l'administration publique devront véritablement réfléchir à l'intention et aux résultats souhaités des évaluations. Les évaluations conçues pour éliminer des programmes dans un souci d'efficacité budgétaire ne refléteront jamais les besoins et les priorités des communautés autochtones, et celles qui reflètent les besoins et les priorités des communautés autochtones doivent être souples et permettre de communiquer, du point de vue de la communauté, les effets des programmes sur le terrain.
Enfin, les participants ont demandé à SP quelle était la portée de cette évaluation, s'il y avait une intention de véritablement repenser la manière dont les évaluations sont effectuées au sein du gouvernement du Canada, ou si SP continuerait à être tenu d'évaluer et de rendre compte des résultats en fonction de systèmes sur lesquels il n'a pas le contrôle. Si SP a répondu que le but de cette mobilisation était d'étudier comment améliorer les évaluations des programmes relevant de sa compétence et qu'il continuerait à être tenu de rendre compte des évaluations de programme à d'autres organismes gouvernementaux de la même manière, il existe au sein de SP une certaine souplesse et un intérêt à prendre les mesures requises pour améliorer les évaluations et rendre le processus plus fluide pour les communautés, tout en respectant les exigences d'autres ministères qui ne relèvent pas de sa compétence. Les participants ont ajouté que cette mobilisation et le travail qui en découle ne peuvent se résumer à un simple exercice de « cases à cocher ». À moins que les conversations tenues n'aient des répercussions tangibles, plusieurs participants ont exprimé leur désintérêt à participer à de futures conversations.
Principaux sujets de discussion
Les principaux éléments que SP souhaitait aborder au cours de la séance de mobilisation ont été répartis en quatre sujets de discussion afin d'orienter la conversation.
- Dans le premier sujet de discussion, les participants ont discuté de leurs expériences avec les systèmes d'évaluation actuels, de certains des défis qui se posent et des suggestions relatives à des expériences spécifiques liées aux évaluations en place
- Le deuxième sujet de discussion a exploré certains des défis et des nuances qui découlent de la tentative de communiquer les réussites ou les effets d'un programme dans les communautés autochtones au moyen des évaluations de programme dans leur état actuel, et certains des renseignements clés qui échappent aux systèmes d'évaluation existants
- Le troisième sujet de discussion a porté sur les effets et les réussites des programmes de sécurité communautaire et de prévention du crime, tels que les communautés les comprennent. Ce sujet visait à explorer les approches autochtones en matière de programme, d'évaluation et d'éthique, ainsi que les mesures les plus importantes pour évaluer l'incidence d'un programme
- Le quatrième et dernier sujet de discussion visait à rassembler les différents points discutés précédemment afin d'explorer la manière dont SP peut ajuster ses évaluations pour évoluer vers un système qui reflète mieux les communautés autochtones, qui ne représente pas une charge importante pour celles-ci et qui, au bout du compte, est utile à la fois pour SP et pour les communautés elles-mêmes
Systèmes d'évaluation actuels
Le premier sujet de discussion a porté sur les systèmes d'évaluation actuels, afin de mieux comprendre l'expérience des participants en matière d'évaluation et les défis ou les obstacles auxquels les communautés ou les évaluateurs peuvent être confrontés lors de l'évaluation d'un programme.
Pendant l'activité, la question affichée à l'écran afin d'orienter les discussions des participants était : Quelle a été votre expérience des évaluations en matière de prévention du crime et de sécurité communautaire?
Pour aider à orienter davantage les échanges, les animateurs de chaque table disposaient de questions d'approfondissement supplémentaires, dont les suivantes :
- Quelles sont les évaluations auxquelles vous avez participé et à quoi cette expérience a-t-elle ressemblé?
- Quelle a été votre expérience en matière d'évaluations de programme destinées à une personne extérieure à la communauté, comme le gouvernement du Canada?
- Quelles sont les lacunes dans les renseignements? Quels sont les obstacles? Quelles sont les difficultés?
- Quelles sont les ressources nécessaires pour effectuer les évaluations? Vos équipes ou communautés ont-elles les capacités requises?
- Quelle est l'incidence de ce système sur votre travail et sur votre communauté?
- Y a-t-il des éléments qui fonctionnent bien ou avez-vous un exemple d'évaluation qui a bien fonctionné?
Les participants ont discuté des défis systémiques liés à la nature fastidieuse de la production de rapports et des défis liés aux cycles de financement et d'évaluation des programmes. Ils ont également évoqué les difficultés liées à la transparence et à la responsabilité, le fait de ne pas savoir comment les renseignements sont utilisés, et les difficultés liées à leurs relations avec les administrateurs de programme ou les évaluateurs externes. Enfin, les participants ont discuté de comment concrètement les évaluations sont utilisées pour mesurer les effets des programmes, et des défis liés au manque de connaissances et d'expérience des administrateurs au niveau gouvernemental et de ceux qui gèrent les programmes dans les communautés.
Difficultés liées au système
Les participants ont reconnu que de nombreux défis liés à l'évaluation sont inhérents aux systèmes de financement, de gestion et d'évaluation des programmes. Il a été souligné que les systèmes d'évaluation ont été mis en place pour supprimer les programmes jugés inefficaces selon les critères utilisés par les gouvernements, et que cela a créé un système dans lequel les évaluations sont excessivement complexes, afin d'« éliminer » les programmes les plus faibles. Certains participants craignent que les résultats des évaluations soient utilisés pour éliminer ou supprimer des programmes jugés infructueux par le gouvernement. Cette situation crée, par ricochet, un sentiment de concurrence entre les communautés : celles qui disposent des ressources nécessaires pour réaliser des évaluations solides conformes aux normes gouvernementales prospéreront et continueront à recevoir du financement, tandis que celles qui ne disposent pas de telles ressources (humaines ou financières) se verront retirer tout financement de programme. Les participants ont ajouté qu'il pourrait y avoir des possibilités de collaboration entre divers programmes ou entre communautés qui ne se concrétisent pas parce que les programmes sont en concurrence pour le même financement.
Les participants ont également souligné que les évaluations ne devraient pas être utilisées comme un outil pour réduire le nombre de programmes, mais plutôt pour aider à partager les pratiques exemplaires et à développer davantage les approches, d'une manière souple et adaptée aux besoins des communautés individuelles. Les participants ont ajouté que les programmes, en particulier les programmes de prévention et de réduction du crime, nécessitent souvent des ententes de financement à plus long terme afin de démontrer leur efficacité. Plusieurs programmes se trouvent dans des situations où ils doivent évaluer un cycle de financement avant de pouvoir en solliciter un autre, ce qui les oblige souvent à reprendre le processus de demande à zéro. Les programmes de prévention du crime et de sécurité communautaire doivent avoir la latitude nécessaire pour évoluer de concert avec les communautés, ce qui peut s'avérer impossible si le financement n'est pas assuré.
« Les évaluations gouvernementales sont conçues pour des machines bien huilées et non pour des programmes autochtones, qui partent de zéro. Les programmes veulent des renseignements sur les statistiques. Mais nous ne disposons pas de ces renseignements. Ils ne peuvent pas mesurer nos besoins. Alors, ils nous retirent notre financement parce que nous n'avons pas pu obtenir les résultats d'évaluation qu'ils souhaitaient. »
Les participants ont également souligné que, malgré les avantages d'avoir accès à du financement pour mettre en œuvre des programmes de prévention du crime et de sécurité communautaire, les exigences en matière de rapports sont telles qu'elles découragent souvent les communautés de présenter une demande dans le cadre de nombreux programmes. La production de rapports peut représenter une charge importante pour les équipes des finances, si de telles équipes existent dans les communautés, et, si ce n'est pas le cas, c'est souvent le personnel du programme qui doit apprendre à produire les rapports en plus de son travail habituel. Les participants ont ajouté que les renseignements requis dans les évaluations ne reflètent souvent pas le programme mis en œuvre, ce qui donne l'impression que celui-ci ne sera pas considéré comme une réussite, malgré les effets positifs qu'il a pu avoir. Les renseignements requis par les évaluations ne sont souvent pas importants; il arrive donc qu'ils ne soient pas recueillis dans le cadre d'un programme, ce qui rend l'évaluation beaucoup plus compliquée pour le personnel concerné.
En outre, les participants ont discuté du fait que les mesures et les indicateurs d'évaluation sont souvent si spécifiques qu'ils ne parviennent pas à rendre compte des effets plus globaux qu'un programme peut avoir. Dans de tels cas, il n'existe pas de mécanisme permettant de mesurer ou de communiquer les effets positifs adjacents. Ainsi, un programme, qui a pourtant eu des effets positifs importants dans une communauté, peut malgré tout recevoir une note d'évaluation médiocre.
Il a également été souligné que les formulaires de rapport eux-mêmes sont source de confusion et qu'il est difficile de s'y retrouver, et que les éléments du processus d'évaluation ne sont pas bien communiqués. Par exemple, les dates d'échéance importantes pour les évaluations de programme et la soumission de celles-ci ne sont pas toujours bien connues, ce qui peut se traduire par des retards. Plusieurs participants ont indiqué qu'ils ont souvent l'impression que les évaluations constituent un élément distinct du processus, sans lien avec la mise en œuvre du programme, et qu'elles peuvent parfois être négligées jusqu'à ce qu'il soit trop tard.
Transparence
Les participants ont discuté du fait que de nombreux défis liés aux évaluations actuelles découlent de la relation entre les communautés et les administrateurs de programme ou les évaluateurs externes qui supervisent leur projet.
Certains ont mentionné que les communautés sont tenues de fournir des renseignements au gouvernement, mais qu'il y a peu de réciprocité en ce qui concerne les renseignements communiqués aux communautés. Il s'agit notamment de renseignements sur la manière dont les données sont recueillies, stockées et compilées, et utilisées par les gouvernements. Les participants ont souligné les principes de propriété, de contrôle, d'accès et de possession (PCAP), et le fait que les renseignements recueillis par les populations autochtones et à leur sujet devraient rester au sein des communautés. Or, les évaluations actuelles sont conçues par SP, qui a donc le contrôle sur la manière dont ces renseignements sont utilisés. Certains participants ont indiqué que, dans le cadre d'une approche décolonisée de l'évaluation des programmes, les renseignements resteraient au sein des communautés et celles-ci auraient le pouvoir de déterminer comment ils sont conservés et utilisés. Ils ont ajouté que, dans le cadre d'une approche d'évaluation véritablement décolonisée, les communautés recueilleraient les renseignements qu'elles jugent nécessaires, par les moyens qu'elles jugent nécessaires, et auraient la propriété de ces renseignements et le pouvoir de les utiliser comme elles l'entendent.
Les participants ont également longuement discuté de certains défis liés à leurs relations avec les administrateurs de programme. Selon plusieurs, en raison du roulement de personnel, il arrive qu'un administrateur chargé de superviser leur projet quitte ses fonctions et soit remplacé. Dans de nombreux cas, les nouveaux administrateurs ne sont pas suffisamment informés lors de leur intégration et ne sont pas mis au courant des projets individuels ou des communautés dont ils pourraient être responsables. Cette situation se traduit par la perte de renseignements ou par l'oubli d'accords ou d'ententes entre les communautés et les administrateurs. Il convient de mettre l'accent sur la continuité au sein de SP, afin de s'assurer qu'indépendamment des changements éventuels au sein du ministère, ce dernier puisse continuer à être un partenaire solide.
En outre, les participants ont discuté des défis liés au rôle de l'évaluateur, en particulier lorsque celui-ci est extérieur à la communauté. Certains évaluateurs ne semblent pas comprendre leur rôle et arrivent à la table avec des attentes différentes : certains veulent faire personnellement l'expérience du programme, d'autres veulent effectuer une évaluation à distance. Les participants notent que cela peut représenter un défi, car il est important que tous travaillent ensemble pour que chacun soit tenu responsable.
On espère que les problèmes liés à la transparence et à la responsabilité entre les communautés autochtones, les administrateurs de SP et les évaluateurs de programme externes pourront être résolus en réunissant les partenaires pour qu'ils collaborent. Les rencontres régulières entre les évaluateurs et les gestionnaires de programme se sont révélées utiles. Les participants ont ajouté qu'il est nécessaire que tous (communautés, évaluateurs et SP en tant que partenaires) aient la même compréhension des effets des programmes et de l'évaluation, ce qui prendra des formes différentes d'une communauté à l'autre. Une telle démarche suppose que tous les partenaires concernés s'investissent activement pour se réunir, et nécessitera souvent que les administrateurs de SP et les évaluateurs externes se rendent dans les communautés afin de renforcer les relations. On a également observé que la réduction des frais de déplacement des administrateurs de programme a eu une incidence négative importante sur la capacité des communautés à établir des relations avec ces derniers et a rendu plus difficile la mise en œuvre des programmes dans les communautés. Les liens personnels entre les administrateurs du programme, les évaluateurs et les administrateurs de SP facilitent grandement la compréhension du programme par tous et, au bout du compte, la réalisation d'évaluations plus solides.
Mesure de l'incidence
Les participants ont discuté en profondeur du fait que le système actuel d'évaluation des programmes ne permet souvent pas de saisir avec précision l'incidence des programmes sur les membres de la communauté, sur la réduction et la prévention du crime et sur l'amélioration de la sécurité communautaire. Cela s'explique en grande partie par le fait que, bien que les évaluations soient destinées à mesurer l'efficacité des programmes, elles sont souvent perçues comme une évaluation des résultats financiers et ne reflètent pas toujours les besoins ou les priorités des communautés autochtones.
Plusieurs participants ont indiqué que les évaluations n'étaient pas conçues pour rendre compte des réussites provisoires. Les indicateurs de réussite à long terme peuvent ne pas être perceptibles avant des générations, et il est nécessaire que les évaluations rendent compte des changements progressifs qui se produisent. Les participants ont ajouté qu'au bout du compte, la réussite d'un programme dépend de ce que la communauté considère comme une réussite. Ils ont également mentionné que les mesures et les indicateurs d'évaluation peuvent ne pas être les mêmes pour toutes les communautés et que l'utilisation d'un modèle d'évaluation unique risque de faire passer sous silence des renseignements importants.
Les participants ont évoqué le fait que, dans de nombreuses communautés, les effets positifs peuvent se traduire par deux pas en avant et un pas en arrière, ce qui conduit parfois à des situations où l'évaluation porte uniquement sur ce pas en arrière. Il a été mentionné que les gouvernements parlent souvent de « réduire l'écart » entre les communautés autochtones et non autochtones, ce qui suppose de comparer les communautés autochtones aux communautés non autochtones; or, les bases de référence et les trajectoires ne seront pas les mêmes.En plus de ne pas tenir compte des gains progressifs, les systèmes d'évaluation actuels ne sont pas en mesure d'évaluer l'incidence des programmes sur d'autres domaines prioritaires. Au sein des ministères, on considère souvent qu'un programme donné aura une incidence sur un domaine prioritaire donné : par exemple, les programmes d'éducation renforcent l'éducation, ou les programmes de sécurité communautaire améliorent la sécurité communautaire. Toutefois, dans certains cas, les programmes peuvent avoir des effets sur d'autres domaines prioritaires qui ne sont pas évidents de prime abord. C'est pourquoi il est important de comprendre l'interdépendance des programmes et la manière dont leurs effets collectifs peuvent influer sur le bien-être de la communauté. Comme l'a précisé un participant, il est important de mesurer les « petites empreintes laissées sur d'autres résultats ».
« Il s'agit de savoir qui d'autre était là et quelle expérience a été racontée. »
Il importe de comprendre le contexte des programmes, des communautés et des personnes concernées pour réellement comprendre l'incidence, ou pour comprendre comment évaluer l'incidence d'un programme. Les communautés autochtones savent ce qui fonctionne pour elles, mais après des siècles de colonialisme, on s'attend à ce que les programmes actuels donnent des résultats en quelques mois, et à ce que ces résultats correspondent aux objectifs définis par les gouvernements. Ce système est voué à l'échec, la faute étant souvent imputée aux communautés, ce qui entraîne la perte du financement pour les programmes communautaires. Il est essentiel de comprendre le contexte de chaque communauté, en particulier sa situation géographique, sa genèse et les autres mesures prises parallèlement à un programme donné. Les participants ont rappelé que les systèmes d'évaluation actuels partent du principe qu'il existe une « communauté autochtone type » et que tous les programmes peuvent être évalués à l'aide des mêmes indicateurs. Selon eux, ce n'est tout simplement pas le cas, et tant que le gouvernement n'apportera pas de changements pour tenir compte du contexte de chaque communauté, les programmes et les personnes à qui ils sont offerts continueront à passer entre les mailles du filet.
Efficacité de l'évaluation et des programmes
Le deuxième sujet de discussion a porté sur les effets qu'un programme peut produire sur une communauté et sur les défis liés à leur communication par le biais des systèmes d'évaluation actuels. Les participants ont été invités à se pencher sur certains des défis et des nuances qui découlent de la tentative de communiquer les réussites ou les effets d'un programme au moyen d'évaluations qui n'ont pas été conçues pour tenir compte de ces effets.
Pendant l'activité, la question affichée à l'écran afin d'orienter les discussions des participants était : Quels effets et résultats des programmes de prévention du crime et de sécurité communautaire ne sont pas communiqués dans le cadre des pratiques d'évaluation actuelles?
Pour aider à orienter davantage les échanges, les animateurs de chaque table disposaient de questions d'approfondissement supplémentaires, dont les suivantes :
- Pensez-vous que les outils d'évaluation utilisés pour les programmes de prévention du crime et de sécurité communautaire permettent de suivre efficacement l'incidence de ces programmes? Pourquoi?
- Quelles sont les difficultés rencontrées lors de l'évaluation d'un programme de prévention du crime ou de sécurité communautaire à l'aide des critères d'évaluation définis par le gouvernement du Canada?
- Existe-t-il des aspects ou des exemples de systèmes d'évaluation existants qui fonctionnent bien ou que les communautés peuvent utiliser de manière utile?
- Existe-t-il des mesures d'évaluation exigées par le gouvernement qui sont difficiles à prendre ou qui ne semblent pas pertinentes pour la mise en œuvre de programmes de prévention du crime ou de sécurité communautaire?
- Quelles sont les préoccupations que soulève le temps consacré par le personnel du programme ou de la communauté à l'évaluation?
- Si votre programme ou votre communauté travaille avec des experts-conseils externes pour l'évaluation du programme, pensez-vous que les effets du programme dans la communauté sont bien communiqués?
- Quels types d'effets et de résultats observez-vous dans vos communautés, en particulier en ce qui concerne les programmes de prévention du crime et de sécurité communautaire, qui ne sont pas pris en compte dans les pratiques actuelles de production de rapports?
- Existe-t-il des tensions entre les approches éthiques occidentales et autochtones qui seront difficiles à concilier? Dans l'affirmative, quels éléments de ces approches sont concernés, et pourquoi?
Les participants ont souligné qu'il reste des défis à relever en ce qui concerne la structure des programmes et les cycles de financement, ainsi que la manière dont ces deux aspects sont liés aux effets à long terme d'un programme. Ils ont discuté des structures d'évaluation et de la façon dont les termes et les documents utilisés tendent à ne pas refléter les réalités vécues par les communautés, ce qui peut rendre difficile la communication des effets de ces programmes. Enfin, les participants ont parlé de l'objectif des évaluations, qui est d'aider à définir et à mettre à profit l'expérience et les pratiques exemplaires pour mieux équiper d'autres communautés, et de la manière dont les évaluations actuelles ne sont pas conçues pour favoriser la réalisation de cet objectif.
Structure des programmes
Les participants ont indiqué qu'il y a souvent des programmes, y compris ceux financés par SP, qui ont de profondes répercussions sur les communautés. Les effets de ces programmes ne sont pas toujours immédiats et peuvent souvent survenir après la fin d'un programme. Parfois, il faut du temps pour que le programme soit implanté dans la communauté et que ses effets se répercutent sur l'ensemble de celle-ci.
« Le traumatisme causé à nos communautés est si profond et si intense que les améliorations seront difficilement observables, parce qu'elles sont elles-mêmes profondes et intenses. »
Dans de nombreux cas, les résultats positifs observés dans les communautés ne proviennent pas d'un seul programme, mais d'un ensemble de programmes financés par divers partenaires, qui créent un espace dans lequel des changements positifs peuvent se produire. Cependant, les structures des demandes, du financement, des évaluations et des rapports des programmes ne sont pas assez souples pour suivre ces effets à long terme et négligent souvent certains des résultats positifs qui finissent par se produire.
Les participants ont noté que les évaluations de programme ont souvent lieu peu avant l'expiration des ententes de financement, ce qui ne permet pas d'évaluer les effets à long terme d'un programme sur une communauté. Dans certains cas, les mesures nécessaires à la réalisation d'une évaluation ne sont pas encore disponibles, ce qui oblige les évaluateurs à spéculer sur les effets qui pourraient se produire. Selon les participants, les mesures d'évaluation requises dans le cadre des évaluations actuelles ne reflètent pas ce que pourrait être la « réussite » d'un programme particulier dans une communauté. Pour certains, la définition du succès peut être aussi simple qu'une jeune personne qui renoue avec la langue ou qui accepte de participer à un programme axé sur le territoire avec des Aînés. Il s'agit là d'effets majeurs pour les communautés, mais ce ne sont souvent pas les mesures que les évaluations cherchent à prendre en compte et ce ne sont souvent pas des mesures faciles à saisir dans le cadre d'une évaluation.
La discussion a également porté sur le fait que la structure actuelle de financement, d'évaluation et de reddition de comptes se traduit souvent par un financement à court terme (p. ex. des blocs ponctuels), ce qui peut compliquer la mise en œuvre de programmes à plus long terme par les communautés ou la mesure de leurs effets à plus long terme. Il existe des possibilités de mener des actions de prévention du crime et de sécurité communautaire véritablement créatives et susceptibles de porter leurs fruits, qui peuvent être facilitées par les programmes de SP, mais qui requièrent un financement important, durable et prévisible. Cela est d'autant plus vrai pour les programmes destinés aux jeunes, ces derniers pouvant se lasser des programmes qui ne sont pas mis en œuvre à long terme. Il faut du temps pour établir une relation de confiance au sein d'une communauté, mais ce temps n'est pas pris en compte dans les structures de demande, de financement et d'évaluation des programmes.
Les participants ont ajouté que les programmes qui comportent une composante de collaboration, en particulier ceux qui sont axés sur la sécurité communautaire et la prévention du crime, ont plus de chances de produire des effets positifs au sein des communautés. Cependant, les cycles des différents programmes – en particulier ceux qui sont financés par des organismes gouvernementaux ou des ministères différents – sont parfois incohérents, ce qui peut rendre la collaboration continue et la planification à long terme des projets très difficiles. Selon les participants, il faut du temps pour que les programmes de prévention du crime et de sécurité communautaire s'enracinent dans les communautés, créent des réseaux de programmes avec d'autres services et organisations au sein de la communauté et s'attaquent aux causes profondes de la criminalité et à d'autres préoccupations en matière de sécurité. Les participants ont également fait remarquer que le financement durable des programmes et le financement qui n'est pas directement lié aux évaluations à la fin des cycles des programmes créent un sentiment de cohérence dont les communautés ont besoin pour planifier leurs efforts et leurs ressources à long terme.
Structure d'évaluation
Un participant a raconté comment un programme financé par SP a créé des possibilités d'emploi pour des jeunes à risque au sein de leur communauté. Cependant, ils n'ont pas pu inscrire cette réussite dans le rapport d'évaluation, car la création d'emplois ne faisait pas partie des objectifs du programme. Généralement, les évaluations se concentrent sur l'atteinte des objectifs d'un programme, sans tenir compte des autres effets ou retombées de ce programme. D'autres participants ont partagé des exemples d'effets positifs qui n'ont pas été pris en compte à cause de la structure des évaluations. Lorsque l'on accorde trop d'importance à la collecte de données quantitatives (par exemple le nombre de participants à un programme ou à une activité donnée), on perd la subtilité de certains aspects qualitatifs. Cela peut sembler être un paramètre concret, mais il est souvent inefficace pour saisir les nuances et les expériences des participants. Par exemple, il arrive que le nombre de participants à un programme diminue, mais que l'assiduité de certaines personnes produise un effet notable qui n'est alors pas visible dans les statistiques de participation.
Les participants ont également souligné que la terminologie utilisée dans l'évaluation est parfois très technique et difficile à comprendre pour les communautés. Un évaluateur a indiqué que pour transmettre les résultats aux participants, il avait dû reformuler ses rapports d'évaluation en utilisant un langage clair. Les participants ont également mentionné que cette pratique n'était pas courante, et que les évaluations sont souvent présentées aux communautés dans un format qui ne leur est pas toujours utile.
Un participant a mentionné qu'il n'existe pas d'approche « unique et universelle ». Chaque communauté est différente, et est influencée par ses propres facteurs, contextes et populations. SP doit permettre une certaine souplesse afin que les évaluations soient fidèles aux caractéristiques de chaque communauté.
Les participants ont exploré un processus d'évaluation dans le cadre duquel les communautés peuvent présenter les effets des programmes ainsi que les « évaluations » dans un format cohérent à la fois pour le programme, pour les participants et pour les membres de la communauté. Un participant a fait remarquer qu'il voyait les effets de son programme partir dans quatre directions depuis le centre d'un cercle, comme une roue de médecine. Il a toutefois précisé qu'il n'y a pas de moyen d'inclure cette représentation visuelle dans le cadre de l'évaluation. D'autres participants ont ajouté que l'évaluation des programmes pourrait grandement bénéficier de présentations visuelles, photographiques, vidéo ou encore d'enregistrements. Les participants ont souligné qu'une mention écrite stipulant que « l'enfant était heureux » dans un rapport ne produit pas le même effet que de voir l'éclat dans ses yeux grâce à une vidéo filmée dans le cadre du programme. Les participants ont souligné qu'un grand nombre de personnes n'étaient pas en mesure de participer à la rédaction de rapport et qu'il serait préférable d'utiliser d'autres moyens pour transmettre les effets d'un programme (p. ex, par l'entremise de récits) qui n'impliquent pas la rédaction de rapports de plusieurs pages.
Enfin, les participants ont abordé les difficultés liées aux échanges avec des évaluateurs non autochtones dans le cadre des évaluations de programme au sein des communautés autochtones. Plusieurs participants ont évoqué des expériences où un évaluateur non autochtone a déformé les résultats d'une évaluation, car il ne possédait pas d'expérience directe dans la communauté et n'était pas en mesure de communiquer les subtilités de l'effet du programme sur la communauté. Ils ont également mentionné que, dans de nombreux cas, les évaluateurs externes ne prennent pas le temps de se rendre dans la communauté, de participer aux activités du programme ou de les observer, et que pour effectuer leurs évaluations, ils ne se fient qu'aux rapports sur les activités du programme de la communauté. Les participants ont souligné que ces évaluations ne sont pas en mesure de représenter fidèlement les effets d'un programme, car il est impossible de saisir l'ensemble des indicateurs pertinents sans en être directement témoin.
Les participants ont souligné que lorsqu'il est possible d'avoir un évaluateur autochtone, et surtout s'il entretient des liens avec la communauté, l'expérience est très différente. Les évaluateurs autochtones ont tendance à mener les évaluations avec pour objectif de transmettre les résultats aux membres de la communauté, et pas uniquement à SP. Les évaluations sont souvent transmises à la communauté, et les évaluateurs échangent fréquemment avec les dirigeants communautaires, les jeunes, les Aînés et le personnel de programme. Les participants ont affirmé que les évaluateurs autochtones parviennent à effectuer leur travail tout en apportant une dimension humaine aux projets et aux personnes qu'ils desservent. Ils ont ajouté que les communautés autochtones ont trop souvent été étudiées par des chercheurs non autochtones, et qu'il était agréable de bénéficier d'une évaluation qui ne les faisait pas se sentir comme des « rats de laboratoire ».
Mobilisation des connaissances
Plusieurs tables ont réfléchi au concept de l'évaluation, en se demandant qui doit bénéficier des évaluations et comment les données doivent être utilisées. Les participants ont affirmé que le système d'évaluation actuel est conçu de façon à répondre aux besoins de la bureaucratie gouvernementale, qu'il ne porte que sur la participation aux programmes, d'un point de vue qui tient compte de priorités qui ne sont pas celles des communautés autochtones. Dans de nombreux cas, les évaluations ne permettent pas aux communautés de recueillir des données pertinentes pour elles, de partager des pratiques exemplaires et des leçons retenues avec d'autres communautés ni ne servent d'outil permettant de renforcer ou d'améliorer les programmes en vue de mieux satisfaire les besoins des communautés.
Cependant, les participants ont également constaté que les évaluations peuvent être remaniées afin d'en faire un outil capable de saisir et de partager les connaissances d'une manière qui soit à la fois représentative et bénéfique pour les communautés. Les participants ont ajouté qu'il serait utile d'attribuer un financement après le programme afin de favoriser la mobilisation des connaissances, de consigner les leçons retenues et les pratiques exemplaires, et d'élaborer des outils permettant de les transmettre aux communautés. Les participants ont souligné que cela n'est possible que si davantage de personnes participent à la discussion et si plus d'outils de collaboration sont disponibles. Les évaluations devraient être conçues de manière à inclure tout le monde concerné (y compris les jeunes, les Aînés et d'autres membres de la communauté) afin d'accroître la portée de l'évaluation et de créer des évaluations qui reflètent leurs expériences. Elles devraient être perçues comme une occasion de rassembler les gens et de mobiliser les connaissances et l'expérience collectives des participants à un programme, mais également de définir les mesures à prendre pour améliorer le programme à l'avenir.
Les participants ont également souligné l'importance cruciale du contexte, affirmant que ce qui est efficace dans une communauté peut ne pas l'être dans une autre. Il est fondamental de documenter les pratiques exemplaires et les leçons retenues, mais il ne faut pas supposer que ces expériences peuvent être facilement transposées d'une communauté à une autre.
Les participants ont suggéré un modèle novateur où SP, ou tout autre ministère, rassemblerait les gestionnaires de projet de diverses communautés au moment du financement des programmes dans le but de discuter des principaux objectifs du programme de financement et de déterminer la façon dont chaque communauté envisage de mettre en œuvre leurs programmes. Une fois les programmes terminés, ou lorsqu'une évaluation est jugée nécessaire, ces mêmes gestionnaires de projet se réunissent à nouveau pour discuter des effets de leurs programmes, partager les pratiques exemplaires et explorer comment les programmes peuvent être ajustés, tant au niveau fédéral qu'au niveau communautaire, afin de mieux répondre aux besoins des communautés. Les participants ont souligné que cela peut remplacer les évaluations traditionnelles et constituer une occasion de renforcer les relations entre le personnel des programmes dans les communautés et les administrateurs au niveau gouvernemental.
« Si la communauté contrôle ses données, la boucle de rétroaction est assurée dès le début du processus. La communauté reprend le pouvoir et conserve la propriété de ses données et de ses éléments de preuve. Il n'est alors plus nécessaire de "présenter" ou de "diffuser" les résultats à la communauté, car elle a été impliquée dès le départ et a le contrôle sur ces connaissances. »
Les participants ont insisté sur le fait que, pour obtenir des renseignements auprès des communautés autochtones, il est essentiel d'établir un climat de confiance, d'assurer une transparence concernant l'utilisation et la destination des renseignements, et de prendre le temps nécessaire pour établir des relations solides et s'assurer que le processus est à la fois éthique et réfléchi. Les participants ont souligné que la confiance est l'un des aspects les plus importants de l'évaluation. Il est important que les gens aient confiance dans le fait que les données transmises à SP sont utilisées de manière transparente, avec pour objectif d'améliorer les programmes ou d'apporter un meilleur soutien aux communautés, tout en garantissant aux communautés la souplesse de saisir ce qui est pertinent et essentiel. Cela signifie également d'avoir confiance dans les avantages qu'une évaluation menée dans une perspective autochtone peut apporter, ainsi que de croire que les réussites signalées par les communautés illustrent les effets du programme.
Évaluations et programmes communautaires efficaces
Le troisième sujet de discussion a porté sur les effets des programmes de prévention du crime et de sécurité communautaire dans les communautés autochtones, sur la façon dont les communautés sont en mesure de remarquer que ces programmes ont une incidence, ainsi que sur certains indicateurs de la réussite des programmes. Les participants ont été invités à ne pas se limiter aux processus d'évaluation de SP et à réfléchir aux véritables effets des programmes, ainsi qu'aux façons dont les communautés peuvent les évaluer.
Pendant l'activité, la question affichée à l'écran afin d'orienter les discussions des participants était : Que font actuellement les communautés pour évaluer les programmes et les initiatives communautaires?
Pour aider à orienter davantage les échanges, les animateurs de chaque table disposaient de questions d'approfondissement supplémentaires, dont les suivantes :
- Comment les communautés savent-elles qu'un programme ou un plan, en particulier ceux liés à la prévention du crime et à la sécurité communautaire, est mis en œuvre de manière efficace?
- À quoi ressemble une mise en œuvre de programme réussie?
- Quels processus d'évaluation existent au sein des communautés et de quelles manières les communautés sont-elles impliquées dans le suivi de la mise en œuvre d'un programme ou d'un plan?
- Selon vous, de quelle manière la mise en œuvre des programmes de prévention du crime ou de sécurité communautaire influence-t-elle leur efficacité? Quels effets, souhaités ou non, ces programmes engendrent-ils au sein de la communauté?
- En fonction de cela, à quoi ressemble une mise en œuvre réussie de ces programmes?
- Comment les communautés évaluent-elles l'adoption et la mise en œuvre d'un plan, et quels critères sont utilisés pour mesurer ses effets?
Les participants ont mentionné que plusieurs projets de prévention du crime et de sécurité communautaire financés par SP ont eu des effets positifs sur les communautés (et parfois sur des membres de ces communautés, individuellement), et qu'il faut parfois plus de temps avant de pouvoir mesurer certains effets. Les participants ont mentionné que la manière d'évaluer l'incidence positive, le cas échéant, d'un programme sur une communauté peut varier d'une communauté à l'autre. Ils ont souligné l'importance que les évaluations soient suffisamment souples pour tenir compte de ces effets de manière pertinente pour chaque communauté. Enfin, les participants ont abordé les lacunes qui existent entre les ressources dont les communautés disposent et les ressources nécessaires pour mener des évaluations représentatives et éthiques.
Effets positifs au sein des communautés
Au cours des discussions, les participants ont donné des exemples de programmes communautaires réussis, indiquant par exemple que des jeunes à risque ont renoué avec leur culture et leur communauté. Ils ont également souligné un renforcement du sentiment de lien et de sécurité au sein des communautés, tout en donnant des exemples de projets qui ont réussi à prolonger leurs effets positifs après l'arrêt du financement du programme.
Un participant a comparé l'équilibre entre les programmes dans une communauté à une tornade. Lorsque les programmes sont tous financés et fonctionnent en harmonie, cela ressemble au calme au cœur de la tempête, où l'on peut regarder vers le Créateur et apercevoir la lumière. Lorsqu'un seul programme est abandonné, l'équilibre est rompu, et l'on se retrouve plongé dans l'obscurité et le chaos.
Les participants ont mentionné que le suivi de ces effets est souvent difficile, qu'il est ardu de les transcrire dans des rapports écrits, et qu'ils peuvent prendre diverses formes. Dans de nombreux cas, le macro-suivi des effets est difficile, et les effets les plus positifs et durables se produisent au niveau individuel. Cependant, les évaluations ne sont pas conçues de manière à permettre la communication de ces effets.
Les participants ont indiqué que les effets constatés dans une communauté peuvent être le fruit de la combinaison de plusieurs programmes ou dépendre de la façon dont une personne choisit d'utiliser un réseau de programmes et de services. Par exemple, un programme de prévention du crime pourrait avoir fourni des ressources afin de mieux sensibiliser les jeunes à la criminalité et à sa prévention. Cependant, lorsqu'il est combiné à des services de garde d'enfants accessibles financés par un programme d'éducation, ainsi qu'avec des soins de santé mentale facilement accessibles offerts par un autre programme, les jeunes sont plus à même d'utiliser et de mettre en œuvre les ressources proposées par le programme de prévention du crime. Ces effets peuvent être considérables et facilement perceptibles par les membres de la communauté, mais il arrive que les évaluations se concentrent sur d'autres indicateurs, ce qui fait que les effets réels ne sont pas pris en compte dans l'évaluation.
Il a été souligné qu'il est important de modifier la façon dont la « réussite » est définie, en prenant en compte les effets des programmes sur d'autres aspects de la vie des personnes, et en privilégiant les effets qui cultivent un sentiment de fierté et de passion pour la culture, la langue et l'identité autochtone. Le défi ne réside pas dans la détermination des bons indicateurs et mesures de réussite ni dans l'identification des programmes ayant un effet plus important sur les communautés. Il s'agit plutôt de créer un espace où les communautés peuvent définir leurs besoins et attentes, ainsi que d'évaluer et de communiquer les effets des programmes d'une manière qui soit en accord avec ces besoins et attentes. Les participants ont ajouté que ces indicateurs et mesures de réussite ne doivent pas provenir du gouvernement, mais plutôt des communautés autochtones elles-mêmes.
« J'aime penser que nous faisons une différence, surtout quand je constate les petites réussites. »
Souplesse des rapports d'évaluation
Les participants ont souligné l'importance pour les communautés de conserver la propriété de leurs renseignements, preuves et données. Une des principales questions soulevées lors de plusieurs discussions concernait qui bénéficie des évaluations et pour qui ces dernières sont conçues. Les participants ont souligné que les processus d'évaluation communautaires doivent s'efforcer d'intégrer la planification de l'évaluation dans le financement, d'impliquer les évaluateurs tout au long du programme, de maintenir une communication régulière et transparente, et de veiller à communiquer les effets des programmes sur les communautés avec authenticité.
Un exemple d'évaluation collaborative et souple a été proposé, dans le cadre duquel des participants au programme et des Aînés ont pris des photos dans la communauté, puis se sont réunis pour discuter de leur perception de ces images. Les photos étaient incluses dans l'évaluation.
Les participants ont ajouté que les évaluations doivent être représentatives de l'expérience de la communauté et qu'il est important de laisser de la place aux communautés pour définir la réussite, mettre en œuvre des programmes d'une manière à en maximiser les avantages, et élaborer leurs propres solutions pour engendrer un changement considérable. Il est essentiel que les questions formulées dans l'évaluation permettent le suivi de données qui sont jugées importantes par les membres de la communauté. Si SP a besoin de données pour rendre compte à d'autres organismes gouvernementaux, il doit déterminer comment présenter les données communautaires dans le cadre d'un processus de présentation de rapport officiel.
Les participants ont également souligné que dans le cadre des processus d'évaluation, une plus grande importance doit être accordée à la participation en personne. Il est important que les évaluateurs communiquent directement avec les membres de la communauté afin de mieux comprendre la situation, de relever ce qui fonctionne et de déterminer les soutiens qui peuvent être nécessaires. Les participants ont souligné que cet engagement nécessite un budget de déplacement suffisant, car si les déplacements ne sont pas prévus dans le processus de planification, cela peut affecter considérablement la mise en œuvre des programmes. Les participants ont également suggéré que SP devrait trouver des moyens de participer à des discussions au sein des communautés afin de recueillir directement les témoignages des personnes profitant de ces programmes. Cette présence en personne contribuerait à instaurer la confiance envers les évaluateurs, les administrateurs gouvernementaux et le processus d'évaluation. Les participants ont insisté sur l'importance de procéder avec ouverture et d'instaurer une relation de confiance, tout en veillant à ne pas donner l'impression aux membres de la communauté qu'on s'accapare de leur travail ou leur dérobe.
En fin de compte, les participants ont exprimé que, quelle que soit la forme de l'évaluation, les preuves et les données doivent être ancrées dans les traditions et les modes de connaissance autochtones. Cela peut se manifester de différentes manières, en tenant compte des besoins, des priorités, de la culture et de la langue propres à chaque communauté. Il est donc crucial d'incorporer suffisamment de flexibilité dans les évaluations afin de garantir que ces données sont incluses dans les rapports.
Voici les questions que les participants estiment importantes pour les prochaines évaluations :
- Comment la communauté a-t-elle été impliquée dans l'autochtonisation et l'adaptation du programme?
- Comment la communauté a-t-elle été impliquée dans l'élaboration ou l'adaptation de ce programme?
- Comment le programme a-t-il été adapté afin d'être plus pertinent pour la communauté et d'être orienté par celle-ci?
- S'il a été déterminé que le programme était un « échec », qu'avez-vous appris de cette expérience? Que pouvez-vous en retirer?
- Comment la communauté a-t-elle été informée de l'évolution du programme? De quelle manière cela a-t-il influencé les directives et les modifications à apporter au programme afin d'en accroître l'efficacité?
- Quelles leçons la communauté a-t-elle retenues, qu'elles soient positives ou négatives? Qu'est-ce qui a fonctionné et qu'est-ce qui n'a pas fonctionné?
Ressources et capacités
Les participants ont mentionné les différences de ressources et de capacités que chaque communauté peut allouer aux évaluations. Par exemple, certaines communautés sont bien équipées, pourvues de centres de données et possèdent leurs propres comités de révision déontologique, alors que d'autres n'ont pas encore atteint l'étape de l'évaluation de leurs programmes. Cela signifie que, dans certains cas, les évaluations disposent des ressources nécessaires pour satisfaire aisément aux exigences en matière de rapport d'évaluation, tandis que dans d'autres, cela demande des efforts considérables pour le personnel qui n'a pas l'expérience nécessaire pour réaliser ces évaluations. Plusieurs participants ont souligné que cela entraîne un sentiment de concurrence entre les communautés ainsi que l'inquiétude qu'un programme ayant donné de bons résultats n'obtienne plus de financement.
Les participants ont également indiqué que le financement est un élément important pour qu'une communauté ait la capacité d'effectuer des évaluations, certaines ayant accès à plus de ressources que d'autres. Dans de nombreux cas, les programmes sont sous-financés et peinent à atteindre l'ensemble de leurs objectifs avec le budget alloué. De ce fait, l'évaluation devient une préoccupation secondaire, parfois effectuée par des membres du personnel financés par d'autres sources que le programme.
On a également souligné que la disponibilité des ressources varie d'une communauté à l'autre. Certaines communautés s'appuient sur une expertise externe en matière d'évaluation, tandis que d'autres dépendent de ressources locales pour soutenir leurs efforts d'évaluation. Tout au long des échanges, les participants ont souligné qu'en plus d'être en mesure de fournir dans l'évaluation des commentaires représentatifs du programme et de ses effets sur la communauté, une approche d'évaluation plus souple peut permettre aux communautés d'évaluer les programmes dans le respect des ressources et des capacités disponibles des communautés et de leur personnel.
Vers de meilleurs systèmes d'évaluation
Le quatrième et dernier sujet de discussion a porté sur les mesures nécessaires pour faire évoluer les systèmes d'évaluation actuels vers une approche plus souple, culturellement appropriée et représentative, qui soit dirigée et guidée par les communautés autochtones. On a demandé aux participants de réfléchir aux modifications pouvant permettre de renforcer la souplesse du système, ainsi qu'aux ressources pouvant aider à la mise en œuvre de ces modifications.
Pendant l'activité, la question affichée à l'écran afin d'orienter les discussions des participants était : Quels genres de soutien sont nécessaires pour aider les communautés à mener des évaluations efficaces en matière de prévention du crime et de sécurité communautaire?
Pour aider à orienter davantage les échanges, les animateurs de chaque table disposaient de questions d'approfondissement supplémentaires, dont les suivantes :
- À quoi pourrait ressembler un système d'évaluation pour les programmes de prévention du crime et de sécurité communautaire relevant de SP, qui reflète les valeurs et les principes que nous avons abordés?
- Quel type de rapport serait produit?
- À quelle fréquence y aurait-il des évaluations et des rapports, et quels types de données serait évalués, et par qui?
- Quels types de soutien doivent être mis en place afin de garantir la capacité au niveau communautaire et assurer une évaluation efficace?
- Quels types de soutien doivent être mis en place au niveau de SP afin d'assurer une évaluation efficace?
- Comment les programmes de prévention du crime et de sécurité communautaire doivent-ils être évalués?
- Lors de la collaboration avec les communautés autochtones, quels genres de méthodes de recherche sont les plus adaptés à la culture et le plus éthique pour SP?
- Dans la pratique, à quoi pourrait ressembler une relation de recherche et d'évaluation culturellement appropriée et sensible sur le plan éthique entre SP et les communautés autochtones?
- Une approche respectant le principe d'éthique occidentale peut-elle être culturellement appropriée et sensible sur le plan éthique dans les contextes autochtones? Si oui, de quelle manière?
Les participants ont souligné que l'effort visant à améliorer les processus d'évaluation et à intégrer les visions du monde autochtones ne doit pas reposer sur les communautés autochtones, mais doit être mené par SP afin de favoriser le changement. Les participants ont évoqué la nécessité d'augmenter le financement et le soutien, notamment pour les processus d'évaluation, afin d'améliorer les ressources d'évaluation au niveau communautaire et que les communautés soient mieux équipées pour les évaluations. Les participants ont également abordé l'importance fondamentale de mener des processus d'évaluation axés sur la communauté et dirigés par celle-ci, en insistant sur la nécessité d'inclure davantage de voix et de trouver des moyens d'accroître la souplesse quant au déroulement des évaluations. Enfin, les participants ont souligné la nécessité d'une plus grande transparence et d'une meilleure responsabilisation de la part de SP. En effet, cela peut permettre de resserrer les liens entre les administrateurs de programmes et les communautés qu'ils desservent.
Fournir du soutien
Tout au long des échanges, les participants ont souligné qu'il était primordial que les évaluations de programmes bénéficient d'un financement suffisant. Cela comprend un financement suffisant pour les ressources humaines nécessaires aux évaluations, ainsi que le soutien aux évaluations menées par la communauté, y compris, sans s'y limiter, le financement d'équipements pour enregistrer des événements et recueillir des commentaires sur les programmes, des fonds pour le déplacement des évaluateurs et du personnel gouvernemental participant aux activités, des fonds pour organiser de larges rassemblements visant à évaluer les programmes, ainsi que des ressources pour s'assurer que les résultats des évaluations sont communiqués à la communauté. Plusieurs participants ont souligné l'importance d'organiser des rencontres en personne afin d'évaluer et d'ajuster les programmes communautaires de base, en ajoutant que lors de ces événements, des éléments simples, comme la nourriture, jouent un rôle important dans le rassemblement et la promotion d'une communication ouverte. Afin de renforcer le sentiment de communauté, de culture et de partage des connaissances, il est crucial d'assurer un financement suffisant pour les repas et autres événements communautaires qui rassemblent les personnes.
Un participant a comparé de bonnes évaluations à un jeûne. On élimine toutes les distractions et on dégage du temps et de l'espace pour la méditation, la réflexion, le calme et le jugement. Les évaluations adaptées aux communautés autochtones doivent bénéficier d'un financement souple suffisant afin de soutenir ce type d'évaluation.
Les participants ont souligné l'importance fondamentale d'assurer la disponibilité de ressources et de capacités pour entreprendre une analyse fondée sur les besoins et les priorités de la communauté et du programme, et en tenant compte du contexte propre à la communauté. Les évaluations doivent être perçues comme une possibilité d'apprentissage visant à orienter les travaux futurs, et non comme une case à cocher associée aux possibilités de financement. Il est essentiel que ces évaluations ne laissent pas les communautés dans une situation plus difficile qu'avant, par exemple en dispersant les trop maigres ressources communautaires, en exigeant que les évaluations se déroulent pendant des événements culturels ou communautaires importants ou en entraînant l'arrêt d'un programme. Les participants souhaitent que les évaluations deviennent des outils dont les communautés profitent, et que les communautés, ainsi que leurs programmes, sortent renforcées de chaque évaluation.
Les participants ont également souligné l'importance de prévoir suffisamment de temps pour la réflexion après la fin d'un programme. En octroyant du temps à l'introspection, on favorise un processus d'évaluation plus réfléchi et délibéré. Les participants ont suggéré que prévoir un temps de réflexion dans le processus d'évaluation permet d'entreprendre cette démarche de façon plus naturelle, tout en permettant de mieux saisir certains effets à long terme, sans subir la pression imposée par des normes de production de rapports et des échéances trop strictes. Un participant a fait une analogie avec le calme qui règne souvent au cœur de la tempête. Si cet équilibre est rompu, le chaos s'ensuit.
En plus de la nécessité d'un soutien suffisant pour les processus d'évaluation, les participants ont discuté de l'importance des investissements dans l'éducation et la formation pour réaliser des progrès véritables en matière de réconciliation avec les peuples autochtones. Lors de plusieurs échanges, les participants ont mis de l'avant des domaines essentiels où des investissements sont nécessaires, tels que la formation et l'éducation des évaluateurs, ainsi que la formation du personnel de SP sur la lutte contre le racisme, les approches décoloniales et la compréhension des fondements de l'évaluation. Les participants ont insisté sur la nécessité d'investir dans la formation du personnel de SP, notamment pour approfondir la compréhension des différences et des subtilités entre les Premières Nations, les Inuit et les Métis. Dans les programmes ainsi que dans les processus d'évaluation, il est primordial de reconnaître et d'intégrer les différences entre les communautés autochtones. Chaque groupe a ses propres besoins, priorités et modes de connaissance.
« Nous devons utiliser nos capacités actuelles : tout le monde peut être un évaluateur; nous menons simplement nos évaluations de manière différente et nous avons besoin de ressources pour mener ce projet à bien. »
Les participants ont également souligné le besoin de ressources afin d'aider les communautés à mieux comprendre les processus d'évaluation. Ils ont mentionné des exemples tels que des programmes permettant aux communautés de se réunir pour échanger des pratiques exemplaires et des leçons retenues, de partager du matériel de formation, d'interagir avec une liste d'évaluateurs ayant une expérience de l'évaluation de programmes autochtones, ou de fournir des guides de formation de base pour les évaluations. Les communautés sont chargées de mener une évaluation, mais il arrive qu'elles ne disposent pas des connaissances, des ressources ou des outils nécessaires pour le faire de manière efficace. Des directives et un échange de connaissances, surtout avant le début de l'évaluation, peuvent permettre aux communautés de mieux saisir les exigences et les méthodes permettant de mener une évaluation.
Évaluations gérées et dirigées par la communauté
Les participants ont souligné que les processus d'évaluation de programme dirigés par les communautés sont essentiels pour garantir que les évaluations soient dirigées et gérées par les communautés. Ils ont ajouté que le processus d'évaluation doit s'adapter à chaque communauté, permettant ainsi à chacune de déterminer l'approche, les contributions et les résultats en fonction de ses besoins, afin de mieux refléter les programmes et les effets observés.
Il y a une responsabilité éthique à l'égard des histoires et des personnes qui les portent. Il y a une obligation de rester fidèle à l'histoire et de la porter avec soin et respect.
Un des principaux points à retenir qui a émergé de plusieurs échanges est l'importance de reconnaître la responsabilité de transmettre les histoires de la communauté de manière juste, précise et respectueuse tout au long de ces processus d'évaluation. Sur le plan éthique, il est important de respecter les récits et d'être responsable vis-à-vis des personnes qui les ont partagés. Les évaluateurs doivent être en mesure d'écouter les histoires, de les documenter dans les rapports, puis de les présenter aux membres de la communauté afin d'obtenir leur approbation avant de les transmettre à des instances supérieures et de les inclure dans d'autres structures de rapport.
Un autre point important à retenir est que les modes de connaissance doivent être mis de l'avant dans les évaluations, et que ce sont les communautés autochtones qui doivent définir ce qui est considéré comme une réussite. Les participants ont souligné que l'autodétermination doit être au cœur de tous les processus d'évaluation. Cela peut amener les communautés à signaler les réussites de manière différente, demandant ainsi un effort supplémentaire de la part de SP pour regrouper les effets produits dans plusieurs communautés, mais il est crucial de mettre en place un système d'évaluation qui reflète véritablement les communautés autochtones ainsi que les besoins et priorités de leurs membres.
« Notre réussite doit devenir votre réussite. »
On a également mentionné qu'il est essentiel d'établir des processus d'évaluation ancrés dans la communauté et de créer une tribune pour favoriser les échanges entre les communautés. Cela crée un espace où les communautés peuvent découvrir ce que font les autres, apprendre les unes des autres et échanger des ressources, des connaissances et des expertises concernant les évaluations. Les participants ont souligné que la création d'un espace permettant aux communautés de se réunir pour réfléchir à leurs priorités et partager leurs réussites peut considérablement aider à instaurer la confiance, à solidifier les relations et à favoriser un changement positif. Plusieurs tables ont suggéré d'organiser des événements réunissant des gestionnaires de projet issus de diverses communautés afin qu'ils puissent discuter de leurs objectifs, de leurs approches et, en fin de compte, évaluer ensemble les effets de leurs initiatives. Cela permet d'allouer un espace et un temps consacrés aux évaluations, avec des ressources dédiées, mais également d'encourager SP, les évaluateurs et les gestionnaires de programme à se rencontrer, ce qui renforce les relations et établit un sentiment de confiance et de responsabilisation.
Enfin, les participants ont souligné l'importance de s'assurer que les évaluateurs externes disposent des connaissances culturelles et de l'expérience requises pour collaborer efficacement avec les communautés. Cela implique non seulement de fournir une formation adéquate aux évaluateurs, mais aussi de s'assurer qu'il y a suffisamment de ressources pour permettre aux évaluateurs externes de passer du temps avec les communautés. De plus, il est essentiel de renforcer les capacités au sein des communautés autochtones afin qu'elles ne dépendent pas de ressources externes pour mener leurs évaluations. Lorsque des évaluateurs externes sont impliqués, il est crucial qu'ils priorisent les besoins de la communauté. De plus, il est important de consacrer du temps à établir une relation entre les évaluateurs et la communauté qu'ils desservent. Les participants ont ajouté que créer des modèles d'évaluation qui tiennent compte des particularités des communautés autochtones peut représenter un défi, mais que le renforcement des relations de confiance avec ces communautés est essentiel.
Partenariat et responsabilisation
Lors de plusieurs discussions, les participants ont évoqué la nécessité que SP renforce son rôle en tant que partenaire des communautés, et pas seulement en tant qu'administrateur du financement gouvernemental. Les participants ont affirmé qu'il ne s'agit pas simplement d'un exercice visant à autonomiser les communautés, mais plutôt de leur redonner les moyens de diriger les évaluations comme elles l'ont toujours fait. À plusieurs tables et dans le cadre de plusieurs sujets de discussion, la nécessité de renforcer la confiance et les relations entre SP, les autres organismes gouvernementaux et les communautés autochtones a été reconnue comme étant primordiale.
Les participants ont indiqué qu'être un meilleur partenaire signifie de prioriser la responsabilisation et la transparence. Par exemple, dans le cadre d'une évaluation, lorsqu'une histoire est partagée avec SP, il est important de transmettre le rapport d'évaluation à la communauté afin de garantir que l'histoire est retranscrite de manière juste et précise. Afin que la communauté puisse s'approprier le processus et que la responsabilisation envers la communauté soit prioritaire, il faut intégrer du temps pour cette étape dans le processus d'évaluation.
« Les communautés autochtones savent ce dont elles ont besoin et ce qu'elles veulent, mais il faut leur donner les ressources et l'espace nécessaires. »
Les participants ont également souligné la nécessité d'une plus grande stabilité et d'une meilleure communication de la part de SP. Un participant a mentionné que durant un cycle de quatre ans, il avait été en contact avec sept conseillers de SP. Cela a entraîné des retards importants ainsi que d'autres difficultés, car après le changement de personnel, certains éléments n'ont pas fait l'objet de suivis.
Enfin, les participants ont souligné l'importance pour le personnel et les conseillers de SP de prendre le temps de se rendre dans les communautés, de rencontrer les gestionnaires de projet avec lesquels ils travaillent, ainsi que les personnes concernées par leurs programmes, et de découvrir par eux-mêmes les effets de leurs initiatives dans les communautés autochtones.
« Venez nous rencontrer. »
Conclusion et recommandations
L'événement « Rapprochement des perspectives : comprendre l'éthique autochtone et l'évaluation » a regroupé des représentants de communautés autochtones, des gestionnaires de projet, des évaluateurs et des experts en éthique autochtone pour aborder des défis cruciaux, cerner les principales possibilités et déterminer des étapes concrètes afin de renforcer les processus de rapports de SP, tout en travaillant à la conception d'évaluations à la fois représentatives et bénéfiques pour les communautés autochtones. Pendant deux jours, les participants se sont penchés sur plusieurs sujets primordiaux, ont partagé des histoires, apporté des nuances importantes et proposé des recommandations clés pour permettre à SP de repenser les processus d'évaluation.
Les commentaires recueillis tout au long du processus de mobilisation ont entraîné plusieurs recommandations à long terme en vue d'améliorer les processus d'évaluation et de les rendre plus éthiques et culturellement appropriés.
Structure d'évaluation globale
Les participants ont abordé les défis liés aux évaluations dans leur forme actuelle, les exigences de production de rapports souvent contraignantes, ainsi que les difficultés que rencontrent les communautés pour communiquer leurs réussites dans le cadre de ces modèles en place. Ils ont proposé que les processus d'évaluation actuels soient moins rigides, car souvent les effets positifs ressentis par les communautés sont passés sous silence. Ces dernières sont conscientes des effets positifs observés sur leur territoire, mais elles ont souvent du mal à intégrer ces renseignements essentiels dans les processus d'évaluation actuels. Dans l'ensemble, il faut démontrer davantage de volonté envers la révision du système d'évaluation afin que ce dernier tienne compte des priorités et des expériences vécues des communautés autochtones desservies par un programme.
Les participants ont insisté sur l'importance d'adopter dès le début une approche fondée sur les distinctions, qui prenne en considération les besoins, les intérêts et les priorités de chaque communauté des Premières Nations, des Inuit et des Métis. Il n'existe pas de solution unique permettant d'améliorer les évaluations et les rapports autochtones, mais des améliorations peuvent être apportées aux évaluations au niveau des communautés elles-mêmes.
Rôle de Sécurité publique Canada
Les participants ont indiqué qu'il était de la responsabilité de SP de réorganiser le processus d'évaluation et d'introduire davantage de souplesse dans le modèle pour permettre aux communautés d'évaluer les programmes d'une manière mieux adaptée à leurs besoins et priorités. Les communautés autochtones doivent être en mesure de définir la réussite d'un programme et de déterminer la façon la plus appropriée de communiquer cette réussite, d'une manière qui soit logique pour elles. Il incombe à SP de recueillir les renseignements fournis au fur et à mesure et de les intégrer dans les structures de rapport officielles nécessaires.
Les participants ont suggéré que les représentants de SP passent davantage de temps sur le terrain, apprennent à connaître les personnes avec lesquelles ils travaillent et les communautés qu'ils desservent. Ainsi, SP pourra mieux constater les effets des programmes. Si SP souhaite se positionner en tant que partenaire plutôt qu'en tant que simple arbitre du financement, il doit être disposé à investir le temps nécessaire en vue d'établir des relations plus solides avec les partenaires au sein des communautés autochtones.
Afin d'appuyer les processus d'évaluation, les participants ont exprimé le besoin de recevoir un soutien plus concret de la part de SP. Cela comprend un financement permettant d'organiser de grands rassemblements ou des festins communautaires durant lesquels des évaluations peuvent avoir lieu; le soutien financier pour permettre aux évaluateurs, au personnel des programmes et aux administrateurs de SP de se rencontrer en personne afin de resserrer leurs liens; ainsi que les ressources nécessaires pour réunir les communautés et leur permettre d'échanger et de partager leurs expériences.
Des processus dirigés et gérés par la communauté
Les participants ont clairement indiqué que les évaluations doivent être menées, gérées et dirigées par les communautés autochtones. Il est fondamental de faire confiance à la capacité des communautés de mettre en œuvre et d'évaluer les programmes d'une manière qui corresponde le mieux à leurs besoins et priorités. Permettre aux communautés de signaler les effets des programmes à leur manière constitue une étape importante. Les communautés autochtones doivent avoir le contrôle de leurs données, et SP doit être tenu de rendre des comptes aux communautés (et surtout aux personnes) qui ont partagé leurs histoires dans le cadre de ces évaluations.
Les participants ont indiqué qu'il est essentiel de fournir davantage de formation au personnel des programmes afin de les impliquer dans le travail d'évaluation, et favoriser la mise en place d'évaluations dirigées par la communauté. Cela nécessite davantage de formation et de ressources au niveau communautaire afin de renforcer les compétences en évaluation, en s'assurant que les évaluations sont menées par ceux qui ont exécuté les programmes.
Il est également noté que les évaluations soient présentées aux membres des communautés pour que les communautés soient en mesure d'observer comment les données sont utilisées par le gouvernement une fois les évaluations remises. Certaines préoccupations ont été soulevées concernant le fait que, lorsque les résultats des évaluations sont transmis aux ministères, la communauté n'a plus le contrôle sur ces renseignements et ignore comment ils sont utilisés.
Méthodes de production de rapports plus souples
Les participants ont suggéré qu'il est nécessaire d'adopter des méthodes de production de rapports plus souples, notamment en intégrant des supports tels que des photos, des vidéos ou des enregistrements dans le cadre des évaluations. Les participants ont souligné qu'il est essentiel d'investir davantage dans des rassemblements en personne dans le cadre du cycle de financement d'un programme et, plus important encore, dans le processus d'évaluation. Cela permet aux gestionnaires de programme, aux évaluateurs et à SP de collaborer à l'évaluation des programmes, de réfléchir aux changements à apporter et de renforcer leurs relations en tant que partenaires.
Davantage de conversations avec les communautés autochtones
Les participants ont souligné le besoin d'avoir plus d'échanges, dans divers endroits et impliquant un plus grand nombre de personnes, afin de mieux saisir les conséquences des évaluations, les approches éthiques autochtones en matière d'évaluation, et la meilleure façon de positionner les évaluations de SP en vue de soutenir les communautés autochtones. Les participants ont souligné que certains des participants de cette séance n'étaient pas autochtones, et ont insisté sur le fait qu'il y avait d'ailleurs très peu de représentants des Métis et aucun représentant inuit. Les participants ont encouragé SP à organiser des discussions similaires dans d'autres communautés de partout au pays, à les rendre accessibles à davantage de personnes, y compris celles invitées à cet événement, mais également celles qui ne l'ont pas été, dont des dirigeants communautaires, des jeunes et des Aînés.
Favoriser un changement concret
Enfin, les participants ont souligné que ces discussions ne peuvent et ne doivent pas se poursuivre si SP ne se montre pas disposé à consacrer le temps, les efforts et les ressources nécessaires pour favoriser des changements. Plusieurs participants ont fait savoir qu'ils ne désirent pas être consultés à de maintes reprises sur ces enjeux, ajoutant que, sans changements concrets, la méfiance augmentera concernant l'intention de SP de réellement évoluer.
« Rapprocher les perspectives » n'est pas une tâche facile et ne peut être le fruit d'un seul rassemblement de deux jours, ni d'ailleurs d'un rapport rédigé par la suite. Son succès ne pourra plutôt venir que du renforcement de la confiance, de l'établissement de relations ainsi que d'un environnement propice au partage des expériences de réussite de manière pertinente. Les effets au sein d'une communauté résultent de la combinaison de nombreuses histoires personnelles qui, ensemble, entraînent un changement concret pour l'ensemble de cette communauté. Il n'est pas ici tant question de déterminer la meilleure façon d'évaluer les programmes, d'assurer leur succès et de suivre les bons indicateurs, mais plutôt de savoir comment créer un espace où les histoires pertinentes peuvent briller.
- Date de modification :