La Bangko Sentral ng Pilipinas (BSP) a publié des lignes directrices volontaires sur l’usage de l’intelligence artificielle pour les banques et les opérateurs de portefeuilles électroniques, via le mémorandum n° M-2026-031, établissant des attentes minimales de supervision pour un déploiement responsable de l’IA. Les lignes directrices précisent la manière dont les institutions financières doivent traiter les systèmes d’IA qui analysent déjà les schémas de paiement, vérifient l’identité des clients et détectent la fraude dans l’ensemble des Philippines. Le vice-gouverneur de la BSP, Lyn Javier, a déclaré dans un communiqué de presse mardi 14 juillet que ces principes aident les institutions à innover tout en atténuant les conséquences involontaires liées à la technologie d’IA. Le mémorandum introduit des principes de gouvernance à mesure que l’usage de l’IA s’étend dans les services financiers philippins, où une enquête BSP de 2024 a révélé que 44 % des institutions interrogées avaient déployé au moins un système d’IA.
La BSP établit les principes de gouvernance STARS pour les systèmes d’IA
La BSP a introduit cinq principes de gouvernance résumés par l’acronyme STARS : sustainability, transparency, accountability, responsibility et security. Le vice-gouverneur Lyn Javier a déclaré que STARS fournit aux institutions financières des principes pour innover tout en atténuant les conséquences involontaires liées à la technologie d’IA. Le mémorandum exige que les clients soient informés lorsque la sortie (output) d’une IA est utilisée dans un produit ou un processus, et que les institutions divulguent les limites pertinentes lorsque les résultats d’une IA pourraient être mal interprétés ou utilisés à mauvais escient. Les utilisateurs doivent pouvoir contester la manière dont un résultat a été produit et pourquoi une recommandation a été faite.
Dans l’enquête BSP de 2024, 21 des 48 institutions financières interrogées avaient déployé au moins un système d’IA, tandis que 60 % ont inclus l’IA ou l’apprentissage automatique dans leurs feuilles de route technologiques. Les usages courants incluent la surveillance de la fraude et la lutte contre le blanchiment d’argent, des contrôles électroniques de connaissance du client, l’évaluation du risque de crédit, des recommandations personnalisées de produits et des outils d’IA générative. GCash a indiqué que l’IA et l’apprentissage automatique aident à détecter les escroqueries, la fraude, les risques de blanchiment d’argent et les accès non autorisés, tout en analysant les schémas de transactions pour déterminer l’adéquation des services. UnionBank utilise l’IA dans des chatbots orientés clients, pour aider les employés à prendre des décisions concernant les comptes, et pour la détection de fraude en temps réel.
Les institutions financières doivent maintenir une supervision humaine dans les décisions liées à l’IA
Le mémorandum de la BSP indique que les humains restent ultimement responsables des décisions prises avec l’aide de l’IA. Les lignes directrices précisent que, même si les systèmes d’IA fournissent des recommandations, les humains sont finalement responsables des décisions prises, et que la sortie de l’IA ne doit pas remplacer ou diminuer la responsabilité humaine. La BSP n’interdit pas explicitement l’utilisation de l’IA dans les décisions de crédit, permettant aux algorithmes d’analyser le revenu de l’emprunteur, les transactions, le comportement de paiement ou d’autres données, et de recommander si les demandes doivent être approuvées ou rejetées.
Les institutions financières ne peuvent pas confier la responsabilité finale aux machines et doivent mettre en place des garde-fous, attribuer une responsabilité claire des systèmes d’IA et surveiller les résultats pour détecter les erreurs et les issues injustes. Les banques et les portefeuilles électroniques doivent conserver une supervision humaine tout au long des processus assistés par l’IA, les personnes ou équipes restant responsables des décisions finales.
La BSP traite la prévention des biais dans les données d’entraînement de l’IA
La BSP a reconnu dans son mémorandum que les systèmes d’IA peuvent perpétuer des biais, entraînant des pratiques injustes et l’exclusion de personnes de l’accès aux produits et services financiers. Ce risque apparaît lorsque les modèles d’IA sont entraînés à partir d’informations incomplètes, inexactes ou non représentatives, pouvant désavantager les emprunteurs à faible revenu, les minorités, les consommateurs vulnérables ou les personnes ayant un accès limité aux services financiers formels.
La BSP a recommandé que les données d’entraînement soient bien préparées, bien représentées et exemptes de toute interférence non autorisée, tout en veillant à ce que les systèmes d’IA ne provoquent pas d’effets nocifs sur des groupes démographiques, en particulier les groupes minoritaires ou vulnérables. Les institutions doivent protéger les données personnelles, fournir des mécanismes d’opt-in ou d’opt-out clairs lorsque cela s’applique, et surveiller les systèmes pour détecter les hallucinations, c’est-à-dire les cas où l’IA générative produit des informations fausses ou inventées.
Les lignes directrices restent volontaires, sans échéance de conformité
La BSP a choisi une orientation volontaire fondée sur des principes, car les institutions diffèrent largement par leur taille, leurs capacités technologiques et l’étendue de leur utilisation de l’IA. Les lignes directrices sont non contraignantes : les institutions sont encouragées à les adopter, mais ne sont pas expressément tenues de le faire. À l’heure actuelle, il n’existe pas de date limite spécifique de conformité ni de pénalité en cas de non-adoption d’un cadre formel de gouvernance de l’IA.
La BSP a indiqué qu’elle suivrait l’évolution du secteur et, chaque fois que nécessaire, publierait des réglementations ou politiques appropriées pour favoriser l’innovation et préserver la stabilité et la compétitivité du système financier, tout en laissant ouverte la possibilité que les présentes lignes directrices volontaires puissent, à terme, servir de base à des règles plus strictes et applicables.
FAQ
L’IA peut-elle rejeter une demande de prêt bancaire aux Philippines ?
L’IA peut analyser les données de l’emprunteur et recommander l’approbation ou le rejet d’un prêt, mais la BSP exige que les humains restent ultimement responsables des décisions finales. Les institutions financières ne peuvent pas laisser la responsabilité uniquement aux machines et doivent conserver une supervision humaine, mettre en place des garde-fous et surveiller les résultats de l’IA pour détecter les erreurs et les issues injustes.
Que doivent divulguer les banques philippines au sujet de leurs systèmes d’IA ?
Les banques et les opérateurs de portefeuilles électroniques doivent informer les clients lorsque la sortie de l’IA est utilisée dans un produit ou un processus, et divulguer les limites pertinentes, en particulier lorsque les résultats pourraient être mal interprétés ou utilisés à mauvais escient. Les utilisateurs doivent pouvoir contester la manière dont les sorties ont été produites et pourquoi des recommandations ont été faites, conformément au mémorandum BSP n° M-2026-031.
