Défis et risques liés à l’IA générative : points à considérer pour les investisseurs

Les problèmes des modèles d’IA générative sont connus. Ces modèles ont tendance à « halluciner », à présenter des résultats comme des faits, même s’ils s’écartent des données d’apprentissage. Divers facteurs peuvent être à l’origine de ces erreurs, comme une architecture mal adaptée au modèle ou du bruit et des divergences dans les données d’apprentissage. L’opacité dans la façon de générer les résultats du modèle pose aussi un problème. Des milliards, voire des billions de paramètres déterminent la probabilité de chaque partie de la réponse du modèle. Il est donc très difficile d’en associer les résultats aux données source, y compris dans les cas d’hallucination.

De plus, si les données d’apprentissage contiennent des préjugés sociétaux ou si des biais humains influencent l’algorithme, le modèle risque de les intégrer dans les résultats. Les applications des entreprises sont aussi exposées aux problèmes de confidentialité des données et aux aux menaces de cybersécurité. On pense à la fuite de renseignements sensibles issus des données d’apprentissage si le modèle est destiné au client/public, à l’utilisation sans consentement explicite de données personnelles ou sensibles pour entraîner le modèle et aux attaques informatiques pour en manipuler les résultats.

Ces problèmes présentent des risques juridiques et d’atteinte à la réputation dont l’ampleur dépend de la valeur stratégique de l’utilisation et du secteur d’activité. Par exemple, vu leur caractère névralgique, les services financiers et les soins de santé peuvent subir de graves conséquences en cas de problèmes.

Dans les cas des services-conseils financiers, les hallucinations peuvent amener le modèle à se tromper dans les conseils ou les produits proposés à des clients vulnérables, ce qui risque de miner la confiance du public envers les systèmes d’IA et les institutions financières qui les utilisent. L’opacité dans la façon de générer les résultats du modèle est également un enjeu majeur pour les institutions financières, qui doivent justifier leurs décisions à l’interne et auprès des intervenants externes. Dans ce contexte, il vaut mieux établir une certaine séparation entre les résultats directs du modèle et le client. Le personnel interne pourrait être formé à reconnaître les erreurs et les incohérences du modèle et assumer la responsabilité ultime du processus de prise de décisions.

L’IA générative pourrait aussi offrir aux institutions financières un moyen rapide et économique de définir le profil des clients pour les campagnes de marketing, la gestion des risques et la détection des opérations douteuses. Toutefois, le recours excessif au profilage par l’IA générative pourrait contrevenir aux lois contre la discrimination en raison du biais potentiel inhérent aux modèles. Le jugement humain doit s’inscrire en complément des modèles d’IA générative qui effectuent le profilage des clients. Les institutions financières devront aussi faire preuve de rigueur dans leurs politiques de confidentialité des données et leurs mesures de cybersécurité afin de gérer les risques posés par l’IA générative pour les renseignements sensibles des clients et les données exclusives.

Vu les enjeux et les risques, voici les questions que les investisseurs devraient considérer dans leur évaluation des entreprises qui utilisent des outils d’IA générative.

• Quels mécanismes ou circonstances peuvent atténuer les risques? Parmi les solutions, le personnel interne peut être formé au rôle d’intermédiaire entre les résultats directs du modèle et le client. On peut chercher à comprendre les biais potentiels des données d’apprentissage et les corriger dès la conception du modèle. On peut exercer une surveillance régulière et proactive des résultats du modèle afin de repérer et corriger rapidement tout signe d’hallucination. On peut mettre en œuvre des mesures de cybersécurité rigoureuses, etc.
• Que fait-on pour améliorer le modèle? Parmi les solutions, on veille à ce que les données d’apprentissage soient de grande qualité, exactes et à jour. On met en œuvre des boucles de rétroaction pour affiner le modèle, etc.
• Y a-t-il une transparence et une surveillance à l’égard des principes éthiques en matière d’IA? Voilà qui pose la question de la transparence en ce qui a trait à la source des données et à la protection des renseignements personnels. Il faut clarifier les politiques et procédures afin de respecter les normes d’éthique et la réglementation émergente, en plus de définir les rôles et responsabilités de ceux qui développent, exploitent et surveillent le modèle d’IA générative, etc.

Les renseignements aux présentes ont été fournis par Gestion de Placements TD Inc. à des fins d’information seulement. Ils proviennent de sources jugées fiables. Ces renseignements n’ont pas pour but de fournir des conseils financiers, juridiques, fiscaux ou de placement. Les stratégies fiscales, de placement ou de négociation devraient être étudiées en fonction des objectifs et de la tolérance au risque de chacun.

Ce document ne constitue pas une offre destinée à une personne résidant dans un territoire où une telle offre est illégale ou n’est pas autorisée. Ces documents n’ont été examinés par aucune autorité en valeurs mobilières ni aucun autre organisme de réglementation dans les territoires où nous exerçons nos activités et ne sont pas enregistrés auprès de ceux-ci.

Toute discussion ou opinion générale contenue dans ces documents concernant les titres ou les conditions du marché représente notre point de vue ou celui de la source citée. Sauf indication contraire, il s’agit de points de vue exprimés à la date indiquée et sous réserve de changement. Les données sur les placements, la répartition de l’actif ou la diversification du portefeuille sont historiques et peuvent changer.

Le présent document peut contenir des déclarations prospectives qui sont de nature prévisionnelle et qui peuvent comprendre des termes comme « prévoir », « s’attendre à », « compter », « croire », « estimer » ainsi que les formes négatives de ces termes. Les déclarations prospectives sont fondées sur des prévisions et des projections à propos de facteurs généraux futurs concernant l’économie, la politique et les marchés, comme les taux d’intérêt, les taux de change, les marchés boursiers et financiers, et le contexte économique général; on suppose que les lois et règlements applicables en matière de fiscalité ou autres ne feront l’objet d’aucune modification et qu’aucune catastrophe ne surviendra. Les prévisions et les projections à l’égard d’événements futurs sont, de par leur nature, assujetties à des risques et à des incertitudes que nul ne peut prévoir. Les prévisions et les projections pourraient s’avérer inexactes dans l’avenir. Les déclarations prospectives ne garantissent pas les résultats futurs. Les événements réels peuvent différer grandement de ceux qui sont exprimés ou sous-entendus dans les déclarations prospectives. De nombreux facteurs importants, y compris ceux énumérés plus haut, peuvent contribuer à ces écarts. Vous ne devriez pas vous fier aux déclarations prospectives.

Gestion de Placements TD Inc. est une filiale en propriété exclusive de La Banque Toronto-Dominion.

^MD Le logo TD et les autres marques de commerce TD sont la propriété de La Banque Toronto-Dominion ou de ses filiales.

Les déclarations et opinions exprimées dans le présent document sont celles de Kate Tong. Elles ne reflètent pas nécessairement les opinions de Gestion de Placements TD Inc., qui ne les approuve pas expressément.