Transcription
Transcription : Innover sur demande, épisode 24 : La confiance
Todd Lyons et Nathalie Crandall
C'est un plaisir de vous rencontrer.
Aaron Shull
C'est un plaisir de vous rencontrer pour moi aussi.
Nathalie Crandall
Nous allons probablement travailler sur une période de 25 minutes plutôt que de 30 minutes.
Aaron Shull
Croyez-moi, vous ne voulez pas qu'un avocat vous parle plus longtemps.
Nathalie Crandall
Eh bien, nous pouvons réduire la durée à quatre minutes puisque vous venez de nous dire que vous êtes un avocat.
Todd Lyons
Mon nom est Todd Lyons.
Nathalie Crandall
Je suis Nathalie Crandall.
Aaron Shull
Et je suis Aaron Shull.
Todd Lyons
Et vous écoutez le balado « Innover sur demande ».
Aaron Shull
C'est un plaisir d'être ici. Merci de m'avoir invité.
Nathalie Crandall
Bienvenue, Aaron, merci beaucoup. Pourquoi ne nous parlez-vous pas un peu de vous?
Aaron Shull
Je travaille pour le Centre pour l'innovation dans la gouvernance internationale situé à Waterloo, en Ontario. Et ce que nous sommes, c'est un institut de recherche sur les politiques gouvernementales. Les gens nous appellent un groupe de réflexion. Et donc, ce que nous faisons, c'est embaucher les personnes les plus intelligentes que nous pouvons trouver pour travailler à relever certains des défis de politique gouvernementale les plus urgents du monde au niveau international. Et mon sujet aujourd'hui à la conférence est le cyber, le cyberespace, la cybersécurité et la gouvernance des données. Et vous ne pourriez donc pas avoir un ensemble de questions plus compliquées qui sont plus importantes que celles-ci. C'est donc un domaine dans lequel mon organisation travaille.
Donc, quand je pense à la cybersécurité ou au cyberespace, quelques observations viennent immédiatement à l'esprit. La première, c'est que nous assistons à une perte de confiance – une perte de confiance dans le système. Ce que je veux dire par là, c'est qu'il y a deux niveaux différents où nous voyons ce genre de choses. L'un est au niveau individuel. Et c'est immense, car vous ne pouvez pas lire un journal sans voir une histoire sur la première page au sujet d'un grand piratage qui vient de se produire. En fait, l'une des statistiques que j'ai utilisées dans ma présentation d'aujourd'hui était le nombre de Canadiens qui ont vu leurs données exposées en un an. Il y a donc un rapport que le commissaire à la protection de la vie privée a produit, et entre novembre 2018 et octobre 2019 – donc en un peu moins d'un an, plus de 28 millions de Canadiens ont été touchés par une atteinte à la protection des données. Ça alors, c'est presque tout le monde. Cela vous donne simplement une idée de l'ampleur du problème.
À présent, j'ai mentionné que nous faisons de la recherche. Nous avons notamment établi un partenariat avec une société appelée Ipsos, qui est probablement l'une des plus grandes sociétés de sondage au monde, pour mener une enquête mondiale sur ce que cela signifiait pour la confiance des gens en Internet et leur confiance en la plateforme. Et surprise, surprise, plus de 50 % des gens sont aujourd'hui plus préoccupés qu'ils ne l'ont jamais été par leurs données et leur vie privée. Nous assistons donc également à ce changement. Les gens prennent conscience de ces choses-là. Et ainsi vous voyez une érosion de la confiance au niveau individuel. C'est le premier point.
Le deuxième point, c'est qu'il y a une érosion de la confiance entre les États. Et celle-ci est en fait un peu plus dangereuse, car vous commencez à voir des pays se comporter de manière vraiment agressive dans le cyberespace. Et il y a un déclin de la confiance entre les États, ce qui est en fait assez dangereux. L'exemple que j'utilise, probablement l'exemple le plus clair au Canada, est celui des discussions en cours sur l'interdiction de Huawei de l'ossature 5G. Et je n'ai pas besoin d'insister sur ce point pour notre auditoire parce que je suis sûr que la plupart des gens en ont entendu parler. Mais la question plus générale que j'ai soulevée est que le sénateur Marco Rubio, un républicain, et le sénateur Mark Warner, un démocrate, ont envoyé à Justin Trudeau, au premier ministre Trudeau une lettre pour l'implorer de ne pas laisser Huawei entrer dans le réseau 5G au Canada. C'est la première fois que je vois un républicain et un démocrate s'entendre sur quoi que ce soit depuis un petit moment. Mais la question plus générale, c'est que c'est un enjeu profondément géopolitique entre les États. Nous constatons également là cette érosion de la confiance. Et donc j'en ai parlé un peu – comme point d'ouverture – pour dire que ce n'est pas une question théorique. Cela se passe en ce moment même. Et c'est réel.
Nathalie Crandall
Il doit y avoir beaucoup de changements qui se produisent dans ce domaine, car nous avons ce genre d'explosion incroyable de données partout en ce moment. Et, j'ai l'impression qu'il y a quelque temps, nous étions vraiment préoccupés par la façon dont nous recueillions les données. Et maintenant, nous nous demandons : comment les utilisons-nous? Comment les observons-nous? Comment tirer un sens de tout cela, de ces masses de données dont nous disposons? Comment cela se répercute-t-il sur toutes ces questions de cybersécurité?
Aaron Shull
Eh bien, je veux dire, donc vous avez raison. Il y a maintenant beaucoup plus de données et beaucoup plus d'exposition. Un exemple qui m'est venu à l'esprit dernièrement est celui de Life Labs. Cette entreprise a été piratée – 15 millions de Canadiens ont vu leurs données exposées et (ont perdu) des données médicales sensibles. Je veux dire, y a-t-il quelque chose de plus sensible ou de plus important pour vous que vos résultats d'examens médicaux? Quelque chose de plus intime? Nous aurions vraiment du mal à trouver quelque chose, non? Et puis vous avez Capital One. Vous avez six millions de Canadiens dont les données ont été exposées; avec Desjardins, il y en a eu 2,9 millions de Canadiens. Eh bien, ce sont tous leurs dossiers financiers. Et encore une fois, essayez de penser à quelque chose de plus pertinent, de plus profondément personnel que vos finances personnelles. Et puis imaginez un instant que vous avez été victime des deux, d'accord? Que vos dossiers de santé personnels et vos renseignements financiers circulent – impossible d'en savoir davantage sur une personne!
Donc, la question plus générale que j'ai soulevée, c'est que nous connectons tout ce que nous pouvons à Internet. Et nous le faisons parce que cela crée de la richesse et de l'efficacité et que cela simplifie la prestation de services – c'est donc logique. Mais d'un autre côté, nous créons également une vulnérabilité. Et si vous croyez ce que l'on dit à propos du fait que nous vivons dans une économie axée sur les données, et (que) la valeur principale réalisée dans de nombreuses entreprises réside dans les actifs incorporels, des choses comme la propriété intellectuelle ont plus de valeur que jamais. Des choses comme les données ont plus de valeur que jamais. Si vous croyez tout cela, cela vous amène à vous interroger sur un paradoxe – nous connectons tout ce que nous pouvons à Internet, car cela crée de la richesse et toutes ces bonnes choses dont j'ai parlé. Mais cela crée également un énorme vecteur de menace. Essentiellement, nous rendons donc vulnérable le cœur de notre modèle économique. Et ce n'est pas grave, tant que vous avez une stratégie pour y faire face. Et donc, le problème que j'ai soulevé dans mes discussions avec vos collègues de tout le gouvernement du Canada aujourd'hui, c'est que la façon dont nous sommes structurés nous empêche en fait de comprendre cela de manière cohérente. Parce qu'à Ottawa, il y a probablement 12 ou 15 ministères qui ont une certaine responsabilité à cet égard, n'est-ce pas? Donc, si vous pensez à la cybersécurité, je veux dire, est-ce un problème de sécurité publique? Est-ce pour le SCRS? Ça l'est, parce que nous parlons de l'économie de l'innovation. Est-ce pour l'ISDE? Est-ce une question d'approvisionnement et de travaux publics? Est-ce une ressource nationale, ou est-ce pour le Conseil de recherches ou pour la GRC? Est-ce uniquement pour le CST et le Centre canadien pour la cybersécurité? Parce qu'il s'agit des affaires étrangères est-ce qu'AMC devrait participer? Bien sûr, la réponse, c'est que tous les ministères susmentionnés et bien d'autres encore sont concernés.
Nous avons donc dans cet espace cet ensemble nuancé d'acteurs qui ont tous des mandats ministériels. La cybersécurité, l'économie de l'innovation et l'économie fondée sur les données les recoupent tous. Et donc, en tant qu'étranger qui regarde cela de l'extérieur, l'une des choses dont je voulais parler un peu est la question de la façon dont nous travaillons ensemble. Comment collaborons-nous malgré cette compartimentation ministérielle de type Westminster. Car le fait est que ce problème existe indépendamment des limites des mandats disciplinaires et des limites entre leurs compétences. Et peu importe ce que contenait la lettre de mandat du ministre. Cela recoupe tout cela. Et je me demandais comment nous pouvions gérer cela dans l'ensemble du gouvernement. Mais ensuite, je me dis aussi qu'il y a une couche internationale, une couche fédérale, une couche provinciale, une couche municipale – alors le secteur privé doit participer – et il y a aussi le petit problème de la façon dont nous établissons des normes techniques et dont nous travaillons dans l'ensemble du gouvernement. Comment allons-nous travailler de façon ascendante et descendante dans cette hiérarchie, en commençant au niveau international puis en passant aux niveaux fédéral, provincial et municipal et au secteur privé? Et avons-nous un cadre cohérent dans ce pays pour résoudre ce problème? Parce que ne vous y trompez pas, il y a des États hostiles, il y a de mauvais acteurs, et ils sont extrêmement rusés, extrêmement bien coordonnés et très intelligents. Et je me suis simplement demandé à haute voix si nous avions les bonnes structures en place pour être en mesure de nous occuper efficacement de ce problème. Alors je ne sais pas si vous avez la réponse à cela. Mais je suis sûr que vos auditeurs aimeraient l'entendre.
Nathalie Crandall
Bien sûr. Selon vous, quelles sont certaines des choses que les hauts dirigeants du gouvernement devraient se soucier en priorité à ce sujet en ce moment? Par exemple, quelles sont certaines des façons prospectives dont le gouvernement peut commencer à essayer de s'occuper de certaines de ces questions? Comment pouvons-nous participer?
Aaron Shull
Oui, eh bien, c'est une bonne question. Et regardez, je ne prétends pas avoir toutes les réponses à ce genre de question. Et j'ai dit dans mon observation préliminaire que c'était incroyablement compliqué. Vous avez donc besoin de spécialistes. Et je veux dire, je comprends que dans la fonction publique nous faisons beaucoup de travail de rotation et nous avons beaucoup de généralistes. Mais on pourrait vouloir réfléchir à la façon dont on développe une capacité spécialisée dans ces domaines. Ce n'est pas quelque chose de très facile à comprendre. Il faut vraiment être un expert en la matière, car il y a beaucoup de pièces en mouvement sur lesquelles vous allez devoir ne pas perdre de vue. C'est donc peut-être là ma première observation.
Ma deuxième observation, c'est que ce n'est pas le problème d'un ou plusieurs gouvernements. C'est un problème de gouvernance, non? C'est une affaire à plusieurs intervenants. Habituellement, lorsque nous pensons à la cybersécurité, il existe une pile de la sécurité nationale qui s'occupe de ces problèmes. Mais comment interagir avec le secteur privé, qui est le plus vulnérable à ces attaques et en est la cible principale? J'ai beaucoup de temps pour les gens du CST. Et ils font du bon travail. Mais comment bâtir une culture de la mobilisation, de la mobilisation d'intervenants multiples et faire bouger les choses? Cette question est traditionnellement considérée comme du domaine de la sécurité nationale. Il y a donc une interaction à laquelle nous devons également réfléchir.
Nathalie Crandall
C'est intéressant, chaque fois que nous tenons ces séances et que nous commençons à parler de façon innovante ou à réfléchir dans un cadre plus vaste autour de l'innovation, qui est notre thème principal pour cette série de balados, et revenons à certains des vrais sujets d'actualité – et le thème commun a toujours été : comment déterminer les ensembles de compétences et les compétences dont nous avons besoin, les intégrer et les conserver? La question semble consister à se demander comment trouver les personnes qui peuvent nous aider dans ce domaine.
Aaron Shull
Assurément. Et je veux dire, c'est difficile parce qu'il y a une interaction entre des choses que nous avons toujours considérées comme des domaines distincts. Par exemple, il y avait un ministère de l'Industrie et il s'occupait des questions industrielles, puis il y avait un appareil de sécurité nationale, qui s'occupait de la sécurité nationale. Et puis vous avez vos combattants qui s'occupent de choses à l'étranger et de ce type de conflit. Et le problème, bien sûr, c'est que tout ce système s'est maintenant effondré sur lui-même. Il n'y a plus de distinction entre la sécurité nationale et la prospérité économique. Elles vont main dans la main. Mais ne me croyez pas sur parole.
J'ai donc cité le directeur du SCRS dans ses observations publiques lors de ma conversation d'aujourd'hui. Et il a dit que l'espionnage économique représentait une menace à long terme pour l'économie canadienne et pour notre prospérité. Et lorsqu'il a fait cette série de remarques, il a fondé son évaluation sur, je cite, « une tendance à l'espionnage commandité par l'État dans des domaines qui sont essentiels à la capacité du Canada à bâtir et à maintenir une économie prospère fondée sur le savoir, y compris des domaines tels que l'IA, la technologie quantique, le 5G, la biopharmacie et les technologies propres ».
Donc, si vous pensez à cela, ce dont nous parlons vraiment, ce sont les éléments de base d'une économie du savoir, nous parlons de la prospérité nationale du Canada, de la façon dont nous allons payer nos impôts, construire nos routes, envoyer nos enfants à l'école et financer nos hôpitaux. C'est la nature de la conversation que nous avons. Et il ajoute que « en raison de la nature hautement sophistiquée de ces efforts, la réalité est que les nations adverses visent (et je cite) le fondement même de la croissance économique future du Canada ». Donc, si vous croyez cela, la question qui se pose immédiatement consiste à se demander comment nous réagissons en tant que pays. Et si vous ne disposez pas d'un cadre cohérent pour déterminer la façon dont vous réagissez de manière très stratégique et très intelligente, je voudrais qu'on me donne une très bonne raison pour laquelle nous ne l'avons pas. C'est vraiment là que les objectifs se sont déplacés – vers la sécurité, l'économie, le commerce, les affaires étrangères et la politique de l'innovation, ils sont désormais tous regroupés en un seul niveau. Tout est mélangé en raison de la façon dont fonctionne l'économie fondée sur les données et l'économie du savoir et aussi de la façon dont nos adversaires se comportent.
Todd Lyons
Où commence-t-on pour essayer de résoudre un problème aussi énorme? Parce que vous avez dit qu'il y avait beaucoup de questions et que vous n'aviez pas beaucoup de réponses, vous savez, y a-t-il une réponse? Toutes ces données mises en ligne, c'est pour gagner de l'argent, mais c'est aussi une question de commodité. Et je ne crois pas que quiconque, que quelque Canadien que ce soit pourrait se contenter de se dire, eh bien, vous savez, je vais devoir me passer des services bancaires en ligne à partir de maintenant parce que je ne peux pas courir le risque que quelqu'un trouve un moyen de contourner la sécurité, parce que je ne sais pas si les correctifs de leurs serveurs sont à jour ou s'il n'y a pas une faille non découverte dans une pile ouverte, une pile de source ouverte qu'ils utilisent pour gérer leur site Web! Et, vous savez, ils sont entrés, ils ont téléchargé un gros tas encombrant composé de, vous savez, tous les comptes qui se trouvaient dans le système. Par où commencer pour essayer de bâtir ses défenses alors que le monde a changé? Vous savez, les logiciels sont toujours en évolution. Il y a donc toujours de nouveaux bogues et des choses introduites dans n'importe sorte de poussée de code...
Aaron Shull
Je voudrais faire deux observations. La première, c'est que nous avons ce système dans lequel nous nous hâtons de mettre en marché des choses pleines de bogues. Et peut-être devrions-nous y réfléchir un peu. Parce que mettre du code problématique ou des systèmes sans correctifs ou quoi que ce soit de ce genre ne fait qu'augmenter notre vulnérabilité. Mais je ne pense pas que nous devions sous-estimer l'importance des normes techniques. Et chaque fois que je parle de normalisation technique, je peux littéralement voir les yeux des gens se voiler. Donc, pour vos auditeurs, s'ils écoutent ce balado le soir, cela les endormira probablement. Mais vous savez, il ne s'agit pas seulement de uns et de zéros. L'établissement de normes techniques relève plutôt de la géopolitique profonde. Et ce que je veux dire par là, c'est que les pays tentent de convaincre les organismes de normalisation d'adopter leurs propres normes concernant des choses comme la reconnaissance faciale. Et donc, on peut voir très clairement qu'il va y avoir des problèmes de confidentialité et aussi des problèmes de transparence. Et essentiellement des questions relatives au fondement des droits humains concernant la façon dont cette technologie va être utilisée et les usages qu'on en fera. Il y a aussi un mouvement en faveur de la création de normes techniques en matière de cybersécurité. Un de mes amis dirige quelque chose qui s'appelle le CIO Strategy Council. Et ils essayaient d'établir une norme technique pour les petites et moyennes entreprises en matière de cybersécurité afin qu'elles puissent être certifiées comme étant sécuritaires. Si vous prenez l'ascenseur aujourd'hui et regardez autour vous, vous verrez un cachet de quelque chose. Je pense que c'est la CSA, l'Association canadienne de normalisation. Et il existe une norme concernant la taille des câbles des ascenseurs et le poids qu'ils peuvent supporter. Et tout le monde a vu l'écriteau qui indique que la capacité est limitée à douze personnes. Il existe une norme technique concernant la sécurité des ascenseurs. Laissez-moi vous demander si vous avez déjà craint que l'ascenseur ne tombe du dernier étage jusqu'au sol et que les câbles ne fonctionnent pas?
Todd Lyons
Non, et nous n'entendons jamais dire que cela est arrivé.
Aaron Shull
Vous n'entendez jamais dire que cela est arrivé? Il y a une norme technique, il y a une raison à cela, il y a une validation effectuée par une tierce partie pour s'assurer que tout est sécuritaire. Maintenant, revenons à ce que j'ai dit au sujet de l'importance de l'économie numérique, n'est-ce pas? Puisque nous nous assurons que nos ascenseurs sont sécuritaires, pourquoi ne pas nous assurer aussi que ce que nous connectons à Internet est sécuritaire? Nous ne le faisons pas, mais nous devrions probablement le faire. Il devrait y avoir un processus standard pour ce genre de choses.
Maintenant, il y a un autre point qu'il vaut probablement aussi la peine de mentionner ici. Les normes ne sont donc pas techniquement neutres, n'est-ce pas? Elles reflètent les volontés et les intérêts de diverses parties, et cela se produit au plus haut niveau et c'est profondément géopolitique. Les pays essaient donc d'imposer leur propre technologie dans les normes. Pourquoi? Eh bien, pour gagner en influence et en pouvoir. Tout ce que les pays aiment toujours faire. Mais il y a quelque chose d'un peu plus profond. Et je ne sais pas si vous avez déjà entendu parler de ce qu'on appelle un brevet essentiel sur les normes. Mais c'est ce qui se passe lorsque vous arrivez à intégrer votre propriété intellectuelle dans une norme technique qui doit ensuite être adoptée par d'autres – cela devient de l'argent à vie parce qu'ils doivent adhérer à la norme. Et pour adhérer à la norme, ils doivent vous payer une redevance. Les gens ne sont donc pas stupides. C'est ce qui se passe à l'heure actuelle dans ce domaine. Et nous devons donc réfléchir de manière cohérente à la manière dont nous nous comportons de manière stratégique, car c'est ce qui se passe dans le monde.
Todd Lyons
Pensez-vous que le genre de propriété intellectuelle, de logiciel breveté qui est introduit dans quelque chose, rend en fait plus difficile la tâche qui consiste à s'assurer que les produits sont sécuritaires – par opposition aux appareils de source ouverte ou aux modèles de développement de source ouverte dans lesquels tout est accessible, de sorte que n'importe qui dans le monde peut le regarder? Vous savez, de nombreuses entreprises qui estiment avoir un intérêt dans cette question pourraient faire rechercher des vulnérabilités par certains de leurs employés. Tandis que si une entreprise se rend compte que sa vache à lait va disparaître, si elle découvre qu'il y a un certain nombre de vulnérabilités critiques dans un logiciel essentiel qu'elle a injecté dans le système, est-ce que sa motivation est vraiment transparente?
Aaron Shull
Non, c'est certainement un gros problème. De toute évidence, la technologie brevetée, au sein des entreprises, pour vos affaires et la façon dont elles gèrent les données, ce qu'elles font des données est un secret bien gardé. C'est l'ingrédient mystère. Et il ne semble pas ces derniers temps que les gens soient susceptibles de l'abandonner. Et donc je suis d'accord avec vous, à 100 %. Et permettez-moi d'ajouter une saveur supplémentaire à cette discussion : que se passe-t-il lorsque l'IA devient plus omniprésente? Vous avez donc une pile de données, puis un algorithme breveté traite la pile de données pour prendre une décision. Et je suppose que les décisions que nous allons permettre à l'intelligence artificielle (et à un être humain, mais j'utilise ce terme de manière vague ici) de prendre, la prise de décisions qui va faire appel à des algorithmes, à l'apprentissage automatique et à l'apprentissage profond vont devenir plus importantes dans notre monde, pas moins importantes.
Vous avez donc entendu parler des essais d'utilisation au tribunal des cautionnements qui ont pour but de déterminer si une personne est admissible à une mise en liberté sous caution. Vous avez entendu parler de l'utilisation de ces algorithmes pour déterminer si les gens sont admissibles au crédit sur la base d'une évaluation algorithmique de l'accès. Que se passe-t-il lorsque ces décisions importantes sont prises et que nous ne connaissons pas le contenu de la boîte noire? Nous ne savons pas comment les données ont été utilisées. Je ne connais pas le vecteur décisionnel de l'algorithme. Et nous n'avons aucune possibilité de vérifier la véracité. Et arrêtons-nous là un instant et pensons à un exemple du monde réel.
Nous allons donc utiliser le tribunal des cautionnements comme exemple parce que c'est celui que vous connaissez. Par exemple, Todd, je ne vous accuse de rien ici, mais supposons que vous allez au terrain de stationnement et qu'il y a une voiture dont la vitre est brisée. Vous passiez par là et la police est venue vous arrêter parce qu'on a dit que quelqu'un qui correspond à votre signalement a été vu en train de briser la vitre de la voiture. Vous allez au tribunal des cautionnements, puis tout à coup, une décision est prise pour déterminer si vous devez être remis en liberté en attendant le procès – parce que vous êtes en fait innocent jusqu'à ce que votre culpabilité soit prouvée – ou si vous devez être placé en détention provisoire – c'est-à-dire que vous demeurez en prison jusqu'à la date de votre procès. Vous pourriez donc attendre là pendant un an, si vous n'avez pas de chance, n'est-ce pas? Ceci est très important! Alors, il ne faut pas prendre cet exemple à la légère. Je sais que nous plaisantons ici, mais c'est une décision importante. Un algorithme la prend et dit : « Eh bien NON. Je veux dire que vous portez des lunettes – et mon évaluation algorithmique me dit que les personnes qui portent des lunettes sont plus susceptibles que les autres de récidiver et par conséquent, vous la mise en liberté vous est refusée. »
Nous ne savons donc pas nécessairement comment cette décision serait prise. Il n'y a pas de transparence là-dedans. Il n'y a personne là-dedans et donc il n'y a aucun moyen de vérifier le vecteur de décision. Dans le monde réel, ce qui arrivera, c'est qu'un juge prendra cette décision. La décision et les raisons pour lesquelles elle a été prise seront consignées et vous pourrez interjeter appel. Et c'est la partie qui nous manque dans cette conversation : comment allons-nous interjeter appel des décisions prises par des algorithmes s'ils sont brevetés, si vous ne pouvez pas voir le contenu de la boîte noire? Et si vous croyez ce que j'ai dit, que les décisions vont devenir plus importantes, pas moins – nous allons devoir nous en occuper très bientôt.
Nathalie Crandall
Merci beaucoup. Tout cela a été vraiment fascinant. Oui. Bon. Je pense que ce que je préfère retenir de toute cette conversation, c'est que ce ne sera pas un problème de gouvernement, mais de gouvernance. Oui. Bon. C'est une déclaration vraiment puissante. Magnifique. Merci.
Conférencier inconnu
Vous écoutiez le balado Innover sur demande qui vous est offert par l'École de la fonction publique du Canada. Notre musique est par Grapes. Je suis Todd Lyons, le producteur de cette série. Je vous remercie de votre attention.
