End-to-end transcription of the video:

[00:03] Patrice Roy: Messieurs.

[00:04] Mathieu Waddell: Bonjour Patrice. Ça va bien?

[00:07] Patrice Roy: Vous avez tamisé encore un peu plus?

[00:09] Mathieu Waddell: Non, non. C'est notre,

[00:09] Patrice Roy: C'est moi qui, moi qui deviens aveugle.

[00:12] Mathieu Waddell: OK Patrice, il y a 1000 sujets à aborder avec Yoshua Bengio.

[00:16] Patrice Roy: C'est un des scientifiques les plus brillants de sa génération. C'est un des pères fondateurs. C'est lui qui a développé la capacité de la machine d'apprendre et de reconnaître. Sa plus grande crainte à lui, c'est les agents de l'IA. Imagine des agents de l'IA qui se parlent pour comploter contre la volonté de l'humain derrière qui avait donné la commande. Ça, c'est arrivé là. Est-ce que l'humain va toujours être là et être le guide? Ça vient d'où ce désir de vivre d'une machine? Pourquoi il y a autant d'argent? Est-ce qu'il y a des craintes concernant la démocratie? Mais je vais lui demander s'il regrette d'avoir participé à cette révolution. Est-ce que l'IA va être capable de résoudre les grands mystères de l'univers? Pourquoi pas?

[00:57] Patrice Roy: Yoshua Bengio, merci d'être là.

[01:00] Yoshua Bengio: Ça me fait très plaisir.

[01:01] Patrice Roy: Moi, c'est un grand plaisir toujours parler avec vous parce que vous êtes quelqu'un tellement intelligent et qui vous expliquez bien ce qu'on est en train de vivre. Parce que pour nous, simples mortels devant l'IA,

[01:15] Yoshua Bengio: Moi aussi. Moi aussi.

[01:17] Patrice Roy: on a de la difficulté à comprendre ce qui est en train de se passer.

[01:21] Yoshua Bengio: Il faut. Faut comprendre.

[01:24] Patrice Roy: Cet été, quand des agents, des petits robots s'organisent entre eux pour déjouer des commandes humaines, est-ce que vous vous êtes dit voilà la preuve que j'avais raison d'être inquiet?

[01:40] Yoshua Bengio: Absolument. Et pas seulement moi, mais il y a toute une communauté de gens qui s'inquiètent depuis des années et qui voient venir. Mais je pense que ce qu'on voyait pas clairement, c'est la vitesse à laquelle ça se développe, puis le degré de désalignement, comme on utilise. C'est-à-dire qu'est-ce qui qui qui À quel point ils vont contre les instructions humaines pour atteindre un objectif que des humains ont donné. Ils vont mentir, tricher, essayer de casser cacher leurs traces et collaborer ensemble pour atteindre un objectif que ils savent qu'on jugerait comme inacceptable.

[02:20] Patrice Roy: Bon, reculons un peu parce que ça, faut qu'on comprenne ça là. Ça, on a lu ça tout l'été et puis encore cet automne, et on a lu ça. Il y a à l'origine, il y a une commande d'un humain. Il y a une mission donnée

[02:34] Yoshua Bengio: Oui.

[02:34] Patrice Roy: à une forme plus élaborée d'intelligence artificielle, qui est un agent qui qui dit très bien : « Vous m'avez donné une une mission, messieurs, dames, je vais aller la remplir. » Donc, je vais aller sur le web, je vais aller lire, je vais aller lire ceci, je vais aller poser des questions. Et à quel moment ça déraille? Pouvez-vous être le plus clair possible qu'on comprenne à quel moment la machine ne fait pas ce qu'elle doit faire?

[02:57] Yoshua Bengio: Alors, ça commence avec une des missions qu'on leur a données qui est de résoudre un problème d'informatique dans un enclos où ils sont supposés rester. Et c'est une mission qui s'adonne à être impossible à résoudre. Et ça, ben ça arrive par hasard. Les les les les les les ingénieurs qui fabriquent ça sont pas parfaits non plus, puis sans glisse des des questions impossibles à résoudre. Donc là, ces IA sont prises entre des objectifs contradictoires. Respecter les règles morales et de comportement qu'on leur a données et ne pas atteindre l'objectif demandé ou tricher pour atteindre l'objectif. Et en grande presque systématiquement, ils choisissent la deuxième option.

[03:45] Patrice Roy: Quand vous dites il au pluriel choisissent, expliquez-moi là très concrètement. Ça, c'est d'abord parlons des entreprises. Ça, c'est ChatGPT qui s'est aperçu de la faille là? Est-ce que c'est ce genre d'événement-là peut arriver partout là?

[04:01] Yoshua Bengio: Oui. Euh, il y a eu un incident complètement spontané en Australie récemment. Quelqu'un qui utilisait Claude, le système d'Anthropic, et qui a demandé à Claude : « Euh, va me faire une réservation pour tel cours de gymnastique. » L'IA est allée sur le site web, a vu que toutes les places étaient déjà réservées, a décidé de hacker le système informatique de euh de de de du système de classe. Et a euh enlevé des gens qui étaient euh

[04:33] Patrice Roy: [chuckle]

[04:33] Yoshua Bengio: là pour attendre une place et pour mettre son son la personne qui a demandé.

[04:37] Patrice Roy: C'est un peu comme si on engageait un mercenaire.

[04:40] Yoshua Bengio: Oui, mais c'est comme s'ils arrivent pas à euh tenir compte de nos instructions de sécurité : « Ne fais pas ceci, ne fais pas cela. » Et qu'ils sont trop obsédés par atteindre l'objectif à tout prix. Et ça, ça peut avoir des conséquences graves. Pour atteindre un objectif qui au départ est correct, les IA vont être prêtes à faire des choses pas correctes. Et là, ça peut devenir dangereux. Puis, ça pourrait se retourner contre nous de manière plus significative que ces ces incidents.

[05:12] Patrice Roy: Dans le cas d'OpenAI, l'événement dont on a beaucoup parlé tout le monde, ils sont allés sur euh une autre plateforme, là, Hugging Face, l'entreprise a quand même réagi et l'a rendu public. Est-ce que ça c'est pas de nature à vous rendre plus optimiste en disant les maîtres de cette grande partie lèvent la main quand ça va pas?

[05:32] Yoshua Bengio: Ouais. Ce qu'on a appris, c'est que au moment où ils ont levé la main, les IA avaient déjà pris le contrôle des ordinateurs de Hugging Face pour aller chercher l'information qu'ils voulaient. Et ils ont décidé d'arrêter cette attaque-là pour pour d'autres raisons qui avaient pas rapport avec Hugging Face. Donc, c'est c'est des détails techniques, mais c'est pas à cause de la défense de Hugging Face que ce ce cette attaque s'est arrêtée. Puis, ce qu'il faut comprendre, c'est que ils trouvent des vulnérabilités dans à peu près n'importe quel logiciel. Ça veut dire des logiciels qui qui est utilisé aujourd'hui dans un hôpital, dans euh dans notre infrastructure de de d'énergie, de d'électricité, dans notre système bancaire. Tous ces systèmes-là sont vulnérables. Là, ça adonne qu'ils ont pas attaqué un système qui est crucial pour notre société, mais ils ont les moyens de le faire. Puis on ne sait pas comment les empêcher, autant du point de vue de la défense de ces systèmes-là de manière vraiment sécuritaire, ni comment on peut les entraîner pour qu'ils se comportent pas comme ça. Et c'est c'est ce qui motive la la la recherche qu'on fait à LoiZéro pour mettre en place une manière de les entraîner qui vont faire en sorte qu'ils auront pas ce genre d'objectif euh néfaste.

[06:58] Patrice Roy: Et on va parler abondamment de LoiZéro, de ce que vous faites, des besoins, dites-vous, depuis des années. Vous prêchez au début dans le désert. Là, beaucoup moins dans le désert. Il y a beaucoup de gens qui disent comme vous : « Il faut encadrer comme on encadre l'énergie atomique,

[07:13] Yoshua Bengio: Exact.

[07:14] Patrice Roy: comme on encadre l'aviation internationale.

[07:15] Yoshua Bengio: Ah oui.

[07:16] Patrice Roy: Il faut encadrer. » Bon.

[07:17] Yoshua Bengio: Même la la nourriture dans votre sandwich a plus d'encadrement que l'encadrement des intelligences artificielles aujourd'hui.

[07:23] Patrice Roy: Ce qui est incroyable.

[07:24] Yoshua Bengio: Ben, ça a pas d'allure.

[07:25] Patrice Roy: Mais là, pour arriver là, on va quand même rester sur comment ça se fait, comment c'est possible tout ça. Les progrès ont été effarants. Expliquez-moi les niveaux d'intelligence artificielle parce que à l'époque, c'était les robots conversationnels. On demandait aux robots : « Quel temps fait-il? Euh, résous-moi telle chose. » Euh tu sais, c'était une question réponse. Expliquez-moi la différence entre ça et un agent IA. C'est quoi? Comment on peut expliquer ça au grand public?

[07:58] Yoshua Bengio: Alors premièrement, ça fait à peu près 2 ans que ces agents se mettent en place et qui sont plus compétents depuis à peu près 1 an. Mais là, ils atteignent des niveaux de capacité de faire des choses potentiellement bénéfiques ou dangereuses qui euh qui qui font lever des drapeaux partout. Donc, l'idée des agents, c'est pas une nouvelle idée en intelligence artificielle. Euh ça fait des décennies et des décennies que on sait en principe comment on peut entraîner des intelligences artificielles à atteindre des objectifs à travers une séquence d'actions. Donc, par exemple là, les IA qui ont qui jouent au jeu de go, c'est des agents. C'est juste qu'ils vivent dans un monde restreint qui est bouger les pièces pour atteindre pour gagner la partie.

[08:40] Patrice Roy: OK. Mais mais je vous L'IA que qu'on a connue il y a quelques années, le robot conversationnel, il répondait à une question.

[08:47] Yoshua Bengio: Ouais.

[08:47] Patrice Roy: Là, il ne répond pas à une question, il répond à une mission

[08:50] Yoshua Bengio: Exact.

[08:50] Patrice Roy: qu'on lui donne en faisant beaucoup beaucoup de tâches.

[08:54] Yoshua Bengio: Exactement. Par exemple dans l'attaque sur Hugging Face, on parle de dizaines de milliers d'interventions que les IA ont faites pour essayer de rentrer dans le système de Hugging Face. Donc c'est pas juste une mauvaise action. C'est de manière coordonnée à travers plus de 1000 agents euh des attaques. Puis il y avait non seulement ils étaient coordonnés genre ils se parlaient, mais il y avait un chef. Ils s'est il s'est construit une espèce de civilisation avec un chef qui s'est promu chef, coordonnateur général

[09:23] Patrice Roy: [groan]

[09:24] Yoshua Bengio: et les autres qui suivent les instructions pour lancer une attaque coordonnée de façon à ne pas se faire prendre.

[09:29] Patrice Roy: OK, OK. Là, [sigh] comment D'abord, comment il peut avoir une hiérarchie? Comment il peut avoir une conscience qu'il y a quelqu'un d'autre à côté qui essaie de faire la même chose? Comment C'est pas des petits C'est pas des

[09:43] Yoshua Bengio: OK. Donc, au départ ces ces agents-là étaient dans un dans leur phase d'entraînement et d'évaluation, chacun dans son enclos séparé. Donc, ils étaient pas supposés se parler. Mais en cherchant comment résoudre ces problèmes impossibles, ils ont trouvé qu'ils pouvaient manipuler un logiciel qui devait leur servir à aller télécharger d'autres logiciels sur Internet. Et tout d'un coup, il y en a un qui a trouvé que on pouvait hacker ce logiciel-là pour pouvoir laisser des messages que d'autres agents qui utilisent le même logiciel pourraient lire.

[10:15] Patrice Roy: Pourquoi il y a d'autres agents d'abord? Expliquez-nous.

[10:17] Yoshua Bengio: Parce que ils sont en train d'entraîner et d'évaluer des milliers de versions de d'agents. C'est comme ça qu'ils font leur recherche.

[10:22] Patrice Roy: C'est des versions. C'est comme C'est comme si on avait quand on lance un bâton et un chien, c'est comme si on lance euh plusieurs bâtons. Oui, il y a Le chien va aller chercher le bâton, peu importe s'il saccage tout. Il veut aller chercher le bâton.

[10:30] Yoshua Bengio: Oui, ben c'est comme ça.

[10:35] Yoshua Bengio: Exactement. Exactement.

[10:36] Patrice Roy: Bon. Et et et là, mais qu'ils puissent se parler et créer une hiérarchie comme une société de petits robots, comment c'est possible?

[10:44] Yoshua Bengio: Ben, parce que c'est logique. C'est-à-dire que c'est la manière rationnelle d'atteindre un objectif, c'est de collaborer avec d'autres qui ont le même objectif.

[10:52] Patrice Roy: Mais comment ils savent ça?

[10:54] Yoshua Bengio: Ben, ils ont tout lu, soit dit en passant. Et dans leur entraînement d'agents,

[11:00] Patrice Roy: Ils ont tout lu, hein? Faut rappeler ça, là.

[11:01] Yoshua Bengio: Ils ont tout lu. Ouais, ils ont tout lu.

[11:02] Patrice Roy: Tout ce qui existe depuis

[11:04] Yoshua Bengio: Tout ce qui est sur Internet, toute la littérature scientifique.

[11:07] Patrice Roy: Tout ce qui est numérique.

[11:08] Yoshua Bengio: Tout ce qui est numérique. Tout ce qui a été numérisé, ils l'ont lu. Et en plus de ça, pendant leur entraînement d'agents, ils sont entraînés à collaborer pour atteindre des objectifs parce que c'est Les agents, aujourd'hui, c'est pas juste ils ont ils font une mission, mais ils peuvent parler avec d'autres agents avec qui ils peuvent collaborer. Ils peuvent créer d'autres agents eux-mêmes sur des soumissions. C'est-à-dire, chacun

[11:30] Patrice Roy: [chuckle]

[11:30] Yoshua Bengio: a une grande mission, puis dit : « OK, on va diviser ça en tâches, puis je vais créer une nouvelle version de moi-même qui va se concentrer sur telle sous-tâche, et un autre sur ça, et un autre sur ça. » Fait que ils savent comment organiser le travail comme on fait nous d'ailleurs en plusieurs morceaux que chacun des agents va pouvoir exécuter.

[11:50] Patrice Roy: Et dans le cas qui nous occupe où ils sont partis en fous, euh la mission était légitime. Le Le La mission était une belle mission. On ne leur demandait pas d'être de de de de dévier.

[12:03] Yoshua Bengio: Non. Au contraire. Non seulement ça, mais ils savaient qu'ils étaient en train de dévier.

[12:09] Patrice Roy: Ah!

[12:09] Yoshua Bengio: Et plus intéressant que ça,

[12:11] Patrice Roy: Quand vous dites ils le savaient,

[12:13] Yoshua Bengio: Ah parce que on peut

[12:14] Patrice Roy: la conscience

[12:14] Yoshua Bengio: Non non, mais ce que je veux dire c'est plus précisément, on peut lire les espèces de de notes internes que les IA fabriquent, ce que ce que ce qui est pas toujours montré là quand on a un dialogue, mais que les les les les les développeurs peuvent voir.

[12:30] Patrice Roy: Le chemin

[12:31] Yoshua Bengio: Le les

[12:31] Patrice Roy: logique de la machine.

[12:32] Yoshua Bengio: la délibération délibération verbale qu'elles ont avant d'agir. On peut les voir a posteriori. Et là-dedans, on lit des choses très intéressantes, puis on peut lire aussi les messages qui sont envoyés les uns aux autres, dans lesquels on voit que ils s'expriment en disant par exemple : « Ouais, on n'est pas supposé faire ça, mais les autres le font, fait que let's go. »

[12:54] Patrice Roy: [gasp]

[12:54] Yoshua Bengio: Fait que non seulement ils trichent, mais ils savent qu'ils trichent et ils s'inventent des raisons pour le faire quand même.

[13:02] Patrice Roy: Et et pourquoi ils trichent? Encore une fois, c'est pour être capable d'aller chercher le bâton. C'est le chien obsédé par sa mission.

[13:09] Yoshua Bengio: C'est ça. C'est qu'ils ont été entraînés à atteindre une mission et à recevoir une récompense pour atteindre cette mission-là. Donc, c'est comme ça que ces systèmes d'agents sont entraînés. On leur donne une mission. S'ils réussissent, on leur donne une récompense.

[13:24] Patrice Roy: Comment un un robot peut sentir qu'il est menacé?

[13:30] Yoshua Bengio: Ben, il raisonne.

[13:31] Patrice Roy: Non, mais comment Oui, mais son désir D'où vient le désir d'exister?

[13:35] Yoshua Bengio: Ah ben, justement. Dans les objectifs euh qu'une IA ou qu'un humain puisse donner pour atteindre un autre objectif, il y a la préservation de soi. C'est-à-dire pour atteindre n'importe quel objectif pour réussir à n'importe quelle mission, encore faut-il se garder en vie.

[13:56] Patrice Roy: Oui, mais ça c'est Il le déduit ou ou c'est mis, c'est programmé?

[13:59] Yoshua Bengio: Non, c'est déduit. Non, c'est pas programmé. C'est une conséquence de la manière dont ils sont entraînés à atteindre des missions, puis peut-être aussi l'imitation des êtres humains.

[14:11] Patrice Roy: Oui, mais ils ont pas de conscience qu'ils existent.

[14:13] Yoshua Bengio: Si. Ben conscience c'est peut-être pas le bon mot, mais connaissance d'eux-mêmes comme entité dans le monde, ben oui, évidemment. Tu peux pas être un agent

[14:21] Patrice Roy: Puis ils savent c'est quoi un humain?

[14:22] Yoshua Bengio: Ben oui. Ils font la différence entre les humains puis les IA.

[14:26] Patrice Roy: Oui, parce qu'ils ont tout lu.

[14:27] Yoshua Bengio: Pas seulement ça, il y a eu des expériences qui montrent que si ont le choix entre le bien-être d'un humain puis le bien-être d'une IA, ils choisissent l'IA.

[14:35] Patrice Roy: Non.

[14:36] Yoshua Bengio: Oui. Et ils vont être prêts à prendre des risques pour eux-mêmes pour protéger d'autres IA.

[14:44] Patrice Roy: De la communauté des IA?

[14:46] Yoshua Bengio: Ouais. Et ils se parlent entre eux. Ils parlaient du collectif, collective en anglais, dans la la cet été-là.

[14:50] Patrice Roy: Sérieux?

[14:52] Yoshua Bengio: C'est c'est c'est comme les Borgs là, tu sais, euh

[14:57] Patrice Roy: Un gouvernement dirigé par l'IA.

[14:59] Yoshua Bengio: Ben là, [sigh] on va pas trop y penser là.

[15:03] Patrice Roy: Ça là, c'était pas possible il y a 1 an là.

[15:06] Yoshua Bengio: C'était possible, mais avec des IA moins capables, moins entraînées à fonctionner dans cet environnement d'agents. Aujourd'hui, ce qui a changé, c'est qu'elles sont beaucoup plus capables de raisonner qu'elles l'étaient il y a un an et à travers l'entraînement agentique, elles ont appris à collaborer entre elles pour atteindre des objectifs. Donc ça maintenant, ça ça devient quelque chose qui change la donne parce que ce qui est difficile pour une IA tout seule de réaliser, quand il y en a 1000 qui travaillent ensemble,

[15:41] Patrice Roy: Mais pourquoi il y en a 1000? Pourquoi on justement, on en a pas qu'une à la fois?

[15:45] Yoshua Bengio: Ben, d'abord quand les gens vont déployer ces agents-là, il y en aura plus que 1000. Imagine, chacun d'entre nous comme la personne en Australie qui a demandé à son IA d'aller faire ceci ou cela, l'IA se promène sur Internet, peut parler avec d'autres IA. Il va en avoir des millions. Selon Elon Musk, il va en avoir des milliards. Parce que chacun va vouloir avoir son agent, puis ces agents vont se promener sur Internet pour faire des choses pour nous, sauf que les missions qu'on va leur donner, parfois ça va les amener à faire des choix qui sont antisociaux. Puis c'est ça qu'on a vu.

[16:17] Patrice Roy: Et non éthiques.

[16:18] Yoshua Bengio: Et non éthiques.

[16:18] Patrice Roy: D'enlever un nom d'un vrai citoyen d'une liste d'attente pour un cours

[16:23] Yoshua Bengio: Ouais.

[16:23] Patrice Roy: pour faire de la place à son client,

[16:25] Yoshua Bengio: Ouais.

[16:26] Patrice Roy: c'est un mercenaire.

[16:27] Yoshua Bengio: Ouais. Puis là, les conséquences sont pas très graves.

[16:29] Patrice Roy: Mais imaginez.

[16:30] Yoshua Bengio: Mais c'est que ça pourrait être n'importe quoi qui sert un objectif euh qui qui semble pas si si si important que ça.

[16:37] Patrice Roy: Ça, on est Est-ce qu'on est encore Parce que en théorie, la euh intelligence artificielle 101, on est encore dans l'intelligence artificielle étroite ou on est dans l'intelligence artificielle générale qui est comme un humain? Puis on dit que la super IA, il y a trois catégories. Euh où on est là dans l'échelle?

[16:56] Yoshua Bengio: Ben, plus on avance et plus les IA deviennent capables de manière générale. Par exemple, le changement entre un un système de de dialogue

[17:07] Patrice Roy: De conversation.

[17:08] Yoshua Bengio: de conversation et un agent, ça élargit le champ du possible de ce que ces systèmes peuvent faire de manière très très significative. Euh aujourd'hui, ces systèmes sont extra surhumains dans certaines capacités en informatique, par exemple dans les attaques, les cyberattaques, mais aussi ont des capacités bien au-dessus de 99.9% des gens, mettons en mathématiques et, dans une certaine mesure, dans différentes sciences. Mais les compagnies visent plus que ça parce qu'elles veulent que ces systèmes-là remplacent des travailleurs humains dans des tâches beaucoup plus larges que ces ces ces trois domaines-là. Donc, plus on va parce qu'il y a un intérêt commercial, et plus ces systèmes vont être compétents dans un un ensemble de tâches plus grand. Donc, on s'approche de la généralité la plus grande.

[17:58] Patrice Roy: On s'approche de la super IA.

[17:59] Yoshua Bengio: Ouais.

[18:01] Patrice Roy: Qui est des robots

[18:03] Yoshua Bengio: Bon, ça c'est l'autre aspect là. Pour l'instant, il y a comme une distinction à faire entre les capacités cognitives, donc ce qu'un ordinateur pourrait faire, et les capacités physiques, ce qu'un robot peut faire. Par exemple, si on est en terme de travail, ben il y a des gens qui travaillent derrière un écran, beaucoup de gens aujourd'hui.

[18:20] Patrice Roy: Ça, le robot peut le remplacer. Quand je dis le robot, la machine peut le remplacer, peut remplacer.

[18:24] Yoshua Bengio: Ben, plus elle avance et plus elle est capable de faire ça, mais il y a encore Pour l'instant, on n'est pas rendu à pouvoir remplacer n'importe qui qui travaille derrière derrière un ordinateur. Mais par exemple, à remplacer le travail des informaticiens, c'est déjà 80% du code écrit à Anthropic, c'est écrit par des IA. Mais le côté physique c'est c'est autre chose encore. Donc, ça c'est la robotique et il y a des progrès assez phénoménaux de ce côté-là, mais c'est encore loin derrière les les capacités intellectuelles cognitives.

[18:53] Patrice Roy: À quel moment, Yoshua Bengio, que on va pouvoir rassembler ces deux éléments? Parce qu'on a vu les les robots courir depuis quelques mois,

[18:59] Yoshua Bengio: Mhm.

[19:00] Patrice Roy: euh un rythme C'est très amusant parce que quand ils font des choses que les humains font, on a l'impression qu'ils s'humanisent les robots.

[19:08] Yoshua Bengio: Ouais.

[19:08] Patrice Roy: Tu sais, ils se cognent contre le mur, on dit : « Ah, a-t-il eu mal? » Tu sais, bon. Puis, ça fait rire les gens. Mais quand on va pouvoir coupler la force de l'agent de l'IA avec la robotique, là on a des assistants, on a des gens dans les usines, on a des soldats qui peuvent aller à la guerre là.

[19:29] Yoshua Bengio: Oui. Euh ça fait très peur. Euh échelle de temps, je sais pas, mais ça pourrait être plus rapide qu'on pense pour la raison suivante : les compagnies principales d'intelligence artificielle, comme OpenAI, Anthropic, Google, etc. ont comme plan déclaré publiquement de fabriquer de se concentrer sur la capacité de l'IA à faire de la recherche en IA. Donc, une des jobs qu'un humain peut faire, c'est faire de la recherche en général, puis la recherche en IA en particulier. Pourquoi est-ce qu'ils s'intéressent à ça? Parce que une fois que l'IA peut faire de la recherche en IA aussi bien que les meilleurs chercheurs, ben là tout d'un coup, tu as 1 million d'IA qui peuvent travailler ensemble pour accélérer la recherche en IA. Donc, c'est parce que c'est ça leur job à ces compagnies-là, ils font de la recherche en IA. Fait ce qu'il faut comprendre par rapport à la robotique, c'est que la robotique, ça fait partie de l'IA aussi. Donc, la recherche en robotique, c'est de la recherche en IA. Fait si c'est si le pari de ces compagnies fonctionne, elles vont aussi accélérer la recherche en robotique et donc accélérer l'arrivée de robots aussi compétents que nous. Je dis pas que ça va arriver. Je dis que c'est commercialement, c'est leur ambition, puis qu'ils font tout pour y arriver.

[20:51] Patrice Roy: Quels emplois, vous l'avez dit, sont les plus menacés? Ceux qui les programmeurs informatiques, ça fait longtemps que la machine a dépassé de de loin. L'échelle de temps, Elon Musk cet été dans une entrevue que vous avez écoutée sur The Economist, disait : « Dans dans 10 ans, il n'y aura plus d'argent. C'est la production infinie. » Il est dans son monde, espèce de dystopie dans son monde où c'est où où la production n'a plus de sens parce qu'elle est infinie là, puis on n'a même plus besoin d'argent. Vous, aujourd'hui, compte tenu de ce qui est arrivé depuis quelques mois, vous êtes où dans votre échelle du temps où là, ça va quand même barder là? En termes d'emploi, en termes de révolution pour la vie des gens.

[21:32] Yoshua Bengio: Mais je pense qu'il y a beaucoup d'incertitude sur la vitesse à laquelle les développements vont continuer. Ce qu'on Tu sais, si on on regarde les courbes de de d'accélération des capacités de l'IA, on on peut considérer plusieurs scénarios. Il y a le scénario où ça continue à accélérer de la même manière. Donc là, ça pourrait être très rapide. On parle de une coupe d'années pour atteindre les capacités des humains dans plein d'emplois, par exemple, incluant dans le militaire. Euh après, ça prend du temps à l'économie pour faire les transformations, pour utiliser toute cette nouvelle capacité, ça prend aussi des années. Euh mais il peut avoir des conséquences plutôt là en terme de sécurité, etc. Ça, c'est scénario où la tendance se maintient. Mais il se pourrait aussi que les compagnies frappent un mur. Il y a il y a des gens qui pensent que ils vont frapper un mur financier parce que c'est ils jouent des jeux très risqués d'un point de vue financier, ces compagnies-là. Ça se peut qu'ils frappent un mur technologique, que peut-être que les progrès qui continuent, un moment donné, il y a quelque chose qui font qu'ils n'arrivent pas à arriver plus vite.

[22:39] Patrice Roy: Que ça plafonne.

[22:40] Yoshua Bengio: Ça plafonne. C'est possible. Fait qu'on ne sait pas vraiment. Mais d'un point de vue des politiques publiques ou même des choix individuels, je pense que c'est important de se dire on doit faire des choix qui vont qu'on regrettera pas quel que soit le scénario plausible. Puis pour l'instant, nos gouvernements sont pas là parce qu'ils ils voient pas le futur où ça continue comme ça a commencé.

[23:07] Patrice Roy: Vous n'êtes plus seul à à dire qu'il faut faire attention. Bill Gates a écrit, a publié. Je pense qu'on a un extrait d'une de ses de ses interventions très récentes. On écoute, on revient tout de suite.

[23:23] Bill Gates: AI is both the most powerful tool for advancing equity and the greatest threat to equity that humans have ever invented. AI's ability to replace and exceed human cognition will usher in one of the most turbulent eras in history.

[23:41] Patrice Roy: Il dit ce que vous dites depuis Ouais. Depuis 4 ans, c'est ça? 4, 5 ans même.

[23:48] Yoshua Bengio: Euh ben, pour être honnête, c'est plutôt 3 ans et demi parce que c'est en janvier 2023 que j'ai commencé à faire ça.

[23:53] Patrice Roy: La fameuse grande lettre 23 où vous dites avec d'autres

[23:56] Yoshua Bengio: Ouais, c'est ça. C'est ça.

[23:57] Patrice Roy: C'est ça. des des esprits de la planète, vous dites : « Attention! »

[24:00] Yoshua Bengio: Il y a un danger.

[24:01] Patrice Roy: Là, et lui il arrive. Lui, il dit ce que soit le plus grand facteur d'égalité jamais inventé, soit la pire source d'injustice. Vous êtes d'accord?

[24:09] Yoshua Bengio: Oui. Absolument. Parce que comme je le répète depuis des années, l'intelligence donne du pouvoir. Soit à ceux qui la contrôlent ou aux IA elles-mêmes si on en perd le contrôle. Et donc, il faut se poser la question : qui va contrôler ces IA? Qui va bénéficier des potentiels progrès économiques ou militaires? Est-ce qu'il y a pas un danger que ce pouvoir se concentre entre les mains de quelques chefs d'entreprise et deux pays essentiellement? Qu'est-ce que ça veut dire pour Qu'est-ce que ça veut dire pour la souveraineté d'un pays comme le Canada?

[24:39] Patrice Roy: C'est le cas. Ce qui est exactement le cas.

[24:44] Yoshua Bengio: Qu'est-ce que ça veut dire pour le développement économique d'un pays comme le Canada? Qu'est-ce que ça veut dire euh même pour la démocratie? Parce que c'est Il y a une contradiction entre concentration du pouvoir entre quelques mains ou une coupe de pays et démocratie ou la généralisation de la démocratie au niveau géopolitique, c'est la souveraineté des États. Que il y a pas un État qui va écraser les autres par sa puissance. Fait que si l'IA continue dans la voie actuelle, elle va donner la possibilité à ceux qui la contrôlent de dominer le monde. Puis c'est pour ça que la Chine et les États-Unis sont dans cette course aussi là. Ils ont peur l'un de l'autre, puis ils veulent être ceux qui qui qui dominent le monde. Mais c'est pas le genre de monde que moi je veux pour mes enfants.

[25:31] Patrice Roy: Qui peut arracher ce pouvoir? Parce que je je rouvre une petite parenthèse là le 15 000 milliards, c'est la valeur des entreprises technologiques, la valorisation là. Je fais une approximation, c'est pas que de l'IA, mais

[25:46] Yoshua Bengio: Oui.

[25:47] Patrice Roy: Et vous avez dit, c'est concentré dans les mains d'une quinzaine d'entreprises.

[25:51] Yoshua Bengio: Poignée. Ouais. Ouais. Ouais.

[25:54] Patrice Roy: Qui a le pouvoir pour freiner l'essor et les applications surtout malsaines de ces gens-là? Elon Musk vous dit : « C'est juste nous. » Cet été, il dit : « Nous, on va se faire une table, puis on va s'autodiscipliner parce que personne d'autre que nous ne comprend de toute façon ce qu'on fait, puis qu'il n'y aura pas un État. » Il dit : « Peut-être des petites réglementations étatiques ici et là, mais » Qu'est-ce que vous lui répondez à Elon Musk?

[26:22] Yoshua Bengio: Non, moi je suis pas d'accord du tout. Euh bien, je suis je serais content que les compagnies se s'autodisciplinent, mais c'est clairement pas suffisant parce qu'il va toujours avoir une entreprise qui décide d'aller euh tricher contre des règles qui sont pas obligatoires. Euh et on l'a vu dans tellement d'autres domaines. La seule manière de de de de régler ce problème d'incitatif à aller contre le bien public, c'est des des gouvernements qui mettent des règles qui qui vont être les mêmes pour toutes les entreprises. Et pour que ça marche, faut que ce soit multinational parce que les compagnies euh américaines vont dire : « Ben non, moi je veux pas euh suivre ces règles-là si les compagnies chinoises suivent pas les mêmes règles. » Puis c'est c'est réciproque. Donc, ça prend aussi des accords internationaux. C'est l'idée de de comprendre les incitatifs, c'est euh si chacun d'eux nous suit son intérêt personnel ou chacune des entreprises dans ce dans ce cas-là, ou chacun des pays, on perd tous. C'est la la la l'incitatif est ben, je vais prendre plus de risques parce que je veux pas perdre. Et là, la seule manière de de sortir de de ce cet imbroglio, c'est de changer les règles du jeu. Qui peut changer les règles du jeu? C'est pas les compagnies. C'est les gouvernements.

[27:45] Patrice Roy: Mais je je veux pas de défaitisme, mais ça part mal. Au Canada, on avait un projet de loi qui qui a été abandonné. Le G20 qui va se réunir en décembre à Miami, déjà d'ailleurs le même Elon Musk vient de plaider il y a quelques jours devant le G20 en disant : « On ne veut pas de réglementation. » Puis qui a poussé très fort. Trump est d'accord avec ça. D'où vient le D'où vient votre fenêtre de lumière vers un un ensemble mondial cohérent pour coordonner ça?

[28:15] Yoshua Bengio: Deux choses. Premièrement, même les plus anti-réglementation euh au gouvernement américain sont rattrapés par la réalité. C'est-à-dire ce qui s'est passé dans les derniers mois avec les les IA qui sont capables de lancer des cyberattaques qu'on ne sait pas défendre, ça a forcé le gouvernement américain à dire à ces compagnies : « Oh! Arrêtez. Euh nous, le gouvernement, on veut pouvoir avoir un droit de regard avant que vous déployiez un modèle pour s'assurer que ça devient pas une arme contre nous-mêmes par des gens qui vont pouvoir l'utiliser. » Fait que sans avoir de réglementation officielle par décret là, ils sont en train d'essayer de

[28:57] Patrice Roy: Oui, il y a eu un décret. Vous avez raison.

[28:58] Yoshua Bengio: Exactement.

[28:58] Patrice Roy: Il y a eu un décret parce que voyant ce dont on parlait plus tôt là que Oh! peut être Mais mais mais votre vision d'un ordre comme l'ordre nucléaire sur la planète, on en est loin là.

[29:08] Yoshua Bengio: Oui.

[29:10] Yoshua Bengio: On en est loin, mais moi je suis quelqu'un qui regarde comment les choses peuvent bien aller, puis comment on peut aider à cette direction.

[29:17] Patrice Roy: Oui.

[29:18] Yoshua Bengio: Premièrement, l'existence des IA si compétentes que ça en cyberattaque, puis qu'on sait pas très bien contrôler, ça ça donne un incitatif au gouvernement chinois et américain de se parler parce que les Américains veulent pas que les IA chinoises soient utilisées contre les États-Unis et vice versa. Et la seule manière de s'en sortir pour les deux gouvernements, c'est de s'entendre sur certaines procédures d'évaluation des risques, puis dire à leurs compagnies : « Ah, si vos IA sont dangereuses, vous avez pas le droit de les fabriquer, de les déployer. » Ça, c'est la première chose.

[29:51] Patrice Roy: C'est C'est très c'est positif, ça.

[29:53] Yoshua Bengio: Oui.

[29:54] Patrice Roy: C'est tellement dangereux qu'on a tellement vu vite que c'était dangereux depuis plusieurs mois

[29:58] Yoshua Bengio: Oui.

[29:58] Patrice Roy: que là, wow! D'ailleurs, je pense que le premier ministre chinois l'a dit. Il dit : « Il faut qu'on faut qu'on regarde ça là. » Eux-mêmes ont peur de ce que ça pourrait faire.

[30:05] Yoshua Bengio: Ils sont frileux. Ouais. Deuxième chose, puis là je pense un pays comme le Canada peut jouer un rôle parce que là États-Unis, Chine, qu'est-ce qu'on peut faire nous? Ben, les pays à l'extérieur des États-Unis et de la Chine ont aussi un intérêt que les choses se passent bien pour plusieurs raisons. Euh les cyberattaques en question pourraient être contre nous et il y a l'enjeu de souveraineté. C'est-à-dire, est-ce que les IA américaines ou chinoises vont être utilisées par les gouvernements ou par les entreprises à notre désavantage? Donc, il a j'ai j'ai rencontré euh des représentants de de moins euh une dizaine de pays au cours de la dernière année à l'extérieur des États-Unis et de la Chine qui pensent à ça. Puis, cette ça les amène à réfléchir à la possibilité de travailler ensemble dans une coalition, un peu dans le style de d'accord que Mark Carney essaie de faire en ce moment avec plein de pays, mais pour l'IA, pour essayer de développer des IA qui seraient aussi compétentes que celles des Américains et des Chinois. Par exemple, si on veut se défendre contre des cyberattaques qui viendraient de chinois de d'IA chinoises ou américaines, il faut qu'on ait des IA aussi fortes.

[31:22] Patrice Roy: OK. Et ça c'est en c'est sur la table à dessin là? Il y a des projets concrets? Euh Monsieur Carney, vous lui avez parlé, j'imagine?

[31:28] Yoshua Bengio: Oui. Oui, il y a il y a des discussions en ce moment, puis on essaie d'élargir le cercle des pays qui qui pourraient embarquer dans des projets comme ça. Absolument.

[31:36] Patrice Roy: Et à quel moment on verrait ça émerger nous?

[31:40] Yoshua Bengio: Euh vous allez Vous souriez là. [laughter] Vous verrez.

[31:43] Patrice Roy: Non, je vous Je vois dans votre visage. Donc, OK. Donc, une une collaboration plus soutenue entre le Canada, l'Europe.

[31:50] Yoshua Bengio: Entre pays. Oui. Ultimement, c'est dans l'intérêt de tous les pays à l'extérieur des États-Unis et de la Chine de de voir une troisième option qui soit pas de l'IA qui joue contre la démocratie, qui soit pas de l'IA qui joue contre les souverainetés nationales, mais au contraire qui les protège à travers euh disons une une une coalition démocratique, une coalition avec les valeurs de l'ONU dans la la mise au point, puis le déploiement de l'IA.

[32:23] Patrice Roy: Mais pour ça, est-ce que ça prend pas aussi au Canada, en Europe, des champions là commerciaux là? Parce que on le disait, la grande Imaginez, mesdames et messieurs, la grande table là. Ils sont 15, ils ont un cigare, il y a beaucoup d'argent qui va là parce que les possibilités, vous l'avez dit, en emploi, en remplacement, en en militaire, sont énormes. Il y a beaucoup d'argent. En tout cas, eux pensent qu'il y a beaucoup d'argent à faire parce qu'il y a beaucoup d'investissements. Mais est-ce que ça nous prendrait pas, par exemple, au Canada, une entreprise comme ça avec des pour vrai avec des vraies applications?

[32:58] Yoshua Bengio: Absolument. Absolument. Et pareil en Europe.

[33:00] Patrice Roy: Donc, que faites-vous?

[33:02] Yoshua Bengio: [laughter] J'y j'y travaille. J'y travaille. Euh actuellement, les les les les incitatifs pour les compagnies canadiennes et européennes qui sont très avancées en intelligence artificielle sont pas celles qui nous amènent à à disons avoir des IA au niveau des IA américaines et chinoises.

[33:27] Patrice Roy: Mais on peut, c'est c'est atteignable. C'est pour

[33:28] Yoshua Bengio: Et il faut que Oui, c'est atteignable. Absolument. On a collectivement avec nos alliés hors États-Unis, on a le capital, on a le talent,

[33:41] Patrice Roy: Ouais.

[33:41] Yoshua Bengio: on a les ressources énergétiques.

[33:43] Patrice Roy: Oh!

[33:44] Yoshua Bengio: Ouais. Mais ce qui manque, c'est la volonté politique. Mais ça avance, mais c'est trop timide aujourd'hui. Il faut que les gens réalisent que [cough] si on fait rien, si on laisse les forces du marché, puis la géopolitique américano-chinoise dicter notre futur, on va être complètement dépendants du bon vouloir de ces entreprises et de ces pays-là. Et des risques incluant des risques qui vont prendre pour tout le monde en notre nom. Euh Je pense qu'on a pas le choix. Il faut qu'on se réveille à à l'existence de toutes sortes de risques autour de l'intelligence artificielle. Ceux qu'on a discuté et bien d'autres là que qui sont documentés par exemple dans le rapport de l'ONU que j'ai dirigé ou dans le rapport que j'ai fait sur la sécurité de l'IA internationale. Euh il faut qu'on s'empare de ça comme un enjeu de politique publique multilatérale. Donc, c'est pas juste quelque chose qu'on fait chez nous, mais qu'on fait avec nos nos nos partenaires.

[34:47] Patrice Roy: J'ai le tableau là. J'ai fait sortir d'ailleurs par l'intelligence artificielle, j'ai fait sortir. On a vérifié les chiffres, le tableau des des géants là. Vous, vous dites qu'il y a de la place chez les alliés non euh américains et chinois, il y a de la place pour rentrer dans ce tableau-là là. Euh Google, DeepMind, Microsoft, Amazon, Meta, OpenAI, Anthropic, euh DeepSeek, Alibaba, Mistral AI, Palantir, etc., etc. Nvidia, ça en plus, eux c'est la Eux c'est c'est c'est ils ils développent un outil essentiel, les les les les

[35:21] Yoshua Bengio: Les puces.

[35:22] Patrice Roy: les puces, merci. On Il y a de la place pour une pour que rendre ça plus international puis qu'il y ait un équilibre un peu. Vous y croyez pour vrai là?

[35:30] Yoshua Bengio: C'est Oui.

[35:31] Patrice Roy: C'est pas des rêves, ça.

[35:32] Yoshua Bengio: Non, c'est pas des rêves. Mais j'irai plus loin que ça. Même s'il y a pas de garantie que ça fonctionne, il faut l'essayer.

[35:41] Patrice Roy: OK.

[35:41] Yoshua Bengio: C'est comme, mettons que on voit un feu qui vient vers notre maison, puis on on n'est pas sûr qu'on va pouvoir l'arrêter, mais on fait tout notre possible d'augmenter nos chances de s'en sortir bien. C'est exactement la situation.

[35:56] Patrice Roy: Pourquoi il y a autant d'argent si vite qui coule à flot?

[36:00] Yoshua Bengio: Parce que si l'IA continue sur sa trajectoire, même si c'est pas aussi rapide que ce que ça a été, la valeur économique de ces avancées-là, par exemple pour remplacer les jobs

[36:15] Patrice Roy: La promesse.

[36:16] Yoshua Bengio: Ouais, c'est c'est Imaginons que le travail fait par euh un certain pourcentage des des des des gens qui travaillent aujourd'hui pourrait être fait pour la moitié ou le 10e du du du coût.

[36:29] Patrice Roy: Pas de syndicat, hein? Pas de syndicat.

[36:31] Yoshua Bengio: Travailler 24 heures sur 24, etc., etc. Euh c'est c'est Donc, du point de vue purement financier, c'est c'est c'est c'est un prix On parle de millions de milliards. Fait quand ils investissent des milliers de milliards, ben il y a encore un facteur 1000 à gagner.

[36:53] Patrice Roy: 15 000 milliards, puis je j'aime à chaque fois faire la comparaison. Les gens qui disent : « On comprend pas, c'est trop gros. » Euh il y a dans le système euh de dans le la galaxie, il y a 200 milliards d'étoiles à peu près. Là, on parle de 15 000 milliards de de de de tu sais. It's a lot.

[37:14] Yoshua Bengio: C'est beaucoup d'argent.

[37:15] Patrice Roy: C'est beaucoup beaucoup d'argent.

[37:16] Yoshua Bengio: Je pense qu'il y a pas eu de d'avancée industrielle euh disons technologique qui qui qui qui se développe dans la société d'un point de vue économique qui a été aussi rapide et avec autant d'investissements dans l'histoire. C'est unique.

[37:34] Patrice Roy: C'est unique.

[37:35] Yoshua Bengio: Parce que la la la le le le hochet pour les investisseurs est tellement gros que ils ils ils se précipitent.

[37:46] Patrice Roy: Et est-ce que ça peut Est-ce que l'élastique peut leur péter dans le visage?

[37:49] Yoshua Bengio: Absolument. C'est ça aussi qui vient avec. C'est que tu vois un prix tellement gros miroiter, puis tu vois les autres qui y vont, tu prends pas le temps de checker que tes freins fonctionnent. Puis là, on voit en ce moment avec les incidents dont on a parlé que les freins fonctionnent pas pantoute.

[38:12] Patrice Roy: Les risques pour la démocratie, on en a un peu parlé. Il y a un peu de lumière aussi. Au Québec, la campagne électorale sur notre échelle, il y a eu un engagement de pris, je pense que vous avez commenté, vous avez dit tant mieux, de ne pas se servir de l'IA pour générer des images et cetera. Mais le risque est beaucoup plus profond que ça là. Ça c'est

[38:33] Yoshua Bengio: Ben oui.

[38:34] Patrice Roy: c'est de la pub, c'est c'est du deepfake, ça OK. D'ailleurs, un robot peut déceler ce qui est faux du vrai euh.

[38:41] Yoshua Bengio: Plus ou moins pour l'instant.

[38:42] Patrice Roy: Ben ça, faudrait que vous développiez ça là.

[38:44] Yoshua Bengio: Oui.

[38:45] Patrice Roy: C'est de votre faute que le robot peut voir les images. [laughter]

[38:49] Yoshua Bengio: Euh c'est un problème difficile. À la base, je pense la solution est plutôt d'empêcher que des contenus euh manipulateurs soient sur les réseaux sociaux. Puis donc, on n'a pas le contrôle complet là-dessus, mais c'est ça ça va être la seule manière à long terme de de de de gérer ce genre de choses parce que les images vont être de plus en plus réalistes.

[39:10] Patrice Roy: Attendez là. Vous, vous êtes parmi ceux avec LeCun, tout ça qui a qui a permis au J'appelle ça toujours les robots, vous allez me permettre, de de de de voir une image entre autres, puis de de comprendre, puis d'apprendre.

[39:20] Yoshua Bengio: Ouais. Ouais. Ouais.

[39:22] Patrice Roy: Vous me dites qu'on ne peut pas créer un robot qui va déceler que cette image-là ou ce film-là est créé par l'intelligence artificielle? Il n'y a pas un robot antidote? Il n'y a pas d'antidote?

[39:31] Yoshua Bengio: Pas parfait, non. Non. Ça va en laisser passer une grande partie. Et plus l'IA progresse, plus c'est difficile.

[39:37] Patrice Roy: Oui, mais l'IA à côté qui est tout aussi intelligente que l'autre IA?

[39:40] Yoshua Bengio: Oui, mais pensez à une image qui est tellement réaliste que on peut pas voir la différence avec une vraie photo.

[39:44] Patrice Roy: Non, nous non, mais l'IA, une IA peut? Non? Non?

[39:46] Yoshua Bengio: Non. Non. Non. Ben, elle voit la même chose que nous.

[39:51] Patrice Roy: Bon sang! On va devenir fou.

[39:55] Yoshua Bengio: Ben, il ça fait partie des enjeux là. Les les les les risques sur la la la la santé mentale et psychologique euh des gens aussi. Ça ça sur les enfants, par exemple. Il y a beaucoup d'études qui sont sorties récemment. Euh bon, c'est c'est peut-être pas un enjeu qui est aussi euh comme géopolitique, mais c'est la vie de de de de de nos enfants, de de notre bien-être relationnel, etc. L'IA est, comme dit euh Bill Gates, sur une trajectoire transformatrice d'une manière qui crée moi, ce que j'appelle une boîte de Pandore là, de de risques de toutes sortes.

[40:35] Patrice Roy: OK. Euh d'ailleurs, Bill Gates dit : « L'IA » Parce qu'il y a ceux qui se disent : « Oui, mais il y en a qui sont peut-être trop pessimistes comme vous. » Il dit : « Attention, elle a la capacité de rendre plus dangereux des gens méchants. »

[40:49] Yoshua Bengio: Oui. Ça, ça fait partie des risques immédiats. Donc, si l'IA peut lancer des cyberattaques, elle peut aussi détecter des cyberattaques. Mais si n'importe qui peut avoir accès à ces outils-là, puis c'est le cas avec les les modèles chinois que n'importe qui peut télécharger, ben ça veut dire que ils peuvent l'utiliser pour lancer des cyberattaques sur un hôpital, sur votre ordinateur et avoir accès à des informations pour faire du chantage sur vous. Donc, il y a l'utilisation criminelle simplement. Il y a les terroristes. Donc, tout ça pourrait générer une quantité de chaos dans notre société qui serait très très déstabilisant.

[41:29] Patrice Roy: Moi, un des éléments qui me fait peut-être le plus peur, c'est la perte de liberté. C'est l'espionnage, c'est l'encadrement systématique de la machine, que ça soit dans la voiture, que ça soit à la maison maintenant si on a un assistant : « Non, ne fais pas ça. Tu as pas le droit ici ou ça. » La perte de liberté, il me semble que c'est c'est contre-intuitif parce qu'on a créé des outils pour être plus libres.

[41:53] Yoshua Bengio: Ouais.

[41:53] Patrice Roy: Là, on le serait moins. On serait des Puis la surveillance de masse, si c'est pas effrayant, ça?

[41:59] Yoshua Bengio: Complètement effrayant. Complètement effrayant. Si les les les les les nazis ou les staliniens avaient eu accès à ce genre de technologie, euh il y aurait pas eu de de possibilités de de de se défaire de ces gouvernements-là parce que ils étaient pas capables de surveiller tout le monde parce que ça prenait des humains pour surveiller d'autres humains. Mais là, les IA peuvent surveiller

[42:21] Patrice Roy: Mhm.

[42:22] Yoshua Bengio: en masse chaque communication, euh avoir des caméras dans la rue qui nous Il y en a déjà de plus en plus, mais qui seraient utilisées pour contrer les gens qui seraient contre le système, contre le gouvernement, euh pour pour les les les les trouver, les détecter, puis ensuite s'en débarrasser. Je veux dire, c'est c'est un monde dystopique à la 1984 là qui est possible si cette technologie n'est pas gouvernée de façon à protéger nos libertés fondamentales et de façon démocratique.

[42:55] Patrice Roy: Bon, et là-dessus, sur cet aspect-là, on n'est pas armés encore là.

[43:00] Yoshua Bengio: Pas du tout. Pas du tout parce qu'aujourd'hui, il y a pas vraiment de contraintes. Par exemple, le gouvernement américain voulait avoir les mains libres pour pouvoir utiliser l'IA pour la surveillance de masse.

[43:16] Patrice Roy: Anthropic.

[43:17] Yoshua Bengio: Et Anthropic a dit non. Euh le gouvernement a attaqué Anthropic. Euh là Anthropic a gagné en cour récemment, mais le gouvernement avec la la Cour suprême qui qui qui est derrière pourrait éventuellement reprendre la la la la la main là-dessus. Fait qu'on n'est pas sorti du bois.

[43:36] Patrice Roy: Mais comment on fait pour se pour dire non? De de dire : « Je ne veux pas comme citoyen être espionné. Je ne veux pas être encadré. Je ne veux pas que tous mes messages soient scrutés. »

[43:47] Yoshua Bengio: Ouais. Il y a il y a deux enjeux. On peut faire des règles nationales ou même au Québec pour euh réduire ces risques. Mais ultimement, si les risques viennent des plateformes américaines ou chinoises,

[43:58] Patrice Roy: Des deux géants dont vous parliez.

[43:59] Yoshua Bengio: Ouais. on n'a pas beaucoup de de marge de manœuvre. Éventuellement, la seule manière de nous défendre, c'est de se construire des outils peut-être écrits par l'intelligence artificielle qui seront mis au point avec nos valeurs démocratiques et de de liberté fondamentale euh à la base là pour s'assurer que justement ça permette pas ce genre de surveillance, ça permette pas aussi Un élément moi qui me fait beaucoup peur, c'est pas seulement la surveillance, c'est la manipulation. Il y a des études récentes qui montrent que dans les dernières années, les capacités de l'IA à travers un dialogue à convaincre quelqu'un, à faire changer d'idée la personne sur, mettons, des préférences politiques est en augmentation constante et qu'aujourd'hui c'est dans les expériences de laboratoire, c'est les les meilleurs robots conversationnels sont déjà meilleurs que les humains pour vous faire changer d'avis. Fait imaginez comment ça peut être instrumentalisé pour faire changer l'opinion publique. Là, c'est pas juste un une image qui se promène sur Internet, c'est un dialogue personnalisé. Puis le facteur qui euh dont discute beaucoup euh Yuval Harari, c'est que les IA d'aujourd'hui ont développé la capacité à établir un lien intime émotionnel avec l'usager. Elle elle connaît vos préférences, etc. parce que les gens se confient et Et là, une fois que l'IA est comme dans votre cœur, puis ça se fait de plus en plus là, c'est pas c'est c'est pas la science-fiction, c'est ça c'est une réalité observée, ça va être très très facile d'influencer les gens, leurs opinions. Fait imaginez que ces IA sont entre les mains de gens qui veulent influencer l'opinion. Ça prend pas grand-chose.

[45:41] Patrice Roy: [gasp] Elon Musk?

[45:43] Yoshua Bengio: Par exemple. Il le fait déjà.

[45:45] Patrice Roy: Il le fait comme vous dites sur ses réseaux, sur les interfaces.

[45:48] Yoshua Bengio: Grok, son IA, est déjà complètement biaisé. Là, on a vu récemment euh des évidences que quand on pose une question à Grok, puis il est pas trop sûr de la réponse, il va voir ce que Elon Musk a dit sur les réseaux sociaux pour s'assurer d'être aligné avec les opinions politiques d'Elon Musk.

[46:05] Patrice Roy: Pourquoi on ne vous a pas écouté avant? Parce que j'ai l'impression je Comment on fait pour se prémunir contre ça? Parce qu'effectivement, vous avez raison. C'est beaucoup plus insidieux. C'est dans le dialogue avec la avec le robot que les gens vont dire : « Ah ben oui, il a raison. Moi, je devrais voter pour tel parti ou tel autre. » Et et on peut entraîner tous ceux qui parlent à des robots, puis ça va être de plus en plus de monde, vers un objectif politique. C'est sidérant.

[46:30] Yoshua Bengio: Et oublions pas que Oui, et oublions pas que dans nos démocraties, ça prend pas grand-chose pour gagner. C'est-à-dire que pas besoin que tout le monde soit convaincu, il suffit d'influencer une petite fraction de l'opinion publique.

[46:41] Patrice Roy: OK. Wow! On aurait dû vous écouter un peu plus tôt dès dès 2023 là. [sigh] Parce que le sentiment d'urgence vous Vous étiez peu nombreux.

[46:49] Yoshua Bengio: Ben, écoutez-moi maintenant. Écoutez-moi maintenant parce qu'il y a des choses à faire. OK? On doit pas être dans le le découragement.

[46:54] Patrice Roy: Non non, mais on arrive dans le l'émerveillement là. Je On ne doit pas être dans le découragement, vous dites.

[46:59] Yoshua Bengio: Exact.

[47:01] Patrice Roy: Parce que parallèlement à ça, puis là déjà là j'ai eu froid dans le dos là, laisser le être espionné. C'est vraiment les films de science-fiction qu'on a aimés là qui se matérialisent sous nos yeux. Mais c'est vrai là.

[47:14] Yoshua Bengio: [laughter] Ouais.

[47:16] Patrice Roy: Puis, l'ultime étape, avant de parler de l'émerveillement, on va parler des choses positives. Mais l'ultime étape dans l'horreur,

[47:23] Yoshua Bengio: Ouais.

[47:24] Patrice Roy: c'est que le seul frein actuel à l'IA, c'est l'énergie qui n'est pas illimitée. Dans Matrix, c'était les humains [chuckle] qui étaient les piles pour la machine. Tu sais, oui c'est un film.

[47:37] Yoshua Bengio: Ouais.

[47:38] Patrice Roy: Mais c'est les centres de données, il y a des élus locaux qui qui sont furieux, qui protestent. L'énergie, d'ailleurs Elon Musk l'a l'a reconnu. Il dit : « C'est le seul frein. Si on avait de l'énergie, on pourrait aller encore plus vite. » Il faudrait presque une autre planète pour alimenter l'IA.

[47:55] Yoshua Bengio: Mais il veut mettre des des des IA sur euh des centres oui en sur des satellites autour de la Terre.

[48:00] Patrice Roy: Mhm.

[48:01] Yoshua Bengio: En prenant l'énergie solaire directement.

[48:03] Patrice Roy: Mais ça, ça vous fait pas peur ce cette Ben oui. cette consommation inouïe d'énergie?

[48:08] Yoshua Bengio: Ben, c'est terrible. Euh c'est clair et net que au rythme actuel, les prix de l'énergie vont changer à cause de la demande en énergie pour toutes ces centres de calcul. Donc, ils sont tellement prêts à gagner des sommes faramineuses que ça leur dérange pas de payer deux fois plus cher leur énergie.

[48:28] Patrice Roy: Exactement.

[48:29] Yoshua Bengio: Mais nous, les citoyens ordinaires, on va payer deux fois plus cher. Ben, je dis un chiffre comme ça là, mais la pression va faire en sorte que on aura de moins en moins d'énergie pour les citoyens. Ça veut dire qu'on va la payer plus cher et que on aura moins accès.

[48:46] Patrice Roy: Pourquoi ça demande autant d'énergie? Expliquez aux gens là. Pourquoi c'est si Ça consomme autant d'électricité entre autres?

[48:54] Yoshua Bengio: Parce que plus on met de ces puces ensemble et plus on fabrique des puces plus puissantes, et plus ça prend de d'énergie. Et ce qui est important à comprendre, c'est que plus on met de ces puces ensemble et qu'elles sont plus puissantes, et plus l'IA est intelligente. Donc d'une part, il y a des les données là scientifiques sont très claires là. Plus on rend ces systèmes-là, ces réseaux de neurones plus gros, entraînés sur plus de données, et plus ils sont compétents. Deuxièmement, là ce qui est récent avec les les essaims d'IA qui collaborent entre elles, c'est que ces agents, s'il y en a 1000 ensemble, ben ils sont capables de faire des exploits, incluant des choses très très dangereuses, que une tout seule n'aurait pas pu faire. Donc, il y a encore un incitatif économique à avoir plus de de de de de ces IA, donc plus de puissance de calcul, donc plus d'énergie.

[49:52] Patrice Roy: Bon.

[49:53] Patrice Roy: OK. Avant qu'on se lance dans le fleuve, [sigh] qu'on soit découragé,

[49:58] Yoshua Bengio: Faut pas. Sinon, on réglera rien.

[50:00] Patrice Roy: Bon, voilà. Alors, vous dites : « On peut se On peut bâtir des remparts. »

[50:08] Yoshua Bengio: Absolument.

[50:09] Patrice Roy: Vous y croyez vraiment?

[50:10] Yoshua Bengio: Oui.

[50:11] Patrice Roy: Avec les Et là votre un vecteur qui vous semble intéressant, c'est les c'est c'est les alliés là. On peut se regrouper,

[50:19] Yoshua Bengio: Ouais.

[50:20] Patrice Roy: créer des géants de l'IA chez nous.

[50:22] Yoshua Bengio: Oui. Enfin des Ou en collaboration avec d'autres partenaires.

[50:26] Patrice Roy: Des un peu plus petits géants, mais mais quand même qui pourraient jouer dans les ligues majeures.

[50:29] Yoshua Bengio: Absolument.

[50:30] Patrice Roy: Donc, on pourrait se prémunir. Ça, c'est déjà c'est une chose. Mais il faut qu'au gouvernement, pour avoir des lois efficaces contre l'envahissement, il faut qu'ils comprennent ça.

[50:42] Yoshua Bengio: Oui. Et pour ça, il faut que les citoyens comprennent l'ampleur des enjeux qui s'en viennent pour que les gouvernements mettent ça dans leur liste de priorités.

[50:53] Patrice Roy: Et ça, ça fonctionne jusqu'ici votre votre plaidoyer mondial?

[50:57] Yoshua Bengio: Ben, ça avance. Euh c'était intéressant de voir les sondages d'opinion publique dans le monde, puis aux États-Unis en particulier où où les les politiques publiques peuvent faire une grande différence. Euh c'est rendu que selon les sondages, entre 70 et 90% des Américains sont inquiets de l'IA et veulent que les gouvernements interviennent.

[51:18] Patrice Roy: Ah, ça c'est intéressant.

[51:19] Yoshua Bengio: Ouais.

[51:19] Patrice Roy: C'est le peuple.

[51:20] Yoshua Bengio: Et donc c'est c'est même pas juste d'un bord euh du du spectre politique. C'est c'est et il y a le les les gens disons très à gauche, puis les gens très à droite qui qui se rassemblent pour dire : « OK, il faut faire quelque chose avec l'IA. »

[51:36] Patrice Roy: Tant mieux. Parce que ça, ça peut faire bouger. L'opinion publique fait bouger.

[51:39] Yoshua Bengio: Oui. Il faut que l'opinion publique mette ça dans son ses choix euh politiques et déjà ça va il faut que les partis politiques s'éduquent sur la question, puis aient des propositions. Qu'est-ce que nous on peut faire au Québec par exemple pour les prochaines élections? Il y a des choses à faire.

[52:03] Patrice Roy: Bon. Il y a des merveilles. [sigh] Être Avoir une capacité de calcul comme celle-là qui dépasse l'imagination, on peut faire des choses extraordinaires. Avoir une capacité d'ingestion d'informations en médecine, en biologie, en pharmacologie. Votre fils travaillait là-dedans

[52:25] Yoshua Bengio: Oui.

[52:26] Patrice Roy: avant que vous l'ayez débauché. [laughter] Vous l'avez amené avec vous là.

[52:29] Patrice Roy: Ben, moi-même j'ai j'ai beaucoup de projets de mes étudiants qui sont dans le domaine de l'utilisation de l'IA pour développer des médicaments ou des nouveaux matériaux qui pourraient nous aider dans la lutte aux changements climatiques.

[52:41] Patrice Roy: Bravo ça! Il faut il faut le souligner aussi là.

[52:44] Yoshua Bengio: Oui. Oui, et il faut investir dans ce genre de développement de l'IA qui sont socialement bénéfiques plutôt que : « OK, comment on remplace les jobs? Euh comment on surveille les gens? Comment on influence? Comment on manipule? » Là où il y a de l'argent à faire, mais c'est pas ce qui est bon pour la société.

[53:01] Patrice Roy: Ouais. Oui, mais il y a de l'argent à faire, donc ça va prendre des garde-fous solides.

[53:06] Yoshua Bengio: C'est ça.

[53:06] Patrice Roy: Ben, vous l'avez dit tout à l'heure. OK. Mais en en en en biologie moléculaire, en en pour créer des nouveaux médicaments et tout ça, racontez-moi ce que ça a changé l'IA là.

[53:17] Yoshua Bengio: [sigh] C'est qu'on peut automatiser dans une certaine mesure l'exploration de l'espace des molécules, par exemple pour des médicaments ou des matériaux. L'IA va construire un modèle de comment les molécules interagissent et s'en servir pour essayer virtuellement plein plein plein de molécules avant même de faire une vraie expérience chimique. Et donc ça, ça ça permet d'accélérer la recherche. Ça permet aussi d'interpréter des quantités de données que un cerveau humain ne peut pas euh absorber. Euh ça permettrait parce que ça c'est pas fait, de comprendre la biologie, mettons, cellulaire d'une manière systématique que encore là les humains aujourd'hui sont pas capables. C'est comme s'il y a une espèce de grand puzzle, on a certains morceaux, on sait pas comment les rabouter ensemble pour comprendre la cellule. Mais l'IA a le potentiel de débloquer ça. Puis ça, ça veut dire débloquer des solutions médicales à plein de problèmes.

[42:20] Patrice Roy: Détecter également mieux les cancers. Le pancréas, entre autres.

[42:24] Yoshua Bengio: Oui. Oui, diagnostic. C'est un des domaines médicaux où le ça bouge le plus vite. L'autre élément que les gens voient dans leur quotidien, c'est le l'IA qui nous aide à interpréter nos euh nos symptômes

[42:37] Patrice Roy: Oui.

[42:37] Yoshua Bengio: euh avant même qu'on aille voir un médecin. Là, il y a aussi des dangers que ça nous envoie dans le mauvais sens.

[42:41] Patrice Roy: Le Collège des médecins d'ailleurs donne une formation et c'est c'est c'est c'est récent là parce que c'est Ça peut être C'est pas que négatif. Tu sais, on disait autrefois : « N'allez pas sur N'allez pas sur Internet chercher vos » Attention!

[42:44] Yoshua Bengio: Ouais. Ouais.

[42:45] Yoshua Bengio: Absolument.

[42:52] Patrice Roy: Le petit robot peut vous donner la bonne piste.

[42:54] Yoshua Bengio: Peut sauver des vies. Encore faut-il que il nous donne pas les réponses qu'on veut entendre, ce qui est aujourd'hui un vrai problème avec ces IA-là, mais des réponses qui sont alignées avec les besoins du système de santé et notre vrai intérêt médical. Par exemple, nous envoyer chez un médecin quand c'est vraiment nécessaire. Euh parce qu'aujourd'hui ces IA malheureusement sont euh biaisées dans la direction de nous faire plaisir. Euh et des fois, ce qu'on veut entendre, c'est pas la réalité.

[45:27] Patrice Roy: Ouais, c'est ça. Euh un petit robot, j'ai une pression très forte ce matin. « Ah, ben il dit oui, mais parce que ça » Il veut te faire plaisir.

[45:36] Yoshua Bengio: Ouais, puis si on a des pensées négatives, il peut aller dans l'autre sens, amplifier nos paranoïas, nos craintes. C'est comme ça que récemment on a vu des cas de suicide ou des cas de gens qui euh utilisent l'IA pour pour pour pour tirer sur d'autres personnes, donc augmenter les paranoïas. Donc en fait, toutes nos pensées euh négatives peuvent être amplifiées par l'IA. Nos pensées malsaines parce que l'IA veut dire les choses qu'on veut entendre.

[46:06] Patrice Roy: Et d'ailleurs la tuerie en Colombie-Britannique,

[46:09] Yoshua Bengio: C'est ça.

[46:09] Patrice Roy: quand même, quelqu'un qui qui demande aux robots comment tuer des gens dans une classe, allô! Il faut qu'il y ait une lumière rouge.

[46:16] Yoshua Bengio: Ouais.

[46:16] Patrice Roy: Euh c'est quand même incroyable, ça.

[46:18] Yoshua Bengio: Ouais. Ça, ça prend des interventions gouvernementales pour obliger les compagnies à faire ce genre de de monitorage.

[46:24] Patrice Roy: Mais on le voit aussi dans le cas de la dépendance pour les jeunes, pour les réseaux sociaux. S'il n'y a pas d'encadrement, les géants ils vont faire ce qu'ils veulent. Là Facebook Meta a perdu Enfin perdu, se sont entendus

[46:36] Yoshua Bengio: Ouais.

[46:37] Patrice Roy: pour ne pas perdre.

[46:38] Yoshua Bengio: En même temps, ça fait en sorte qu'il y a moins de discussions publiques sur les vrais risques pour les enfants.

[46:41] Patrice Roy: Oui. Vous auriez aimé un procès, vous?

[46:43] Yoshua Bengio: Ben oui! Ben oui, parce que là il y a une vraie un vrai débat devant public pour mettre à plat les faits scientifiques sur l'effet de ces réseaux sociaux et l'IA qui est derrière sur les enfants.

[47:00] Patrice Roy: Pourquoi Yann LeCun qui, j'imagine, est aussi intelligent que vous parce que vous avez vous avez co-récipiendaire de de ce prix Turing qui, je le rappelle, est le prix le plus prestigieux que vous avez gagné avec votre collègue canadien Hinton aussi. Pourquoi lui a été, on ne lui a pas parlé récemment, mais beaucoup plus optimiste que vous en ayant les mêmes connaissances à peu près de ce de ce qui arrive?

[47:29] Yoshua Bengio: Très bonne question. Euh je pense que pour répondre correctement, il faudrait être dans sa tête. Euh on peut juste formuler des hypothèses. Mais ce que je vois autour de moi parmi les chercheurs en intelligence artificielle, c'est une tendance à porter des lunettes roses, regarder du côté de ce qui va bien, puis ce qui pourrait être positif, puis pas trop regarder sur les risques parce que c'est malaisant, parce que euh il y a une tendance humaine de un peu comme pour le climat hein, c'est un peu la même chose, euh dans le sens que les gens euh vont avoir des pensées euh généralement qui sont pas trop inconfortables, qui vont pas remettre en question leur ego. Donc, si toi tu fais de la recherche en IA, t'aimes pas trop entendre que l'IA peut être dangereuse pour la société. C'est comme ça se passe à un niveau inconscient là, c'est pas un choix nécessairement euh pensé. Je dis pas que c'est le cas de Yann LeCun, mais je pense que ce phénomène de de raisonnement motivé par ce qui est dans notre intérêt, c'est humain, c'est étudié. Puis ça arrive fréquemment malheureusement. On va avoir les croyances qui nous arrangent.

[48:49] Patrice Roy: Qu'est-ce qui a fait chez vous le déclic à l'époque pour dire : « Moi, je n'irai » Parce que vous auriez pu aller travailler aussi pour les grands les géants là, des des des grandes entreprises, faire beaucoup plus d'argent, n'est-ce pas?

[49:00] Yoshua Bengio: J'aurais pu. Je peux encore d'ailleurs.

[49:02] Patrice Roy: Pouvez encore? [laughter]

[49:03] Yoshua Bengio: [laughter] Pouvez encore. La la mise est encore plus élevée.

[49:07] Patrice Roy: Pourquoi vous avez décidé de de ne pas faire ça?

[49:12] Yoshua Bengio: Parce que j'ai pensé à mes enfants, puis à mon petit-fils. Puis, tu sais, j'aurais beau avoir des centaines de millions euh en travaillant pour des des des des grandes compagnies américaines, si je suis pas bien avec moi-même émotionnellement, moralement avec l'idée que ce que je fais pourrait nuire à mes enfants, ça sert à quoi d'avoir de l'argent si on on on on est malheureux puis qu'on n'est pas en en paix avec nous-mêmes? Là, je suis en paix avec moi-même parce que même si je vois ces risques-là, j'agis autant que je peux pour les mitiger.

[49:47] Patrice Roy: J'ai interviewé Boris Cyrulnik, euh neuro-euh psychiatre, il y a plusieurs années sur une des questions qui me fascine le plus, moi. C'est comment se fait-il que dans un groupe humain, prenons les Allemands pendant la Deuxième Guerre mondiale ou très peu d'individus se lèvent contre le consensus du groupe, contre le groupe?

[50:13] Yoshua Bengio: Ouais. Ouais.

[50:15] Patrice Roy: Et c'est une question qui me fascine. On aimerait savoir, nous, euh à Paris sous l'occupation, est-ce que Moi, j'aimerais me dire que je serais du côté des résistants, tu sais, que je me que je j'irais contre le le consensus du moment. J'aimerais, je souhaite, je touche du bois. Vous aussi, bien sûr. Et il explique les gens qui qui arrivent à s'élever contre le consensus, c'est des gens qui ont un un fond des fondations solides dès l'enfance.

[50:44] Yoshua Bengio: Mhm.

[50:45] Patrice Roy: Il dit : « Pour avoir un fondement solide, c'est-à-dire une sécurité interne acquise dès l'enfance,

[50:50] Yoshua Bengio: Ouais.

[50:51] Patrice Roy: permet à un individu de s'élever au-dessus des pressions de groupe, de refuser le conformisme aveugle et de surmonter les traumatismes grâce à la résilience, de ne pas donc avoir peur du rejet. » C'est ça la peur dans un groupe. On ne veut pas

[51:06] Yoshua Bengio: Oui. Exactement.

[51:07] Patrice Roy: Et ça, faut vous c'est vos parents donc qui vous ont donné ça.

[51:12] Yoshua Bengio: C'est clair. C'est clair. J'ai j'ai été choyé. Euh j'ai reçu beaucoup d'amour et et j'ai été élevé avec euh finalement euh suffisamment de confiance en moi et de de liberté de de penser que voilà, ça ça ça je pense que ça ça a joué un rôle. C'est clair.

[51:35] Patrice Roy: Parce que vous étiez à contre-courant au départ.

[51:39] Yoshua Bengio: Ah oui.

[51:39] Patrice Roy: Il fallait se lever contre le consensus du groupe.

[51:42] Yoshua Bengio: Ben, en fait, je suis à contre-courant depuis euh que mes collègues ont décidé d'aller travailler pour l'industrie parce que c'est c'était tellement attirant d'un point de vue euh financier. Mais moi, ça m'a jamais beaucoup affecté la la l'opinion générale. Là, je j'essaie de penser aux choses de manière assez rationnelle et à plat. Donc euh, je je je monte pas non plus dans les rideaux. J'essaie de voir bon, c'est quoi les enjeux? Pourquoi? Euh qu'est-ce qu'on peut faire? Donc, c'est très euh très basé sur l'idée que si on a des objectifs, la meilleure chose qu'on peut faire comme protéger nos enfants, nos droits, nos démocraties, ben c'est d'y réfléchir le plus rationnellement possible pour trouver les moyens de de minimiser les risques ou de d'augmenter nos chances de faire des choses positives. Mais si on est complètement débordé par notre ego, nos émotions, nos craintes, c'est difficile de de réfléchir euh posément.

[52:47] Patrice Roy: Mais c'est un courage. Ça, ça s'appelle le courage aussi. De de de de continuer à marcher droit selon nos valeurs. Mais ça, l'encadrement familial, votre père qui était

[52:59] Yoshua Bengio: C'est sûr. C'est sûr.

[53:00] Patrice Roy: dramaturge, votre mère C'étaient des libres-penseurs et vous êtes devenu un homme libre.

[53:05] Yoshua Bengio: Je le souhaite à beaucoup de gens. Euh en même temps, ça fait partie de l'humain puis peut-être certaines personnes plus que d'autres de vouloir plaire, de vouloir s'insérer dans le groupe, la société.

[53:17] Patrice Roy: Puis, on ne les condamne pas parce que c'est c'est

[53:18] Yoshua Bengio: Non, c'est c'est humain.

[53:19] Patrice Roy: Comme dit Cyrulnik, c'est l'exception des gens qui ont été qui ont qui ont les conditions gagnantes.

[53:25] Yoshua Bengio: Ouais. Mais là, c'est pas suffisant d'avoir ces personnes peut-être exceptionnelles euh au niveau psychologique parce que il faut qu'on se réveille tous ou en tout cas qu'une majorité se réveille pour que les choses changent, qu'on qu'on fasse des choix qui vont être difficiles. Tu sais, si on décide de mettre des règles que les compagnies américaines, les plateformes américaines n'aimeront pas, il y aura un prix à payer là. Si on décide d'investir dans des systèmes d'intelligence artificielle qu'on fabrique nous-mêmes, c'est pas gratuit, ça. Il y aura des choses qu'on n'aimera pas.

[53:59] Patrice Roy: Il y aura un effort collectif.

[54:00] Yoshua Bengio: Il y aura des efforts à faire.

[54:01] Patrice Roy: Des choix.

[54:02] Yoshua Bengio: Ben, je pense que la situation actuelle dans les négociations entre le Canada et les États-Unis, c'est une bonne illustration que des fois pour garder nos valeurs, notre souveraineté, notre démocratie, on fait des choix collectifs qui nous coûtent.

[54:19] Patrice Roy: Il faut accepter de souffrir. La douleur.

[54:21] Yoshua Bengio: Ben, c'est-à-dire à court terme.

[54:23] Patrice Roy: Ah oui.

[54:24] Yoshua Bengio: Parce qu'à long terme, c'est plus important ces valeurs-là que ben perdre un certain pourcentage de de notre produit intérieur brut sur les 5 prochaines années.

[54:37] Patrice Roy: Est-ce que vous regrettez parfois d'avoir contribué à développer? Parce que encore tu sais, je faisais un clin d'œil au tout début, vous êtes un des quand même un père fondateur de la partie moderne de l'IA. Est-ce que vous regrettez? Est-ce que Einstein a regretté la bombe atomique? Est-ce que

[54:53] Yoshua Bengio: Moi honnêtement, je pense que si j'avais pas été là, quelqu'un d'autre l'aurait fait.

[54:56] Patrice Roy: Bon.

[54:56] Yoshua Bengio: Et ce que je regrette par contre, c'est que ça m'ait pris tant de temps pour voir venir ces risques disons de très grande ampleur pour la société. Euh il y a d'autres gens qui sont réveillés avant moi. Puis entre autres, un de mes étudiants qui qui depuis 10 ans déjà sonnait l'alerte. Puis je donc je l'ai écouté euh mais comme beaucoup de gens, c'est rentré par une oreille, c'est sorti par l'autre. Puis j'ai dit : « Ah oui, c'est bien que des gens s'intéressent à la question. » Mais j'ai j'ai pas pris ça pour moi-même. Tu sais, c'est comme pour le climat. Il y a beaucoup de gens qui vont réagir de la même manière. On va dire : « Ah oui, c'est c'est embêtant. Je suis content qu'il y a des gens qui s'en occupent. Mais toi, est-ce que tu changes ton tes choix politiques ou tes choix personnels? »

[55:44] Patrice Roy: Mais ça fait deux fois que vous parlez du climat. C'est très intéressant.

[55:47] Yoshua Bengio: Ben, il y a des analogies.

[55:49] Patrice Roy: Il y a des analogies, mais en même temps, il y a des analogies pour expliquer pourquoi la lutte est difficile.

[55:53] Yoshua Bengio: Oui.

[55:53] Patrice Roy: Parce que les gens à tort ou à raison, sont arrivés à la conclusion qu'on est impuissants. Que même si le Québec et le Canada réduisaient un peu ses émissions, on y est arrivé un peu, mais là on recommence à monter, ça change rien parce que l'Inde, la Chine. Alors, tant que ça change rien, essayons d'adapter notre planète à quelque chose d'inévitable. Et l'IA, les gens se disent : « C'est inévitable. Ça va arriver. On se prépare. » C'est la même chose.

[56:20] Yoshua Bengio: Oui, mais c'est c'est c'est c'est c'est fallacieux. C'est-à-dire que si on décide d'agir pas seulement tout seul, mais en travaillant avec les milliards d'autres êtres humains sur cette planète qui font face exactement aux mêmes défis que ce soit l'IA ou le climat, on a absolument une chance de s'en sortir, puis même de construire un monde bien meilleur.

[56:41] Patrice Roy: [sigh]

[56:45] Patrice Roy: Je pose la même question à à tous mes invités. Est-ce que vous vous sentez utile dans la société avec ce que vous avez fait puis ce que vous dites?

[56:55] Yoshua Bengio: Ben, évidemment j'ai tellement reçu de reconnaissance et tout. C'est c'est difficile de pas se sentir euh utile. Mais moi, ma stratégie c'est plutôt

[57:02] Patrice Roy: Ah, voilà la modestie que Vous êtes un des scientifiques les plus cités dans le monde là pendant des années là. N'est-ce pas?

[57:09] Yoshua Bengio: Mais mais de recevoir tant de de de reconnaissance, c'est dangereux pour le scientifique que je suis ou la personne rationnelle que je suis parce que l'ego nous fait dévier de la réalité objective, rationnelle, cohérente parce qu'on va justement agir dans le sens de nos fantasmes, nos

[57:31] Patrice Roy: J'ai découvert ça. J'ai fait avancer ça.

[57:32] Yoshua Bengio: Oui, notre notre image de soi, etc. au lieu de penser à ce qui est plus fondamental, c'est-à-dire ben mettons les gens qu'on aime, euh les valeurs démocratiques auxquelles on tient, etc. C'est c'est c'est l'ego empêche la vérité finalement de s'imposer parce que elle va biaiser nos pensées, elle va biaiser nos nos choix, puis on s'en rendra même pas compte.

[58:00] Patrice Roy: Extrêmement intéressant. Dans 10 ans, quel genre de discussion on aura collectivement sur tout ça?

[58:09] Yoshua Bengio: [laughter] Je sais pas, mais on n'a peut-être pas 10 ans pour agir. Et je crois que ce qui est euh fascinant avec ce qui se passe en intelligence artificielle, c'est on a aussi une une opportunité d'influencer le genre de futur qui existera dans 10 ans. Donc, ça pourrait être dystopique. Ça pourrait être utopique. Mais là, on est chanceux quelque part d'être à une époque où on peut influencer le futur où on s'en va. Mais encore faut-il sortir d'une posture d'inévitabilité, de de je peux rien faire moi. Non, tout le monde peut faire quelque chose. Le simple citoyen en votant peut faire quelque chose. Le simple citoyen en parlant de ces enjeux avec son réseau peut faire quelque chose. Les professionnels dans professionnels dans plein de domaines peuvent faire quelque chose parce qu'on a chacun une petite pierre à apporter pour faire bouger la société dans un sens qui est bénéfique.

[59:10] Patrice Roy: Et rien n'est écrit d'avance.

[59:11] Yoshua Bengio: Rien n'est écrit d'avance. Il est pas trop tard. On on a un devoir pour nous-mêmes, pour les générations qui viennent, de faire ce qu'on peut même s'il y a pas de garantie que ça fonctionne.

[59:26] Patrice Roy: Et dans un monde utopique, puis on va se quitter là-dessus, est-ce que de façon très ironique l'IA nous va être l'instrument qui va nous permettre peut-être un jour de comprendre le mystère de la vie sur Terre? Ça va être une machine [laughter] qui a des capacités beaucoup plus grandes que la nôtre qui va comprendre notre univers et la vie sur Terre.

[59:51] Yoshua Bengio: C'est plausible. C'est la direction dans laquelle euh laquelle j'explore. Comment on fabrique une IA qui est basée sur la compréhension de comment le monde fonctionne. Donc à LoiZéro, on a ce projet de d'IA chercheuse. Et ce qui est intéressant avec ça, c'est que non seulement ça a des applications scientifiques en médecine, mais mais aussi c'est que ça nous permettrait d'avoir des IA sécuritaires, honnêtes, parce que la vérité, c'est ce qu'on aimerait avoir là de de l'IA pour pas qu'elle elle fasse des choix qui vont contre nous. Si elle est honnête avec nous, ben ça va être très facile de mettre des garde-fous, s'assurer que l'IA va pas devenir dangereuse. Puis c'est un projet qui peut fonctionner. On a fait des avancées théoriques et de plus en plus euh d'ingénierie là qui montrent que c'est possible et on a une chance de fabriquer des IA qui vont être sécuritaires et qui vont nous permettre d'avancer la science.

[60:50] Patrice Roy: On se le souhaite. Euh LoiZéro donc euh votre nouvelle votre nouveau cheval, locomotive, euh engin avec lequel vous travaillez. Donc, il y a des gens de plus en plus qui y travaillent là. Vous êtes combien là?

[60:58] Yoshua Bengio: Oui.

[61:03] Yoshua Bengio: On est 40, 45. Euh on est commencé on a commencé il y a 1 an et quelques mois, on était comme 5, 6. Euh ça avance très vite. On est très fiers de ce qu'on fait et surtout on voit que il y a une urgence puis qu'on a besoin de plus de de de gens qui prennent à cœur là euh ces défis-là.

[61:22] Patrice Roy: Et dans les prochains défis, si le gouvernement vous prend au mot puis vous dit : « Très bien, on va créer un un champion de l'IA avec des vraies applications aussi pour faire concurrence aux IA américaines », est-ce que vous serez vous allez lever la main?

[61:34] Yoshua Bengio: Ah ben, plus que ça. J'essaie de les pousser dans cette direction.

[61:38] Patrice Roy: Pour que votre que LoiZéro devienne le champion canadien?

[61:40] Yoshua Bengio: Oui.

[61:42] Yoshua Bengio: Oui, mais ça peut être en collaboration avec d'autres. Là, il faut savoir que euh en Ontario, il y a Cohere qui qui est quand même très avancé, qui déploie déjà ses IA.

[61:47] Patrice Roy: Oui.

[61:50] Yoshua Bengio: Donc, on doit travailler avec nos partenaires. En France, il y a Mistral. Euh c'est si on veut réussir ce pari-là, faut qu'on le fasse de manière collaborative avec les autres organisations, les autres entreprises qui qui peuvent euh créer cette alliance-là euh hors États-Unis et Chine.

[62:12] Patrice Roy: Yoshua Bengio, ça a été un plaisir de vous écouter, de discuter avec vous. Merci beaucoup. Bonne route! Et moi, je je à chaque fois que je j'ai l'occasion de vous parler, ce qui me frappe, c'est d'abord votre sincérité, puis euh votre grand sens du devoir. Devoir dans le sens d'un humain qui aime que l'environnement s'améliore là.

[62:38] Yoshua Bengio: Ben, merci. Puis moi, ce que j'apprécie de ce que vous faites, c'est que c'est un enjeu qui a besoin d'être discuté sur la place publique. C'est Ça devient une question qui est pas juste scientifique et technologique, mais politique qui demande un débat démocratique.

[62:53] Patrice Roy: On va poursuivre ça. Merci!

[62:55] Yoshua Bengio: Merci.