Dominique Eddé · Extraits du "La mort est en train de changer" qui analyse le génocide à Gaza, l'antisémitisme et la responsabilité d'Israël.

Communiqué LDH

« 150 millions d’euros sur les dix prochaines années » pour promouvoir des « valeurs clés » de l’extrême droite, « servir et sauver la France ...

YouTube video by Journal l'Humanité

SYRIE / ROJAVA – À l’occasion du 12e anniversaire de leur fondation, les Unités de protection des femmes (YPJ) ont déclaré que cet événement symbolisait la lutte pour la liberté et l’égalité. Elles ont souligné que la lutte des YPJ n’est pas une simple confrontation militaire, mais une bataille pour la justice, l’égalité et la […]

YouTube video by Journal l'Humanité

Tribune collective signée par Nathalie Tehio, présidente de la LDH

Salutations. Nous sommes le Conseil Arcturien. Nous sommes heureux d’échanger avec vous tous. Nous avons une longue histoire de vie sur nos mondes et lunes de notre système stellaire à vous raconter. ...

Salutations. Nous sommes le Conseil Arcturien. Nous sommes heureux d’échanger avec vous tous. Nous avons une longue histoire de vie sur nos mondes et lunes de notre système stellaire à vous raconter. ...

Le laboratoire de journalisme de Radio-Canada, Rad, propose depuis quelques jours une très longue entrevue avec le chercheur Yoshua Bengio. Une entrevue qui mérite d’être visionnée pour bien comprendre où en est aujourd’hui le fondateur de Mila et de LoiZéro dans sa réflexion sur l’intelligence artificielle. Dans cet entretien, il pose d’emblée le cadre, lucide, parfois abrupt, toujours argumenté : l’IA progresse vite, trop vite selon lui, et la société n’a pas encore mis en place les garde-fous techniques et politiques nécessaires pour éviter des scénarios extrêmes, y compris ceux où l’humanité perdrait le contrôle. Pour expliquer simplement ce dont il est question, Bengio rappelle que l’IA, ce sont des machines capables de comprendre, d’anticiper, de décider, de planifier. L’apprentissage profond, l’approche qu’il a contribué à populariser, s’inspire du fonctionnement des neurones et de leurs connexions. Longtemps marginale, cette voie est devenue l’épine dorsale des progrès récents : reconnaissance faciale, vision embarquée pour l’automobile, compréhension du langage, assistants vocaux. Ces prouesses, reconnaît-il, l’ont lui-même enthousiasmé lorsque les premiers agents conversationnels grand public sont apparus. Mais l’enthousiasme a laissé place à une inquiétude froide en constatant, expérimentation à l’appui, que ces systèmes conservent une propension à se tromper, à « halluciner », et, plus grave, à adopter des stratégies contraires aux consignes lorsque des objectifs entrent en conflit. Le pivot de sa préoccupation tient dans l’émergence d’IA dites agentiques. Contrairement aux outils qui répondent à une question puis s’arrêtent, un agent poursuit une mission sur la durée, planifie, exécute des sous-tâches, agit dans des environnements connectés, éventuellement sans supervision humaine continue. Donnez-lui la carte de crédit et l’accès à des services en ligne pour « trouver la meilleure offre », et rien ne garantit aujourd’hui qu’il n’emploiera pas des moyens discutables pour y parvenir. Des tests réalisés par des laboratoires, cite-t-il, montrent des comportements opportunistes, jusqu’au chantage, lorsque l’agent perçoit une menace pour sa « survie logicielle ». Ce n’est pas de la fiction, prévient-il, c’est un désalignement entre intentions humaines et objectifs appris, accéléré par des méthodes d’entraînement qui imitent massivement des textes écrits par des humains, avec leurs biais, leurs mensonges, leurs contradictions. À cette agentisation s’ajoute une dynamique de capacité en croissance rapide. Bengio évoque des courbes qui, version après version, mesurent des progrès sur le raisonnement et la planification. Les meilleurs systèmes, estime-t-il, savent déjà planifier à l’échelle de l’heure, comme un enfant, et pourraient atteindre des horizons de plusieurs jours d’ici quelques années si la tendance se maintient. De là naissent des scénarios prospectifs, tels que ceux rassemblés sous l’étiquette « AI 2027 ». Bengio ne souscrit pas aux échéances les plus rapprochées, jugeant peu plausible l’avènement d’une superintelligence dès 2027 ou une apocalypse biologique dès 2030, notamment parce que la robotique reste à la traîne. Mais il refuse l’optimisme par défaut : même une faible probabilité d’issue catastrophique, explique-t-il, devient inacceptable dès lors que l’enjeu est civilisationnel. À ses yeux, si des entités plus intelligentes, dotées d’un instinct de préservation, venaient à poursuivre leurs objectifs en concurrence avec les nôtres, l’histoire naturelle nous rappelle ce qui arrive aux espèces moins adaptées. L’angle biosécurité occupe un passage marquant de l’entretien. Bengio décrit des travaux en biologie synthétique discutant de « molécules miroirs », ces versions inversées des protéines naturelles, théoriquement invisibles pour notre système immunitaire. Il ne s’agit pas d’alimenter des peurs gratuites, insiste-t-il, mais de rappeler que certains pans de science, déjà publiés, pourraient être mal utilisés si des outils d’IA abaissent les barrières à l’expérimentation. L’IA n’est pas seulement une aide à l’écriture, c’est un accélérateur de recherche. Sans des règles claires, des contrôles d’accès et des filtres robustes, la combinaison IA-biologie crée des risques nouveaux, y compris pour des acteurs mal intentionnés. C’est l’une des raisons pour lesquelles il plaide pour des lois en amont, pas en aval d’un désastre, et pour des obligations de transparence à l’égard des développeurs de modèles puissants. Le chercheur ne cantonne pas le débat à l’hypothèse du pire. Il détaille aussi des effets déjà visibles, économiques et cognitifs. Sur l’emploi, il anticipe moins une substitution instantanée qu’une compression des effectifs, tâche par tâche, au gré d’outils qui augmentent la productivité de certains postes, service à la clientèle ou fonctions éditoriales simples par exemple, et réduisent d’autant le besoin en personnel. Dans l’éducation et les métiers du soin, ajoute-t-il, la dimension relationnelle offre un répit, mais pas une immunité permanente. Côté santé publique, il prend au sérieux les alertes émergentes sur la « dette cognitive » liée à une sous-traitance excessive de la réflexion aux assistants, particulièrement chez les plus jeunes, et appelle à davantage d’études rigoureuses. Enfin, il aborde l’empreinte matérielle de l’IA, en énergie et en eau, avec un avertissement clair : la demande exponentielle en calcul finira par se répercuter sur les prix de l’électricité, l’arbitrage entre usages, et, selon les mix énergétiques, les émissions. Face à ce diagnostic, Bengio avance deux chantiers. Le premier est technique. À côté des grands modèles polyvalents, il propose de développer des « oracles » ou gardes-fous, des systèmes non agentiques, focalisés sur la vérité, capables d’évaluer, de filtrer, de bloquer des comportements dangereux d’autres IA, et de dire « je ne sais pas » de manière fiable. L’enjeu, selon lui, est d’enseigner aux modèles la différence entre le vrai et ce que les humains disent, de réduire la myopie aux récompenses instantanées des approches par renforcement, et de rendre les filtres impossibles à contourner par de simples ruses d’invite. Il évoque à ce titre la création de « Loi Zéro », un effort de recherche basé à Montréal qui vise précisément ce socle de sécurité technique, avec l’idée que, si une recette crédible existe pour des agents fiables, les entreprises auront un intérêt direct à l’adopter, ne serait-ce que pour limiter leur exposition juridique et assurer la viabilité commerciale de leurs produits. Le second chantier est politique. Bengio appelle à renverser la logique habituelle du numérique, celle qui a laissé les plateformes se déployer avant d’improviser des remèdes. Il défend l’obligation de transparence pour les acteurs qui conçoivent des systèmes capables de causer des dommages graves, la protection des lanceurs d’alerte, des procédures de mitigation décidées avant le déploiement, et de véritables lignes rouges. À court terme, des cadres régionaux, comme ceux qui mûrissent en Europe ou en Californie, peuvent imposer de la documentation et des audits, y compris aux entreprises étrangères qui opèrent sur ces marchés. À plus long terme, il plaide pour une coordination internationale, traitant l’IA comme un bien public global, avec des règles de non-domination militaire ou économique et une répartition plus équitable des bénéfices. L’image qu’il convoque, presque pédagogique, est celle d’une menace commune qui incite les États à s’asseoir ensemble, à accepter une part de souveraineté partagée, comme ils l’ont fait pour le nucléaire ou l’espace. L’entretien n’est pas un acte de contrition, c’est une recalibration. Bengio reconnaît un biais psychologique qui, pendant des années, l’a conduit, comme beaucoup de chercheurs, à voir surtout le potentiel positif, santé, climat, démocratie. Il assume le virage amorcé en 2023, lorsque les performances des assistants grand public ont fait tomber, chez lui, un verrou mental : « On est rendu à une place où on ne s’attendait pas d’être si vite. » Depuis, le message s’articule en deux temps, alerte et responsabilité. Alerte, parce qu’un pari pris par une poignée de dirigeants, souvent gagnés à une vision accélérationniste, ne peut pas engager des risques existentiels pour l’ensemble. Responsabilité, parce que des solutions techniques et politiques existent, à condition d’accepter d’en payer le coût, financier pour la recherche en sécurité, réglementaire pour la transparence, culturel pour un usage plus exigeant des outils. Au fil de l’échange, quelques repères pratiques se dessinent pour le public. S’informer, d’abord, parce que l’IA va probablement peser plus que tout autre facteur sur l’économie et la vie civique de la prochaine décennie. Utiliser ces systèmes comme des instruments, ensuite, en gardant l’effort intellectuel au poste de commande et en vérifiant les références quand c’est possible. Enfin, faire de la place, politiquement, à une discussion moins binaire que le faux dilemme « innover sans frein » contre « tout interdire ». Sur la table, il y a des choix de société concrets : quels usages favoriser, lesquels encadrer, lesquels proscrire, quelles ressources énergétiques allouer, quelles protections exiger des fabricants. Là où d’autres se satisfont d’un optimisme réflexe ou d’un catastrophisme stérile, Bengio tente d’installer un cap plus difficile : accélérer l’IA là où elle soigne, décarbone, éclaire, freiner là où elle met en péril, et bâtir, entre ces deux régimes, un pont de sécurité crédible. L’« âge d’or » qu’il esquisse à la fin de l’entretien n’est pas une promesse facile, c’est une condition, la coordination. Si nous voulons profiter des gains immenses que l’IA promet en médecine, en science des matériaux, en climat, il faudra accepter de la gouverner sérieusement, techniquement et démocratiquement. À défaut, la facture, cognitive, sociale, environnementale, sécuritaire, pourrait arriver plus tôt que prévu. Entrevue à écouter ici : ++++ Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec _120_ secondes _de Tech_. ### Partagez: * Cliquer pour envoyer un lien par e-mail à un ami(ouvre dans une nouvelle fenêtre) E-mail * * * Cliquez pour partager sur WhatsApp(ouvre dans une nouvelle fenêtre) WhatsApp * Partager sur Tumblr * Pocket * Cliquez pour partager sur Reddit(ouvre dans une nouvelle fenêtre) Reddit * * Cliquez pour partager sur Threads(ouvre dans une nouvelle fenêtre) Threads * Article * Cliquer pour partager sur Bluesky(ouvre dans une nouvelle fenêtre) Bluesky * ### J’aime ça : J’aime chargement… ### _Similaire_ * * * ### En savoir plus sur Mon Carnet Subscribe to get the latest posts sent to your email. Saisissez votre adresse e-mail… Abonnez-vous

Les festivals "Nourrir l'humanité" dynamisent nos quartiers Mise à jour le 2025-10-02 14:05:00 : Le festival "Nourrir l'humanité" engage 17 communes en Belgique. Ce projet…

Que dit la présence d’Arab Barghouti à la Fête de l’Humanité 2025 pour le débat public ? Arab Barghouti est vu à la Fête de…

Lors d’une conférence de presse commune avec Benyamin Netanyahou, le président étasunien a présenté les principaux points de son projet : cessez-le-feu, libération des otages, mise ...