Nicolas Moës's guest appearances

Nicolas Moës

Future of Life Institute Podcast

The Flares - Podcasts

Comptoir IA 🎙️🧠🤖

David Pearce

Stuart Armstrong

Mike Johnson

Yuval Noah Harari

Fran Moore

Dario Amodei

Robin Hanson

Stuart Russell

Sean Carroll

Stephen Batchelor

William MacAskill

Joshua Greene

John Prendergast

George Church

David Chalmers

OwlTail

🌟 Rencontrez Nicolas Moës 👨‍💻, un spécialiste de la gouvernance de l'IA, basé au cœur de Bruxelles pour The Future Society. Siégeant au sein des groupes experts de l'OECD - OCDE 📊, il façonne la normalisation technique de l'IA à une échelle globale 🌍.Depuis l'arrivée de ChatGPT 🤖 en 2022, Nicolas est contacté par des décideurs inquiets 😧 du rythme rapide de l'évolution technologique. L'année 2023 a été marquée par une explosion 💥 tant au niveau technologique qu'en termes d'intérêt pour la gouvernance des technologies génératives.🛠️ Claude, d'Anthropic : Nicolas me confirme que Claude 💻 lui est très utile affiche une excellente performance, l'outil est particulièrement utile lorsqu'il s'agit de travailler avec des fichiers PDF 🎯 (contactez-moi en 📩 DM pour en savoir plus).🇺🇸🆚🇪🇺 Le Match du Lobbying IA: Nicolas s’interroge sur les motivations 🤔 de la récente mise en garde américaine sur une régulation européenne trop stricte qui servirait les intérêts économiques américains. Il décrypte ce jeu d'échecs stratégique entre les leaders tech américains et les institutions européennes.🌾 IA &amp; les pays en voie de développement : L'IA peut être un levier de développement incroyable, mais où sont les investissements pour la robustesse et l'impact réel sur ces pays ? 🌍🔓 Open/Closed Source : Nous abordons également le débat traditionnel, en nous référant notamment à la sortie du modèle Mistral AI qui a suscité beaucoup d'intérêt 👀 en raison de ses performances exceptionnelles lors des benchmarks.🤖🚨 L'Affaire Elisa en Belgique: Un cas troublant où un chatbot recommande l'inimaginable. Quelle doit être la réponse politique 🗳️ et réglementaire 📜 ?🧠 Et l'AGI, Alors ? : Un sujet brûlant. Sommes-nous à l'aube de l'intelligence générale artificielle ?🎮 Quiz &amp; Prédictions 2024 : Qu'est-ce que le futur réserve pour l'IA ? Nicolas accepte le défi du quiz des prédictions 🎲!📚 Must-Read : "Fondation" par Isaac Asimov. Un classique incontournable pour tout amoureux de l'IA et de la science-fiction 🚀. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

🌟 Rencontrez <a href="https://www.linkedin.com/feed/#" rel="noopener noreferrer nofollow" target="_blank">Nicolas Moës</a> 👨‍💻, un spécialiste de la gouvernance de l'IA, basé au cœur de Bruxelles pour <a href="https://www.linkedin.com/feed/#" rel="noopener noreferrer nofollow" target="_blank">The Future Society</a>. Siégeant au sein des groupes experts de l'<a href="https://www.linkedin.com/feed/#" rel="noopener noreferrer nofollow" target="_blank">OECD - OCDE</a> 📊, il façonne la normalisation technique de l'IA à une échelle globale 🌍.Depuis l'arrivée de ChatGPT 🤖 en 2022, Nicolas est contacté par des décideurs inquiets 😧 du rythme rapide de l'évolution technologique. L'année 2023 a été marquée par une explosion 💥 tant au niveau technologique qu'en termes d'intérêt pour la gouvernance des technologies génératives.🛠️ Claude, d'<a href="https://www.linkedin.com/feed/#" rel="noopener noreferrer nofollow" target="_blank">Anthropic</a> : Nicolas me confirme que Claude 💻 lui est très utile affiche une excellente performance, l'outil est particulièrement utile lorsqu'il s'agit de travailler avec des fichiers PDF 🎯 (contactez-moi en 📩 DM pour en savoir plus).🇺🇸🆚🇪🇺 Le Match du Lobbying IA: Nicolas s’interroge sur les motivations 🤔 de la récente mise en garde américaine sur une régulation européenne trop stricte qui servirait les intérêts économiques américains. Il décrypte ce jeu d'échecs stratégique entre les leaders tech américains et les institutions européennes.🌾 IA &amp; les pays en voie de développement : L'IA peut être un levier de développement incroyable, mais où sont les investissements pour la robustesse et l'impact réel sur ces pays ? 🌍🔓 Open/Closed Source : Nous abordons également le débat traditionnel, en nous référant notamment à la sortie du modèle <a href="https://www.linkedin.com/feed/#" rel="noopener noreferrer nofollow" target="_blank">Mistral AI</a> qui a suscité beaucoup d'intérêt 👀 en raison de ses performances exceptionnelles lors des benchmarks.🤖🚨 L'Affaire Elisa en Belgique: Un cas troublant où un chatbot recommande l'inimaginable. Quelle doit être la réponse politique 🗳️ et réglementaire 📜 ?🧠 Et l'AGI, Alors ? : Un sujet brûlant. Sommes-nous à l'aube de l'intelligence générale artificielle ?🎮 Quiz &amp; Prédictions 2024 : Qu'est-ce que le futur réserve pour l'IA ? Nicolas accepte le défi du quiz des prédictions 🎲!📚 Must-Read : "Fondation" par Isaac Asimov. Un classique incontournable pour tout amoureux de l'IA et de la science-fiction 🚀. Hébergé par Acast. Visitez <a href="https://acast.com/privacy" rel="noopener noreferrer nofollow" target="_blank">acast.com/privacy</a> pour plus d'informations.

Nicolas Moës - The Future Society

Bienvenue dans ce nouvel épisode du podcast "la prospective" de The Flares, ici Gaëtan. Je reçois Nicolas Moës pour parler de la gouvernance de l'IA, ou en anglais AI Policy. Nicolas est économiste de formation centrée sur l'impact de l'Intelligence Artificielle sur la géopolitique, l'économie et l'industrie. Il est le représentant à Bruxelles de The Future Society qui a pour objectif de faire progresser l'adoption responsable de l'intelligence artificielle et d'autres technologies émergentes au profit de l'humanité. Nicolas suit les développements européens dans le cadre législatif entourant l'IA.0:00:00 Introduction0:01:33 Presentation de Nicolas0:04:20 Qu'est ce que la gouvernance de l'IA ?0:06:56 Quels sont les problèmes actuels causés par l’IA qui impact la société et la géopolitique ?0:27:40 Est-ce que les législateurs sont conscients des considérations sur le long terme telles que AGI et super IA ?0:40:10 La gouvernance de l'IA à l'ONU ?0:51:00 Si nous ne nous éteignons pas, la création d’IA générale et de superintelligence est-elle inévitable ?1:01:35 Comment les entreprises privées collaborent-elles sur ces questions législatives ?1:11:40 Quelles sont les approches possibles pour que les législations aient une portée internationale1:19:30 Est ce que la mise en place de  standard n’est-elle pas une voie à suivre ?1:25:36 En quoi la politique actuelle de l'IA est-elle importante pour les considérations à long terme sur l'intelligence artificielle (AGI, super IA) ?1:28:54 Est-ce que les régulations et mesures prises pour limiter les risques des armes nucléaires, chimiques et biologiques peuvent servir dans le domaine de l’IA ?1:36:30 Ne faudrait-il pas investir dans la cultivation de la pensée longtermiste pour les politiciens ?1:41:14 Est ce qu’on peut se servir de ce qui a marché ou non face à la pandémie du covid-19 en termes de coordination internationale pour des solutions sur la gouvernance de l'IA ?1:46:53 Quels sont les potentiels bénéfices de l’IA si nous réussissons les défis soulevés par la gouvernance ?1:50:23 Quels pourraient-être les avantages de déléguer des décisions politiques à l’intelligence machine (Algocratie) ?Ceci est une longue conversation, vous pourriez choisir de l'écouter en accélérant la vitesse de lecture.On vous rappelle que pour un meilleur confort, vous pouvez choisir d’écouter le podcast en tâche de fond si vous êtes sur votre ordinateur ou tablette, ou alors de le télécharger directement sur votre téléphone pour pouvoir l’écouter n’importe où. Il suffit de chercher « The Flares » sur iTunes ou Podcast addict (ou autre appli de podcast). Profitez-en pour vous abonnez afin de ne pas manquerez les prochains podcasts. Vous trouverez également l'autre série de podcast que nous avons lancé en collaboration avec l'association technoprog intitutée : "Humain, Demain".Si vous avez des suggestions, des remarques ou des interrogations à propos de cet épisode, vous êtes bien entendu libres de les poster en commentaires juste en dessous. On vous souhaite une bonne écoute.

Bienvenue dans ce nouvel épisode du podcast "la prospective" de The Flares, ici Gaëtan. Je reçois Nicolas Moës pour parler de la gouvernance de l'IA, ou en anglais AI Policy. Nicolas est économiste de formation centrée sur l'impact de l'Intelligence Artificielle sur la géopolitique, l'économie et l'industrie. Il est le représentant à Bruxelles de The Future Society qui a pour objectif de faire progresser l'adoption responsable de l'intelligence artificielle et d'autres technologies émergentes au profit de l'humanité. Nicolas suit les développements européens dans le cadre législatif entourant l'IA. 0:00:00 Introduction 0:01:33 Presentation de Nicolas 0:04:20 Qu'est ce que la gouvernance de l'IA ? 0:06:56 Quels sont les problèmes actuels causés par l’IA qui impact la société et la géopolitique ? 0:27:40 Est-ce que les législateurs sont conscients des considérations sur le long terme telles que AGI et super IA ? 0:40:10 La gouvernance de l'IA à l'ONU ? 0:51:00 Si nous ne nous éteignons pas, la création d’IA générale et de superintelligence est-elle inévitable ? 1:01:35 Comment les entreprises privées collaborent-elles sur ces questions législatives ? 1:11:40 Quelles sont les approches possibles pour que les législations aient une portée internationale 1:19:30 Est ce que la mise en place de standard n’est-elle pas une voie à suivre ? 1:25:36 En quoi la politique actuelle de l'IA est-elle importante pour les considérations à long terme sur l'intelligence artificielle (AGI, super IA) ? 1:28:54 Est-ce que les régulations et mesures prises pour limiter les risques des armes nucléaires, chimiques et biologiques peuvent servir dans le domaine de l’IA ? 1:36:30 Ne faudrait-il pas investir dans la cultivation de la pensée longtermiste pour les politiciens ? 1:41:14 Est ce qu’on peut se servir de ce qui a marché ou non face à la pandémie du covid-19 en termes de coordination internationale pour des solutions sur la gouvernance de l'IA ? 1:46:53 Quels sont les potentiels bénéfices de l’IA si nous réussissons les défis soulevés par la gouvernance ? 1:50:23 Quels pourraient-être les avantages de déléguer des décisions politiques à l’intelligence machine (Algocratie) ? Ceci est une longue conversation, vous pourriez choisir de l'écouter en accélérant la vitesse de lecture. On vous rappelle que pour un meilleur confort, vous pouvez choisir d’écouter le podcast en tâche de fond si vous êtes sur votre ordinateur ou tablette, ou alors de le télécharger directement sur votre téléphone pour pouvoir l’écouter n’importe où. Il suffit de chercher « The Flares » sur iTunes ou Podcast addict (ou autre appli de podcast). Profitez-en pour vous abonnez afin de ne pas manquerez les prochains podcasts. Vous trouverez également l'autre série de podcast que nous avons lancé en collaboration avec l'association technoprog intitutée : "Humain, Demain". Si vous avez des suggestions, des remarques ou des interrogations à propos de cet épisode, vous êtes bien entendu libres de les poster en commentaires juste en dessous. On vous souhaite une bonne écoute.

#25 - La gouvernance de l’IA (AI Policy) et l’approche de l’UE- avec Nicolas Moës | The Flares

Jared Brown

From Max Tegmark's Life 3.0 to Stuart Russell's Human Compatible and Nick Bostrom's Superintelligence, much has been written and said about the long-term risks of powerful AI systems. When considering concrete actions one can take to help mitigate these risks, governance and policy related solutions become an attractive area of consideration. But just what can anyone do in the present day policy sphere to help ensure that powerful AI systems remain beneficial and aligned with human values? Do today's AI policies matter at all for AGI risk? Jared Brown and Nicolas Moës join us on today's podcast to explore these questions and the importance of AGI-risk sensitive persons' involvement in present day AI policy discourse. Topics discussed in this episode include:-The importance of current AI policy work for long-term AI risk-Where we currently stand in the process of forming AI policy-Why persons worried about existential risk should care about present day AI policy-AI and the global community-The rationality and irrationality around AI race narrativesYou can find the page for this podcast here: https://futureoflife.org/2020/02/17/on-the-long-term-importance-of-current-ai-policy-with-nicolas-moes-and-jared-brown/Timestamps: 0:00 Intro4:58 Why it’s important to work on AI policy 12:08 Our historical position in the process of AI policy21:54 For long-termists and those concerned about AGI risk, how is AI policy today important and relevant? 33:46 AI policy and shorter-term global catastrophic and existential risks38:18 The Brussels and Sacramento effects41:23 Why is racing on AI technology bad? 48:45 The rationality of racing to AGI 58:22 Where is AI policy currently?This podcast is possible because of the support of listeners like you. If you found this conversation to be meaningful or valuable consider supporting it directly by donating at futureoflife.org/donate. Contributions like yours make these conversations possible.

From Max Tegmark's Life 3.0 to Stuart Russell's Human Compatible and Nick Bostrom's Superintelligence, much has been written and said about the long-term risks of powerful AI systems. When considering concrete actions one can take to help mitigate these risks, governance and policy related solutions become an attractive area of consideration. But just what can anyone do in the present day policy sphere to help ensure that powerful AI systems remain beneficial and aligned with human values? Do today's AI policies matter at all for AGI risk? Jared Brown and Nicolas Moës join us on today's podcast to explore these questions and the importance of AGI-risk sensitive persons' involvement in present day AI policy discourse.  Topics discussed in this episode include: -The importance of current AI policy work for long-term AI risk -Where we currently stand in the process of forming AI policy -Why persons worried about existential risk should care about present day AI policy -AI and the global community -The rationality and irrationality around AI race narratives You can find the page for this podcast here: <a href="https://futureoflife.org/2020/02/17/on-the-long-term-importance-of-current-ai-policy-with-nicolas-moes-and-jared-brown/" rel="nofollow" target="_blank">https://futureoflife.org/2020/02/17/on-the-long-term-importance-of-current-ai-policy-with-nicolas-moes-and-jared-brown/</a> Timestamps:  0:00 Intro 4:58 Why it’s important to work on AI policy  12:08 Our historical position in the process of AI policy 21:54 For long-termists and those concerned about AGI risk, how is AI policy today important and relevant?  33:46 AI policy and shorter-term global catastrophic and existential risks 38:18 The Brussels and Sacramento effects 41:23 Why is racing on AI technology bad?  48:45 The rationality of racing to AGI  58:22 Where is AI policy currently? This podcast is possible because of the support of listeners like you. If you found this conversation to be meaningful or valuable consider supporting it directly by donating at <a href="http://futureoflife.org/donate" rel="nofollow" target="_blank">futureoflife.org/donate</a>. Contributions like yours make these conversations possible.

AIAP: On the Long-term Importance of Current AI Policy with Nicolas Moës and Jared Brown