La nouvelle édition du magazine pour les professionnels de l’intelligence artificielle sera disponible ce mois-ci. Nous vous avons concocté un numéro à ne pas manquer. De nombreux dossiers vous attendent dont un sur la sécurité de l’IA, ses enjeux, ses solutions, mais aussi un top des startups du secteur à connaître.
Vous l’attendiez et il sera bientôt entre vos mains ! Dans le nouveau numéro du magazine de référence de l’intelligence artificielle, vous pourrez lire un dossier sur la sécurité de l’IA. Une thématique on ne peut plus centrale alors que de plus en plus d’entreprises et d’institutions adoptent des technologies innovantes. L’IA représente une grosse partie du marché mondial de la sécurité et sa valeur ne va cesser d’évoluer. Les applications IA sont et/ou doivent être protégées comme n’importe quel système informatique. Pourtant, en plus des risques traditionnels, l’IA est exposée à d’autres menaces spécifiques. Une meilleure protection est nécessaire pour déployer une IA puissante et digne de confiance. C’est en tout cas ce qu’affirment nombre d’experts et de professionnels du secteur. Dans notre dossier sur la Sécurité de l’IA, nous vous proposons d’aborder ce sujet de manière complète grâce à Françoise Soulié-Fogelman et Alexandra Benamar, toutes deux expertes en IA.
La sécurité de l’IA, au cœur du nouveau numéro du magazine ActuIA
Pour aborder ce sujet complexe, Françoise Soulié-Fogelman, conseillère scientifique chez Hub France IA, analyse les travaux, publiés par les grandes instances de la cybersécurité, qui permettent une meilleure compréhension des nouvelles attaques et des pistes de défense. Elle livre notamment au lecteur trois exemples d’attaques concrètes avec, au centre de ces attaques, trois logiciels connus de la grande majorité d’entre nous : Tay, de Microsoft, Nightshade4, créé par l’équipe du projet Glaze, et ChatGPT5 d’OpenAI.
Nous vous proposons également un focus sur CYBIAH, l’un des European Digital Innovation Hub (EDIH). Ces pôles européens d’innovation numérique ont été mis en place par la Commission européenne et ce dossier Sécurité de l’IA vous permet d’en apprendre davantage sur ce hub.
Les agents LLM, plus précisément, leur autonomie sont au cœur de l’analyse que nous propose ensuite Alexandra Benamar, ingénieure en R&D chez Talan. Elle pose une question centrale : “en renforçant nos défenses, les IA contribuent-elles involontairement à affiner les stratégies offensives des hackers ?” avant d’y répondre. Sa réflexion débute par la construction d’un agent LLM autonome, puis la simulation de cyberattaques, la possibilité d’une “loi d’échelle du piratage”, ou encore les limites de GPT-4 face aux défis de sécurité avancés pour fournir une réponse complète et structurée à sa question.
Pour ce 16e numéro, en complément du dossier, nous avons aussi établi une sélection de huit startups du secteur de la sécurité de l’IA à connaître. Une solution qui permet la détection de contenu généré par l’IA anti-deep fake, un outil de collaboration sécurisée en machine learning ou encore une plateforme simplifiant la transformation numérique et de gestion des risques IA qui sont proposés par des sociétés expertes dans ces nouveaux défis. Pas de spoiler sur les noms des 8 entreprises, mais on vous dit juste que vous pourrez sans doute retrouver la startup de Siméon Campos qui avait proposé à nos lecteurs d’ActuIA.com une tribune sur un sujet brûlant, l’AI Act, dans laquelle il détaillait les luttes essentielles de la régularisation européenne tout en défendant cette dernière.
Retrouvez ce dossier et d’autres dans ActuIA numéro 16
Ce dossier sur la Sécurité de l’IA fait partie des différents articles que vous retrouvez dans le nouveau numéro d’ActuIA, le magazine dédié aux professionnels de l’intelligence artificielle.
Depuis sa création en janvier 2020, le magazine ActuIA vous donne rendez-vous tous les trois mois pour faire le point sur l’intelligence artificielle, côté business, recherche, mais aussi impacts et défis. En 16 numéros, nous avons abordé divers sujets comme l’évolution de l’agriculture, du diagnostic médical ou encore des pratiques sportives avec l’IA. Nous avons fait un bond dans le temps dans le numéro 8 pour parler de l’histoire du deep learning et son influence sur l’explosion du secteur. Nous avons regardé vers les étoiles dans le numéro 11 avec un sujet sur l’astronomie et la caractérisation de nouveaux mondes. Plus récemment, la sécurité intérieure était au cœur de l’édition numéro 15 d’ActuIA et plusieurs forces de sécurité intérieures européennes ont partagé avec nous leur quête du meilleur équilibre, entre l’entrée en vigueur de l’AI Act et les menaces et défis auxquels elles sont confrontées. Et d’autres sujets vous attendent dans les prochains numéros !
Concernant les anciens numéros, certains sont disponibles en version papier (mais la plupart sont en rupture de stock). Vous pouvez cependant tous les retrouver en version PDF avec votre abonnement. Alors, n’attendez plus et abonnez-vous dès maintenant !
