L'IA générative a considérablement élargi l'arsenal à la disposition des pirates informatiques et autres acteurs malveillants. Il est désormais possible de tout faire, de créer un deepfake d'un PDG à générer de fausses factures.
OpenAI, la plus grande start-up d'IA générative de toutes, le sait mieux que quiconque. Et elle vient d'investir dans une autre start-up en IA qui aide les entreprises à se défendre contre ce type d'attaques.
Basée à New York, Adaptive Security a levé 43 millions de dollars dans le cadre d'un tour de table de série A co-dirigé par le fonds de démarrage d'OpenAI et Andreessen Horowitz, a-t-elle annoncé mercredi. Il s'agit du premier investissement d'OpenAI dans une start-up en cybersécurité, a confirmé OpenAI à TechCrunch.
Adaptive Security simule des "piratages" générés par l'IA pour former les employés à repérer ces menaces. Vous pourriez décrocher le téléphone pour écouter la voix de votre directeur technique demandant un code de vérification. Ce ne serait pas votre directeur technique réel, mais une imitation générée par Adaptive Security.
La plateforme de sécurité adaptative ne se contente pas de simuler des appels téléphoniques: elle couvre également les textos et les emails, tout en évaluant les parties d'une entreprise les plus vulnérables et en formant le personnel à repérer les risques.
La start-up se concentre sur les piratages qui nécessitent qu'un employé fasse quelque chose qu'il ne devrait pas, comme cliquer sur un lien malveillant. Ces types de piratages de "manipulation sociale", bien que basiques, ont entraîné de lourdes pertes - pensez à Axie Infinity, qui a perdu plus de 600 millions de dollars en raison d'une fausse offre d'emploi pour l'un de ses développeurs en 2022.
Les outils d'IA ont rendu les piratages par manipulation sociale plus faciles que jamais, a déclaré le cofondateur et PDG Brian Long à TechCrunch. Lancée en 2023, Adaptive compte désormais plus de 100 clients, Long déclarant que les retours positifs de ces derniers ont contribué à attirer OpenAI dans le tour de table.
Ce n'est pas négligeable que Long soit un entrepreneur chevronné avec deux succès précédents: la start-up de publicité mobile TapCommerce, qu'il a vendue à Twitter en 2014 (selon des informations, pour plus de 100 millions de dollars) et la société de technologie publicitaire Attentive, valorisée à plus de 10 milliards de dollars en 2021 selon l'un de ses investisseurs.
Long a déclaré à TechCrunch qu'Adaptive Security utilisera principalement son dernier financement pour recruter des ingénieurs afin de développer son produit et de rester à la hauteur de la "course aux armements" en IA contre les acteurs malveillants.
Adaptive Security rejoint une longue liste d'autres start-ups en cybersécurité travaillant sur l'essor des menaces liées à l'IA. Cyberhaven vient de lever 100 millions de dollars avec une valorisation de 1 milliard de dollars pour aider à empêcher le personnel de mettre des informations sensibles dans des outils comme ChatGPT, rapporte Forbes. Il y a aussi Snyk, qui attribue en partie la montée du code généré par l'IA peu sécurisé pour avoir contribué à faire grimper son chiffre d'affaires récurrent annuel à plus de 300 millions de dollars. Et la start-up de détection de deepfake GetReal vient de lever 17,5 millions de dollars le mois dernier.
À mesure que les menaces en IA deviennent plus sophistiquées, Long a un conseil simple pour les employés d'entreprise inquiets d'avoir leur voix clonée par des pirates informatiques: "Supprimez votre boîte vocale", recommande-t-il.
