Équilibrer les risques et les promesses potentielles de l’IA
C’est sans surprise que l’IA s’immisce dans tous les aspects de l’entreprise moderne, notamment l’informatique. Et la sécurité ne fait pas exception à la règle. Le rôle de l’IA dans l’enrichissement des logiciels et des systèmes est devenu une priorité pour les entreprises. Simultanément, les acteurs malveillants investissent dans l’IA pour étendre l’échelle et la portée des attaques. Des exemples modernes d’IA ont conduit les experts à spéculer sur le fait que l’IA elle-même constituerait une menace pour les entreprises, car elle peut être manipulée pour répondre à des objectifs non autorisés.
Traditionnellement, les vulnérabilités qui apparaissent en matière de cybersécurité sont souvent attribuées à des problèmes au sein de l’architecture du système. L’IA introduit de nouvelles vulnérabilités en raison de ses modèles de données complexes et de ses interdépendances. Cette double nature de l’IA pose un défi unique pour la sécurité des entreprises. Imaginez un scénario dans lequel un système d’IA défendant l’infrastructure affronte un autre système d’IA conçu uniquement pour corrompre son homologue défensif.
Les promesses de l’IA
Les pratiques en matière d’IA existent depuis de nombreuses années chez certains des plus grands fournisseurs de technologies. Les promesses de réduction des coûts, de résolution des problèmes, d’augmentation des bénéfices et plus encore sont à portée de main. Ces avantages découlent principalement de la capacité de l’IA à automatiser les tâches qui nécessitaient auparavant une intervention et une expertise humaines spécialisées. De plus, la capacité à détecter même les plus infimes écarts et anomalies avec rapidité et précision, et à minimiser ou éliminer les pertes commerciales ou à maximiser les bénéfices, est essentielle. Ces avantages peuvent aider une entreprise à dépasser ses concurrents.
C’est la même chose pour la cybersécurité. Les promesses d’une meilleure protection de nos actifs informatiques et de notre propriété intellectuelle offertes par l’IA nous mettent à l’épreuve depuis des années maintenant. Nous voyons aujourd’hui de nombreux fournisseurs de cybersécurité planifier ou mettre en œuvre des éléments de ce processus :
- L’IA peut créer des configurations complexes en posant des questions concernant une entreprise
- L’IA exploite les référentiels de données pour répondre aux questions des utilisateurs
- L’IA détecte les mutations en temps réel et peut résoudre les problèmes liés aux systèmes infectés
Face à une pénurie de talents en cybersécurité, l’IA commence à combler cette lacune et à fournir les vérifications et les équilibres tellement nécessaires, promis pendant des années.
Prêtez attention aux risques
Le potentiel incertain de l’IA est source de préoccupation. Les évolutions de l’IA permettront également à beaucoup plus d’acteurs malveillants de lancer des attaques. Ces nouvelles menaces pourraient remodeler le panorama de la sécurité en raison des nouvelles voies que crée l’IA pour les cyberattaques. Ces attaques, qui ne sont pas soumises aux limitations humaines, se présentent comme une menace inquiétante, capable d’événements simultanés illimités. Quelques exemples soulignent ce danger émergent :
- Les capacités de l’IA, telles que la reconnaissance des schémas et le traitement du langage naturel, peuvent être utilisées pour tromper et se faire passer pour des humains. Même les proches collaborateurs d’une équipe ont été trompés par des tests récents.
- L’IA utilisée pour analyser les comportements, les humeurs, les profils et les tendances chez l’homme peut fournir de nouvelles munitions aux pirates potentiels pour qu’ils compromettent les systèmes de sécurité, dirigent des attaques par rançongiciel, agitent l’opinion publique et bien plus encore.
Redéfinissez votre stratégie de défense
Les entreprises qui envisagent l’IA dans leurs produits, leur sécurité d’entreprise ou à d’autres fins doivent envisager la possibilité que l’IA elle-même puisse être manipulée à l’aide d’ensembles de données infectés pour modifier les comportements de l’IA initialement souhaités.
L’essor des menaces découlant de l’IA marque un tournant dans la cybersécurité et la sécurité physique. Les progrès sont source de vulnérabilités, et l’innovation comporte des risques. Les entreprises doivent s’adapter en redéfinissant les défenses et les stratégies pour faire face à ce panorama en évolution. La vigilance est primordiale compte tenu de la double nature de l’IA.
En attendant l’aboutissement des nombreux travaux en cours sur la définition des normes, la gouvernance et l’éthique autour de l’utilisation appropriée de l’IA, les experts suggèrent de créer un cadre de conformité de l’IA similaire à la norme de sécurité des données de l’industrie des cartes de paiement (Payment Card Industry Data Security Standard, PCI-DSS).
Jusqu’à l’émergence d’un cadre de conformité, les mises œuvre de l’IA doivent utiliser une approche basée sur les meilleures pratiques :
- Examiner l’ensemble du cycle de vie du produit/système d’IA à la recherche de vulnérabilités et d’opportunités
- Évaluer la sécurité, la disponibilité et l’accès aux données utilisées pour former les algorithmes d’IA
- Déterminer le véritable retour sur investissement de l’IA pour les produits et les systèmes
- Identifier un plan d’atténuation des menaces liées à l’IA et ajouter un plan de récupération et d’action au plan de sécurité de l’entreprise
Arrow Electronics permet aux fournisseurs de solutions et de services informatiques de comprendre, d’exécuter et de monétiser la sécurité à l’échelle de votre activité. Parcourez notre site Web ou contactez un représentant Arrow pour en savoir plus sur nos produits, solutions et capacités de sécurité.
