L’intelligence artificielle est-elle une bénédiction ou une malédiction ? L’intelligence artificielle, ou IA, qui nous a tout apporté, de Siri aux drones, a longtemps été saluée comme un changeur de jeu.
Cependant, un rapport récent rédigé par un groupe de 26 experts d’institutions d’élite, dont les universités de Cambridge et d’Oxford, suggère que cette technologie supérieure pourrait être vulnérable à la manipulation par des criminels, des États voyous et même des terroristes.
Leur rapport, The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, prédit une augmentation inquiétante de la cybercriminalité au cours de la prochaine décennie, avec une référence particulière aux drones, et avertit que si l’IA est ciblée, elle pourrait représenter une menace sérieuse pour la sécurité nationale. risque.
Mais qu’en est-il de l’impact sur les entreprises ?
Les entreprises du Pays de Galles utilisent souvent l’intelligence artificielle dans leurs rapports, des assistants personnels pour smartphones, notamment Siri et Alexa, aux drones utilisés pour arpenter les terres.
Beaucoup utilisent également l’IA pour prendre en charge les fonctions de support client en ligne, pour effectuer une surveillance interne avec des caméras de sécurité, et même pour générer automatiquement des e-mails ou des SMS pour alerter les clients des transactions frauduleuses potentielles. Il peut également aider les entreprises à traiter de grandes quantités de données clients.
De nombreuses entreprises ne sont peut-être pas conscientes du rôle important que joue l’IA dans leurs opérations quotidiennes.
Alors, quelles sont les implications pour les entreprises si l’IA est ciblée par des groupes ou des individus malveillants ayant l’intention de commettre des activités criminelles ?
Antony Crampton, directeur de la conformité et des enquêtes chez CJCH Consulting, un leader de la cybercriminalité et de la conformité, a déclaré que ce type de piratage hautement intelligent pourrait avoir des conséquences troublantes dans la communauté des affaires.
Il a déclaré : « Alors que nous étions conscients des avantages que l’IA peut apporter pour soutenir la croissance et la prospérité des entreprises, nous avons également eu une longue discussion sur sa vulnérabilité potentielle inquiétante par rapport aux cybercriminels.
« Les criminels en ligne recherchent constamment des moyens d’accéder aux informations d’entreprise qu’ils peuvent exploiter, et l’utilisation de l’intelligence artificielle pourrait potentiellement leur fournir un autre point d’entrée.
« Ce rapport illustre le potentiel d’abus extrême de cette technologie au cours des 5 à 10 prochaines années et devrait servir d’avertissement aux entreprises pour qu’elles analysent et mettent à jour leurs pratiques de sécurité en ligne afin de se protéger des pirates et de les empêcher d’y accéder. »
M. Crampton a offert ses conseils sur les zones particulièrement vulnérables où les entreprises pourraient être ciblées et les implications potentielles de cela.
- Les entreprises, qui s’appuient régulièrement sur l’intelligence artificielle pour traiter de grandes quantités d’informations financières ou traiter les détails des clients, pourraient être ciblées par des pirates essayant d’accéder à leurs systèmes et d’obtenir ces détails par des moyens frauduleux.
- Non seulement les entreprises utilisent l’IA en ligne pour obtenir des informations sur les clients, mais elles peuvent également utiliser un assistant personnel en ligne pour obtenir des informations, laissant tous les comptes liés à cet appareil vulnérables au piratage. Cela pourrait entraîner une violation importante des données, mettant en danger les informations personnelles de nombreux clients, fournisseurs et entreprises liées, créant une menace sérieuse de fraude, d’usurpation d’identité et de vol de fonds.
- Une augmentation des spams créés par les informations des médias sociaux pourrait également être envoyée par des entreprises par des pirates essayant de cibler des clients ou par des entreprises essayant d’obtenir des informations confidentielles.
- Les criminels rançongiciels peuvent également commencer à explorer les faiblesses de l’IA à des fins de manipulation. Ces types de cyberattaques ont ciblé de grandes et petites entreprises à travers le Royaume-Uni et ont souvent pour conséquence que la victime paie des sommes énormes au pirate.
- Dans des cas plus extrêmes, des drones commerciaux et des voitures automatisées pourraient être piratés et transformés en armes. Cela est particulièrement préoccupant en ce qui concerne les véhicules, qui ont été de plus en plus utilisés pour cibler des civils à des fins terroristes ces dernières années.
Crampton a ajouté : « Les entreprises qui ont des doutes sur les implications de ce rapport ou qui souhaitent mettre à jour leurs politiques anti-piratage en matière de cybersécurité doivent consulter un expert. Chez CJCH Consulting, nous sommes disponibles pour vous conseiller sur toutes les questions spécialisées en matière de cybercriminalité. »