AI och säkerhet – Vad är kompromissen?

Det är inte förvånande att AI genomsyrar alla aspekter av modern verksamhet, inklusive IT – och säkerhet är inte immun. AI:s roll i att stärka programvara och system har blivit huvudfokus för företag. Samtidigt investerar illvilliga aktörer i AI för att utöka attackernas räckvidd och omfattning. Moderna AI-exempel har lett till att experter spekulerar om att AI i sig kommer vara ett hot för företag eftersom det kan manipuleras för obehöriga ändamål.

Traditionellt tillskrivs de sårbarheter som förekommer i cybersäkerhet ofta problem inom systemarkitekturen. AI introducerar nya sårbarheter på grund av sina komplexa datamodeller och ömsesidiga beroenden. Denna dubbla natur hos AI ger upphov till en unik utmaning inom företagssäkerhet. Föreställ dig ett scenario där ett AI-system som försvarar infrastruktur ställs inför ett annat AI-system som är utformat enbart för att korrumpera sin defensiva motpart.

Löftet om AI

AI-metoder har funnits i många år hos några av de största teknikleverantörerna. Löften om att minska kostnaderna, lösa problem, öka vinsten med mera finns inom räckhåll. Dessa fördelar härrör främst från AI:s förmåga att automatisera uppgifter som tidigare krävde specialiserat mänskligt arbete och expertis. Vidare är det förmågan att upptäcka de minsta avvikelserna och anomalierna snabbt och exakt – samt att minimera eller eliminera affärsförluster alternativt att maximera vinster – som är nyckeln. Dessa fördelar kan hjälpa ett företag att ta ett stort kliv före sina konkurrenter.

Det är ingen skillnad när det gäller cybersäkerhet. Vi har under många år hört talas om att AI kan skydda våra IT-tillgångar och immateriella rättigheter på ett bättre sätt. Vi ser många cybersäkerhetsleverantörer planera eller implementera delar av det idag:

• AI kan bygga komplexa konfigurationer genom att ställa frågor om ett företag
• AI bryter databaser för att svara på frågor från användare
• AI hittar mutationer i realtid och kan avhjälpa infekterade system

Med brist på kompetens inom cybersäkerhet börjar AI sluta det gapet och tillhandahålla de välbehövliga kontroller och motvikter som utlovats i åratal.     

Var uppmärksam på riskerna

AI:s skuggpotential är orsak till oro. När AI utvecklas kommer det att göra det möjligt för fler illvilliga aktörer att utföra attacker. Dessa nya hot kan omforma säkerhetslandskapet med AI som öppnar nya vägar för cyberattacker. Dessa attacker, ohindrat av mänskliga begränsningar, skymtar som ett olycksbådande hot, kapabla till gränslösa samtidiga händelser. Några exempel understryker denna framväxande fara:

• AI-funktioner, som mönsterigenkänning och naturlig språkbehandling, kan användas för att lura och utge sig för att vara människor. Även nära teammedlemmar luras av de senaste testerna.
• AI som används för att analysera mänskliga beteenden, stämningar, profiler och tendenser kan ge potentiella hackare ny kraft för att äventyra säkerhetssystem, direkta ransomware-attacker, styra den allmänna opinionen och mycket mer.

Omdefiniera din försvarsstrategi

Företag som överväger AI i sina produkter, för sin företagssäkerhet eller för ett antal andra ändamål måste överväga möjligheten att själva AI:n kan manipuleras med hjälp av manipulerade dataset för att ändra de AI-beteenden som ursprungligen önskades.

Ökningen av AI-drivna hot markerar ett avgörande ögonblick inom cybersäkerhet och fysisk säkerhet. Framsteg medför sårbarheter och innovation medför risker. Företagen måste anpassa sig och omdefiniera sitt försvar och sina strategier för att navigera i detta föränderliga landskap. Med tanke på AI:s dubbla natur är vaksamhet är av största vikt.  

Medan mycket arbete väntar på den standardisering, styrning och etik för lämplig användning av AI, föreslår experter att man skapar ett AI-efterlevnadsramverk som liknar Payment Card Industry Data Security Standard (PCI-DSS).

Tills ett efterlevnadsramverk uppstår bör AI-implementeringar använda en metod som utgår från bästa praxis:

• Undersök hela produkt-/AI-systemets livscykel för sårbarheter och möjligheter  
• Bedöm säkerheten samt tillgänglighet och åtkomst till den data som används för att utbilda AI-algoritmer
• Fastställ AI:s verkliga ROI i produkter och system
• Identifiera en hotreduceringsplan för AI och lägg till återställnings- och åtgärdsplanering i företagets säkerhetsplan

Arrow Electronics gör det möjligt för leverantörer av IT-lösningar och tjänsteleverantörer att förstå, verkställa och tjäna pengar på säkerhet i hela din verksamhet. Utforska vår webbplats eller kontakta en Arrow-representant för att lära dig mer om våra säkerhetsprodukter, lösningar och funktioner.