Vyvažování rizik a potenciálních příslibů umělé inteligence
Není divu, že umělá inteligence proniká do všech aspektů moderního podnikání, včetně IT – a bezpečnost není imunní. Úloha umělé inteligence při posilování softwaru a systémů se dostala do popředí zájmu podniků. Současně zločinci investují do umělé inteligence, aby rozšířili rozsah a působnost útoků. Moderní příklady umělé inteligence vedly odborníky ke spekulacím, že umělá inteligence sama o sobě bude pro podniky hrozbou, protože může být zneužita k neoprávněným účelům.
Chyby zabezpečení, které se objevují v oblasti kybernetické bezpečnosti, se často připisují problémům v architektuře systému. Umělá inteligence přináší nové chyby zabezpečení kvůli složitým datovým modelům a vzájemným závislostem. Tato dvojí povaha umělé inteligence přináší jedinečnou výzvu pro podnikovou bezpečnost. Představte si scénář, ve kterém se systém umělé inteligence bránící infrastrukturu střetne s jiným systémem umělé inteligence určeným výhradně k poškození svého obranného protějšku.
Příslib umělé inteligence
Používání umělé inteligence existuje u některých největších dodavatelů technologií již mnoho let. Přísliby, že snížíte náklady, vyřešíte problémy, zvýšíte zisky a mnoho dalšího, jsou na dosah. Tyto výhody plynou především ze schopnosti umělé inteligence automatizovat úkoly, které dříve vyžadovaly specializovanou lidskou práci a odborné znalosti. Dále je klíčová schopnost rychle a přesně odhalit i ty nejmenší odchylky a anomálie – a minimalizovat či eliminovat obchodní ztráty nebo maximalizovat zisky. Tyto výhody mohou firmě pomoci získat náskok před konkurencí.
Nejinak je tomu i v případě kybernetické bezpečnosti. Sliby, že umělá inteligence dokáže lépe chránit naše aktiva a duševní vlastnictví v oblasti informačních technologií, nás dráždí již několik let. Dnes se setkáváme s tím, že mnoho dodavatelů kybernetické bezpečnosti plánuje nebo zavádí její části:
- Umělá inteligence dokáže vytvářet složité konfigurace pomocí otázek týkajících se podnikání.
- Umělá inteligence doluje datová úložiště, aby odpovídala na otázky uživatelů.
- Umělá inteligence vyhledává mutace v reálném čase a dokáže opravit infikované systémy.
Vzhledem k nedostatku talentů v oblasti kybernetické bezpečnosti začíná umělá inteligence tuto mezeru zaplňovat a zajišťovat tolik potřebnou kontrolu a rovnováhu, která je již léta slibována.
Uvědomujte si rizika
Stínový potenciál umělé inteligence je důvodem k obavám. S rozvojem umělé inteligence bude moci útoky provádět mnohem více uživatelů se zlými úmysly. Tyto nové hrozby by mohly změnit bezpečnostní prostředí, protože umělá inteligence otevírá nové možnosti kybernetických útoků. Tyto útoky, nezatížené lidskými omezeními, představují zlověstnou hrozbu, schopnou neomezeného počtu souběžných událostí. Toto vznikající nebezpečí podtrhuje několik příkladů:
- Schopnosti umělé inteligence, jako je rozpoznávání vzorů a zpracování přirozeného jazyka, lze využít ke klamání a vydávání se za člověka. Nedávné testy zmátly dokonce i blízké členy týmu.
- Umělá inteligence používaná k analýze lidského chování, nálad, profilů a tendencí může potenciálním hackerům poskytnout nové zbraně k ohrožení bezpečnostních systémů, přímému útoku ransomwarem, ovlivňování veřejného mínění a mnoha dalším věcem.
Přehodnoťte svou obrannou strategii
Podniky, které uvažují o využití umělé inteligence ve svých produktech, v zabezpečení podniku nebo pro řadu jiných účelů, musí vzít v úvahu možnost, že by samotná umělá inteligence mohla být zmanipulována pomocí zmanipulovaných datových sad, které by změnily původně požadované chování umělé inteligence.
Vzestup hrozeb založených na umělé inteligenci představuje zásadní okamžik v oblasti kybernetické a fyzické bezpečnosti. Pokrok přináší chyby zabezpečení a inovace s sebou nesou rizika. Podniky se musí přizpůsobit a nově definovat obranu a strategie, aby se v tomto vyvíjejícím se prostředí orientovaly. Tváří v tvář dvojí povaze umělé inteligence je nejdůležitější ostražitost.
Na stanovení standardů, správě a etice v souvislosti s vhodným používáním umělé inteligence se ještě hodně pracuje a odborníci navrhují vytvořit rámec pro dodržování předpisů v oblasti umělé inteligence podobný standardu pro bezpečnost dat v odvětví platebních karet (PCI-DSS).
Do doby, než bude vytvořen rámec pro dodržování předpisů, by se při implementaci umělé inteligence měl používat přístup založený na osvědčených postupech:
- Zkoumání chyb zabezpečení a příležitostí v celém životním cyklu produktu/systému umělé inteligence
- Posouzení zabezpečení, dostupnosti a přístupu k datům používaným k trénování algoritmů umělé inteligence
- Určení skutečné návratnosti investic do umělé inteligence v produktech a systémech
- Identifikace plánu na zmírnění hrozeb v oblasti umělé inteligence a přidání plánování obnovy a opatření do plánu zabezpečení podniku
Společnost Arrow Electronics umožňuje poskytovatelům řešení a služeb v oblasti IT pochopit, realizovat a zpeněžit zabezpečení v rámci celé vaší praxe. Navštivte naše webové stránky nebo se spojte se zástupcem společnosti Arrow a zjistěte více o našich bezpečnostních produktech, řešeních a možnostech.
