Umělá inteligence může pomáhat i škodit
Není divu, že umělá inteligence (AI) proniká do všech aspektů moderní výpočetní techniky. Bezpečnost není výjimkou. Nasazení umělé inteligence, která pomáhá zajistit bezpečnost systémů, si získává širokou pozornost. Současně však AI zkoumají i narušitelé bezpečnosti, aby rozšířili rozsah a dosah útoků. Odborníci se obávají, že AI sama o sobě bude pro podniky hrozbou, protože ji lze zmanipulovat tak, aby vyhovovala neautorizovaným účelům.
Na rozdíl od problémů s kybernetickou bezpečností, které jsou často způsobeny chybami v systému, vytváří umělá inteligence závislá na datech nová zranitelná místa. Ačkoli může být AI silou dobra, bude také výzvou pro organizace zabývající se podnikovou bezpečností. Není nerozumné představit si budoucnost, kdy jeden systém umělé inteligence, jehož úkolem je bránit podnikovou infrastrukturu před hrozbami, bojuje s jiným AI systémem určeným k útoku na infrastrukturu.
Jak umělá inteligence pomáhá
Ačkoli oblast umělé inteligence existuje již řadu let, o mnoha jejích důsledcích pro podniky, společnost a politické řízení se stále diskutuje. Zodpovědní pracovníci udělají dobře, když pochopí hrozby a příležitosti, které AI přináší pro bezpečnost podniků.
Technologie umělé inteligence slibují snížení nákladů na zabezpečení podniku a mohou být také velmi účinné při prevenci a zastavení útoků protivníků. Tyto výhody plynou především ze schopnosti AI snadno a efektivně zvládat úkoly, které vyžadují lidskou práci a odborné znalosti. Dále schopnost odhalit i malé odchylky v chování sítě a uživatelů umožní AI nasadit mechanismy k omezení, izolaci a eliminaci hrozeb mnohem dříve než lidé.
Jak umělá inteligence škodí
Na druhou stranu umožní umělá inteligence mnohem většímu počtu aktérů provádět útoky a usnadní přípravu skrytých akcí, které jsou pro člověka neproveditelné. AI rozšiřuje prostředí hrozeb pro podniky a přináší nové způsoby kybernetických útoků. Tyto hrozby mohou být realizovány bez nutnosti zdlouhavé práce a mohou snadno napadat více cílů. Několik příkladů:
- Schopnosti umělé inteligence, jako je rozpoznávání vzorů a zpracování přirozeného jazyka, lze využít k oklamání a vydávání se za člověka.
- Umělá inteligence používaná k analýze lidského chování, nálad a tendencí může potenciálním hackerům poskytnout novou munici k ohrožení bezpečnostních systémů a přímému útoku ransomwarem.
- Zranitelnosti softwaru lze snáze identifikovat a zneužít pomocí automatizace AI.
- Hrozby pro podnikovou bezpečnost se mohou projevit také v případě, že umělá inteligence může ovládnout drony a další kyberneticko-fyzické systémy a převzít škodlivou kontrolu nad kritickými infrastrukturami.
Využití výhod umělé inteligence vyžaduje dobrou správu
Podniky, které uvažují o umělé inteligenci ve svých produktech nebo jako o mechanismu ochrany před kybernetickými hrozbami, musí také zvážit možnost, že by samotná umělá inteligence mohla být zmanipulována pomocí hackerských datových souborů, které by změnily její chování.
Zatímco na stanovení standardů, správě a vhodném využití umělé inteligence se ještě hodně pracuje, odborníci navrhují vytvořit rámec pro "shodu s umělou inteligencí" podobný standardu pro bezpečnost dat v odvětví platebních karet (PCI).
Dokud nebude vytvořen rámec pro dodržování předpisů, musí zúčastněné strany při zavádění AI používat přístup založený na osvědčených postupech:
- Zkoumání celého životního cyklu produktu/systému AI z hlediska zranitelností a příležitostí.
- Posouzení bezpečnosti, dostupnosti a přístupu k datům používaným k trénování algoritmů umělé inteligence.
- Určení skutečné návratnosti investic do umělé inteligence v jejich produktech a systémech.
- Identifikace plánu na zmírnění hrozeb v oblasti umělé inteligence a doplnění plánu obnovy a opatření do plánu zabezpečení podniku.
