Kako umetna inteligenca vpliva na sedanje področje groženj, kako podjetje Palo Alto Networks ščiti sebe in svoje stranke ter kakšne so posledice za prihodnost kibernetske varnosti?
Mike Spisak, tehnični direktor v ekipi za ustvarjanje proaktivnih storitev pri podjetju Unit 42 je spregovoril o napovedih glede umetne inteligence na področju kibernetske varnosti in pomenu spodbujanja kulture, ki se zaveda kibernetske varnosti.
Ena od kratkoročnih napovedi Spiska je pojav "pomočnikov" za kibernetsko varnost z umetno inteligenco, ki bodo po njegovem mnenju služili kot kopiloti branilcev in povečali njihovo učinkovitost pri odzivanju na grožnje.
Predstavljajte si, da imate ob sebi virtualnega pomočnika za kibernetsko varnost, ki kot zaupanja vreden kopilot izboljša vaše varnostne operacije z neprimerljivo hitrostjo in učinkovitostjo. Spisak predvideva pojav takšnih pomočnikov v različnih oblikah, katerih namen je pospešiti hitrost odkrivanja, odzivanja in analiziranja groženj. Zato je nadvse pomembno izkoriščanje tehnologije umetne inteligence za avtomatizacijo vsakdanjih, nizkih opravil in pospešitev kritičnih procesov. Spisak poudarja, da je mogoče avtomatizirati skoraj 40 odstotkov vsakodnevnih varnostnih operacij, kar poudarja potencial pomočnikov, ki jih poganja umetna inteligenca, za revolucijo delovnih postopkov kibernetske varnosti.
Kot si predstavljamo, bodo ti pomočniki v kratkem času pripravljeni, da postanejo nepogrešljivi spremljevalci varnostnih analitikov, ki bodo racionalizirali delovanje in okrepili obrambne zmogljivosti. Vendar pa Spisak napoveduje še širši vpliv v srednjeročnem obdobju - predvideva prihodnost, v kateri bodo takšni pomočniki postali vseprisotni v vseh sektorjih, kjer bo imel vsakdo svojega pomočnika za kibernetsko varnost, ki bo prilagojen njegovim individualnim potrebam in pozoren na morebitne grožnje. Ti virtualni pomočniki, ki jih poganja umetna inteligenca, bi se brez težav vključili v vsakodnevne rutine ter zagotavljali pravočasne napotke in opozorila za zmanjšanje tveganj. Spisak pojasnjuje:
"Predstavljajte si kraj, kjer lahko CISO umetno vodenega inteligentnega pomočnika vpraša: 'Kje so ranljivosti v moji kodni bazi? Kje me je prizadela neka nova obveščevalna informacija o grožnjah, ki je pravkar izšla? Ali name vpliva ta nova informacija, ki je pravkar padla na mojo mizo? Pravkar sem od prijateljev iz Unit 42 izvedel za nov napad ničelnega dne. Ali obstaja v mojem okolju? Zavedati se moram teh vrst groženj.
To je področje, kjer sta vidnost in situacijsko zavedanje ključnega pomena. CISO mora netehničnim osebam razložiti, kaj se dogaja v okolju in kakšno tveganje to predstavlja. Če gre CISO k upravnemu odboru in reče, da potrebujem pomoč v obliki računalniške moči, virov ali znanja za boj proti prelivanju medpomnilnika, mu bodo pokazali vrata, ker se ta vprašanja ne nanašajo neposredno na poslovne rezultate. Če pa lahko CISO s pomočjo generativne umetne inteligence prejme povzetke besedil ali drug način, kjer se zapletene tehnične teme pretvorijo v uporabno poslovno govorico, se to prenese v nekaj, s čimer se lahko odbor poveže in po potrebi ukrepa."
Ti pomočniki bi nudili neprecenljivo podporo pri premagovanju groženj, od izogibanja lažnim elektronskim sporočilom do izogibanja sumljivim spletnim mestom. Spisak pričakuje, da bo z razvojem tehnologije in njeno večjo dostopnostjo razširjena uporaba takšnih pomočnikov posameznikom omogočila sprejemanje pametnejših varnostnih odločitev, kar bo na koncu okrepilo našo digitalno obrambo na svetovni ravni.
Dolgoročne napovedi
Spisak še napoveduje, da bodo sistemi umetne inteligence sodelovali v avtonomnih "bitkah" z napadalno umetno inteligenco, kar bo vodilo v cikel napada in obrambe, ki se bosta učila drug od drugega. Predvideva, da se bodo entitete umetne inteligence morda znašle v spopadu s svojimi napadalnimi kolegi, kjer se bodo avtonomno učili drug od drugega in nenehno ciklično ponavljali strategije napada in obrambe.
Čeprav takšna dinamika ni obsežno dokumentirana v resničnih scenarijih, je veliko teorij o možnosti, da bi napadalci in branilci, ki jih poganja umetna inteligenca, sodelovali v takšnem simbiotičnem procesu učenja. Ta napoved temelji na opažanjih iz simulacij in teoretičnih okvirov ter nakazuje verjetni potek kibernetske varnosti na dolgi rok.
V tej predvideni prihodnosti bodo napadalci, ki jih poganja umetna inteligenca, pridobili vpogled v obrambne taktike, medtem ko bodo obrambni sistemi umetne inteligence vzajemno preučevali napadalne strategije. Ta nenehni cikel učenja in prilagajanja poudarja, kako pomembno je, da pri razumevanju in zmanjševanju nastajajočih groženj ostajamo v koraku s časom.
Ko se bo ta predstava o prihodnosti razvila, bo kibernetsko bojevanje, ki ga poganja umetna inteligenca, zahtevalo inovativne pristope za ohranjanje varnosti v digitalnih ekosistemih, pri čemer je treba poudariti ključno potrebo po človeškem prispevku in etičnem nadzoru.
Usposobljenost umetne inteligence pri odkrivanju in preprečevanju varnostnih groženj in napadov
Na vprašanje, katere vrste varnostnih groženj ali napadov bodo sistemi, ki jih poganja umetna inteligenca, še posebej učinkoviti pri odkrivanju in preprečevanju, Spisak takoj preide k bistvu:
"Morda se zdi nekoliko očitno, a prvi, o katerem še nismo govorili, so napadi na zavrnitev storitve ali priljubljeni napadi DDoS oziroma porazdeljeni napadi na zavrnitev storitve. Mislim, da je umetna inteligenca zelo dobra pri odkrivanju vzorcev, prav tako pa mislim, da je zelo dobra pri ustvarjanju sintetičnih podatkov in nato pri prepoznavanju tega enkratnega za en odstotek ali za 1000 odstotkov ter zmožnosti premikanja dušilke, dušenja praga, na katerem so."
Poudarja, da je umetna inteligenca spretna pri zaznavanju vzorcev in da zna ustvarjati sintetične podatke, kar ji omogoča natančno prepoznavanje anomalij. "Sposobnost razlikovanja legitimnega prometa od zlonamernega in nato samodejnega preusmerjanja ali avtonomnega ukrepanja za ohranjanje razpoložljivosti storitev bo vedno bolj izpopolnjena," je pojasnil Spisak.
V nadaljevanju analize se Spisak posveča napadom z lažno elektronsko pošto in socialnim inženiringom. "Rešitve za varnost elektronske pošte, ki jih poganja umetna inteligenca, so pripravljene, da se izkažejo pri prepoznavanju lažnih elektronskih sporočil," trdi. Ti sistemi, ki temeljijo na svojih zmožnostih analiziranja vsebine e-pošte in vedenjskih vzorcev, se razvijajo tako, da predvidevajo taktike nasprotnikov in odzive prejemnikov. Spisak je poudaril, da je treba obrambne sisteme z umetno inteligenco nenehno izboljševati, da bi sledili razvijajočim se grožnjam. "Gre za ciklični vzorec napad-obramba," je pripomnil. "Vsak od nas si prizadeva prehiteti drugega v nenehni igri mačke in miši."
Med intervjujem je bilo postavljeno še eno vprašanje: "Katere proaktivne ukrepe je mogoče sprejeti za zaščito modelov umetne inteligence pred napadi nasprotnikov in tehnikami izogibanja?" Spisak uvodoma opozori, da je veliko modelov vzpostavljenih z uporabo odprtokodnih modelov ali modelov iz drugih virov. Nato ponudi preudaren odgovor:
"Gradnja zaupanja vrednega sistema umetne inteligence se začne z ocenjevanjem politik, praks in izvora (ali rodovnika), od koder pridobivate osnovni temeljni model, in nato z rastjo od tam. In nato seveda z izvajanjem tega, kar bom imenoval klasična higiena kibernetske varnosti - najprej se prepričajte, da imamo vzpostavljene temelje kibernetske varnosti za varnost oblaka, podatkov, identitet in aplikacij, da bi odpravili pogosta tveganja. Nato lahko preidemo na uporabo ukrepov, specifičnih za umetno inteligenco, za nastajajoče grožnje.
Menim, da se bo premik v levo in testiranje na začetku življenjskega cikla umetne inteligence izkazalo za zelo dragoceno. In nenehno ocenjevanje in usposabljanje. UI in z njo povezana varnost se hitro razvijata in zahtevata stalno zavezanost učenju in raziskavam, katerih rezultat je redno posodabljanje varnostnih kontrol, da bi se soočili s stalno spreminjajočimi se grožnjami."
Ključne metrike uspešnosti pri ocenjevanju umetne inteligence
Intervju se nekoliko prestavi, ko ga vprašamo, katere ključne metrike uspešnosti bi Spisak preučil ali bi komu svetoval, da jih preuči, da bi ocenil učinkovitost svojih rešitev, ki temeljijo na umetni inteligenci, in kako jih je treba spremljati v daljšem časovnem obdobju.
Spisak je odgovoril s pregledom bistvenih metrik, pri čemer je poudaril pomen temeljnih statističnih podatkov, kot sta stopnja lažno pozitivnih in lažno negativnih rezultatov, skupaj s stopnjo uspešnega odkrivanja. Te metrike, kot je pojasnil, nudijo ključen vpogled v natančnost in učinkovitost sistemov AI, zlasti na področju kibernetske varnosti.
Poleg teh metrik je Spisak poudaril pomen razumevanja pripisovanja groženj, ki zaznane grožnje kontekstualizira znotraj določenih skupin ali taktik akterjev groženj. Poudaril je tudi pomen upoštevanja razmerja med stroški in vrednostjo, kar zagotavlja ravnovesje med stroški izvajanja rešitev umetne inteligence in vrednostjo, ki jo prinašajo uporabnikom.
Ko gre za spremljanje teh kazalnikov skozi čas, Spisak zagovarja proaktivni pristop. Predlagal je, da je treba spremljati odklon modelov, pri katerem vedenje modelov umetne inteligence odstopa od njihove predvidene funkcije. Kot je pojasnil, je to mogoče doseči z zanesljivimi praksami MLOps, ki vključujejo standardne operativne postopke in protokole v celotnem življenjskem ciklu modela.
Poleg tega je Spisak predstavil koncept nasprotnih simulacij, podoben simulacijam v rdečih ekipah, kjer so modeli umetne inteligence podvrženi simuliranim napadom, da se ugotovijo ranljivosti in izboljša obramba. Ta pristop, kot je opozoril, pridobiva na veljavi, zlasti na področju zagonskih podjetij, saj si organizacije prizadevajo okrepiti svoje sisteme umetne inteligence pred razvijajočimi se grožnjami.
Ker se področje kibernetske varnosti še naprej razvija, bo vloga umetne inteligence vse pomembnejša. Spisak je poudaril, da morajo organizacije sprejeti rešitve, ki jih poganja umetna inteligenca, hkrati pa biti previdne in ohraniti človeški nadzor. Z ohranjanjem prednosti pred nastajajočimi grožnjami, izkoriščanjem UI za proaktivno obrambo in nenehnim razvojem varnostnih strategij lahko organizacije krmarijo po pokrajini UI in učinkovito varujejo svoje digitalno premoženje.