MI és biztonság – Hol a kompromisszum?

Nem meglepő, hogy a mesterséges intelligencia a modern üzleti élet minden területét áthatja, beleértve az informatikát is – és ez alól a biztonság sem mentesül. A mesterséges intelligencia szerepe a szoftverek és rendszerek megerősítésében a vállalatok számára elsődleges fontosságúvá vált. Ezzel párhuzamosan az ártó szereplők is a mesterséges intelligenciába fektetnek, hogy bővítsék a támadások mértékét és hatókörét. A modern mesterséges intelligenciára vonatkozó példák arra késztették a szakértőket, hogy azt feltételezzék, hogy a mesterséges intelligencia maga is fenyegetést jelent majd a vállalkozások számára, mivel jogosulatlan célokra használható.

Hagyományosan a kiberbiztonságban megjelenő sebezhetőségeket gyakran a rendszerarchitektúrán belüli problémákra vezetik vissza. A mesterséges intelligencia az összetett adatmodellek és a kölcsönös függőségek miatt újszerű sebezhetőségeket hoz létre. A mesterséges intelligencia kettős természete egyedülálló kihívást jelent a vállalati biztonság számára. Képzeljünk el egy olyan forgatókönyvet, amelyben egy infrastruktúrát védő mesterséges intelligenciarendszer szembekerül egy másik mesterséges intelligenciarendszerrel, amelyet kizárólag arra terveztek, hogy megrongálja védekező ellenfelét.

A mesterséges intelligencia ígérete

A mesterséges intelligenciát érintő gyakorlatok már évek óta léteznek a legnagyobb technológiai gyártóknál. A költségek csökkentésére, a problémák megoldására, a nyereség növelésére és még sok másra vonatkozó ígéretek elérhető közelségben vannak. Ezek az előnyök főként abból adódnak, hogy a mesterséges intelligencia képes automatizálni olyan feladatokat, amelyek korábban speciális emberi munkát és szakértelmet igényeltek. Továbbá kulcsfontosságú a legkisebb eltérések és anomáliák gyors és pontos észlelésének képessége – valamint az üzleti veszteségek minimalizálása vagy megszüntetése, illetve a nyereség maximalizálása. Ezek az előnyök segíthetnek egy vállalkozásnak, hogy megelőzze versenytársait.

Ez a kiberbiztonság esetében sincs másképp. Évek óta ígérgetik, hogy a mesterséges intelligencia jobban megvédi informatikai eszközeinket és szellemi tulajdonunkat. Számos kiberbiztonsági szolgáltató tervezi vagy épp valósítja meg ennek egy részét:

• A mesterséges intelligencia komplex konfigurációkat tud létrehozni azáltal, hogy kérdéseket tesz fel egy vállalkozással kapcsolatban
• A mesterséges intelligencia adattárakat bányászik, hogy válaszoljon a felhasználók kérdéseire
• A mesterséges intelligencia valós időben találja meg a mutációkat, és képes helyreállítani a fertőzött rendszereket

Mivel kevés a kiberbiztonsági szakember, a mesterséges intelligencia kezdi megszüntetni ezt a rést, és biztosítja az évek óta ígérgetett, rendkívül szükséges ellenőrzéseket és egyensúlyokat.     

Figyeljen a kockázatokra

A mesterséges intelligencia árnyoldala aggodalomra adhat okot. A mesterséges intelligencia fejlődésével sokkal több ártó szereplő válik képessé a támadások végrehajtására. Az újfajta fenyegetések átformálhatják a biztonsági környezetet, mivel a mesterséges intelligencia új utakat nyit a kibertámadások előtt. Ezek a támadások, amelyeket nem terhelnek emberi korlátok, baljós fenyegetésként jelennek meg, amelyek korlátlan számú, egyidejű esemény formájában válhatnak valósággá. Néhány példa, amely alátámasztja a kialakulóban lévő veszélyhelyzetet:

• A mesterséges intelligencia képességei, mint például a mintafelismerés és a természetes nyelvi feldolgozás, felhasználhatók az emberek megtévesztésére és megszemélyesítésére. Még a közeli csapattagokat is megtévesztik a legfrissebb tesztek.
• Az emberi viselkedés, a hangulat, a profilok és a tendenciák elemzésére használt mesterséges intelligencia új muníciót adhat a potenciális hackereknek a biztonsági rendszerek kompromittálására, zsarolóvírus-támadások irányítására, a közvélemény befolyásolására és még sok másra.

A védelmi stratégia újradefiniálása

A mesterséges intelligencia termékekben, vállalati biztonsági rendszerekben vagy bármely más céllal történő felhasználását fontolgató vállalkozásoknak számolniuk kell azzal a lehetőséggel, hogy magát a mesterséges intelligenciát is manipulálni lehet hibás adathalmazok felhasználása révén, hogy megváltoztassák a mesterséges intelligencia eredetileg kívánt viselkedését.

A mesterséges intelligencia által vezérelt fenyegetések térhódítása sorsfordító pillanatot jelent a kiber- és fizikai biztonság területén. A fejlődés sebezhetőséggel jár, az innováció pedig kockázatot hordoz. A vállalkozásoknak alkalmazkodniuk kell, újra kell definiálniuk a védekezési rendszereiket és stratégiákat, hogy eligazodjanak ebben a változó környezetben. A mesterséges intelligencia kettős természetével szemben az éberség a legfontosabb.  

Miközben a mesterséges intelligencia megfelelő felhasználásával kapcsolatos szabványok megállapítása, az irányítás és az etika terén még sok munka van hátra, a szakértők azt javasolják, hogy érdemes lenne létrehozni egy, a Payment Card Industry Data Security Standard (PCI-DSS) szabványhoz hasonló mesterséges intelligencia-megfelelési keretrendszert.

A megfelelőségi keretrendszer megjelenéséig a mesterséges intelligencia bevezetésének a legjobb gyakorlaton alapuló megközelítést kell alkalmaznia:

• A termék/MI rendszer teljes életciklusának vizsgálata a sebezhetőségek és lehetőségek szempontjából  
• A mesterséges intelligencia-algoritmusok képzéséhez használt adatok biztonságának, elérhetőségének és hozzáférhetőségének kiértékelése
• A mesterséges intelligencia valódi megtérülésének meghatározása a termékek és rendszerek vonatkozásában
• A mesterséges intelligenciával kapcsolatos fenyegetéscsökkentési terv kidolgozása, valamint a helyreállítási és cselekvési terv hozzáadása a vállalati biztonsági tervhez

Az Arrow Electronics lehetővé teszi az IT-megoldások és -szolgáltatók számára, hogy megértsék, megvalósítsák és készpénzre váltsák a biztonságot a teljes gyakorlatukban. Fedezze fel weboldalunkat, vagy lépjen kapcsolatba az Arrow képviselőjével, ha többet szeretne megtudni biztonsági termékeinkről, megoldásainkról és képességeinkről.