AI-alkalmazásbiztonsági sorozat 1: Biztonsági szempontok AI-eszközök adoptációjakor

Ahogy az olyan AI-eszközök, mint a Microsoft Copilot, egyre nagyobb szerepet játszanak a vállalati működésben, a kutatások és a gyakorlati tesztek új sebezhetőségeket tárnak fel. A kiberbűnözők gyorsan felkutatják az ilyen eszközök kihasználásának további módjait, például úgy, hogy azokat a támadási láncuk részeként használják fel, hasonlóan a hagyományos támadásokban alkalmazott „living-off-the-land” technikához. Bár ez a technológia új, a Microsoft olyan ismert és bevált folyamatokba építi be, mint az összehangolt sebezhetőség-közzététel, hogy a kockázatokat biztonságosan azonosítsák és mérsékeljék. Ezek az esetek értékes tanulságokkal szolgálnak a szervezetek számára, nem azért, mert az eszközök a hagyományos értelemben véve „hibásnak bizonyulnak”, hanem azért, mert rávilágítanak arra, hogy az AI milyen váratlan módon használható fel visszaélésszerűen az adatokkal és az emberi munkafolyamatokkal való interakciói során.

CVE-2025-32711 (2025)
Az EchoLeak – amelyet már kiküszöböltek – egy többlépcsős, több parancssoron átívelő behatolási támadási technika volt, amely bizonyos körülmények között korlátozott mennyiségű adatot tudott kiszivárogtatni, amelyekhez az áldozatnak már eleve hozzáférése volt. Egy gondosan megfogalmazott, ártalmatlannak tűnő e-mail csendben „megfertőzheti” a Copilot által kapott promptot, és a sértett tudta nélkül korlátozott belső adatokat szivárogtathat ki. A Microsoft gyorsan kiadta a javításokat a CVE-2025-32711 számú hibára. A sebezhetőség egy finom, de súlyos kockázatra világított rá: az AI-rendszerek közvetett parancsmanipuláció révén akaratlanul is felfedhetnek érzékeny ügyféladatokat.

Túlzott jogosultságokból eredő kockázatok
A Copilot örökli a felhasználói jogosultságokat. Ha valaki továbbra is hozzáfér egy korábbi részleg adataihoz, a Copilot ezeket az információkat a generált kimenetekben is megjelenítheti. Hasonlóképpen, az egyik munkatárs számára elérhető bizalmas adatok megjelenhetnek az AI által készített összefoglalókban, ami megfelelőségi és adatvédelmi kockázatot jelent. A szervezetek ezt a legkisebb jogosultság elvével, szerepköralapú vezérléssel és a Microsoft Purview DLP-szabályzataival mérsékelhetik. Emellett az M365 Copilot Kutató módja segíthet proaktívan feltárni a jogosultsági szivárgásokat, mielőtt azok biztonsági incidenssé válnának. A legfontosabb alapelv az, hogy az AI-nak csak olyan adatokhoz adjon hozzáférést, melyeket nyugodtan megoszthat – lényegében olyan információkat, amelyek nyilvánosságra hozatalából nem származik kár. A szervezeteknek kockázati modellt és kockázatcsökkentési tervet kell bevezetniük annak alapos értékelése érdekében, hogy a Copilot milyen adatokkal tud biztonságosan működni ahelyett, hogy a rendszert rendkívül bizalmas munkafolyamatok középpontjába helyeznék.

Belső visszaélések és működési hibák
Nem minden incidens külső fenyegetésből ered. Előfordul, hogy a belső felhasználók a Copilothoz hasonló eszközökkel bizalmas adatokat tartalmazó jelentéseket készítenek anélkül, hogy azokat alaposan átnéznék. A kockázatok mérséklésében a képzés, a monitorozás, az anomáliadetektálás és a cégirányítási szabályzatok segítenek abban, hogy az AI megbízható asszisztens maradjon, ne pedig ellenőrizetlen eszköz.

Közvetett adatmérgezés és a parancs manipulálása
Az AI-rendszerek számos szempontból sebezhetőek, többek között olyan finom, de hatékony technikák révén, mint a közvetett adatmérgezés és a parancsmanipuláció, amelyek nyilvánvaló figyelmeztető jelek nélkül, észrevétlenül alakíthatják a modell viselkedését. Ezek a módszerek olyan bemenetek kialakítását jelentik, amelyek kockázatos irányba terelik a kimeneteket – például bizalmas információk felfedésére vagy torzítás bevezetésére. Az olyan rejtett utasítások, mint a hexadecimális kódolású szöveg vagy a láthatatlan formázás, finoman befolyásolhatják a Copilot összefoglalásait, és esetenként elavult vagy váratlan információkat hozhatnak felszínre. Ha a szervezetek szabályozott tartalombevitelt alkalmaznak, ellenőrzik a metaadatokat és átgondolt felügyeletet tartanak fenn az AI-interakciók felett, megbízhatóbbá tehetik az AI-eszközöket, és biztosíthatják, hogy továbbra is értéket teremtsenek anélkül hogy nem szándékolt kockázatokat vezetnének be.

A fenti példák is azt mutatják, hogy az AI-biztonság gyakran az emberi viselkedésen, az adatkezelésen és az értelmezésen múlik – nem pusztán a szoftverhibákon. Megfelelő védelmi intézkedésekkel a szervezetek hatékonyan használhatják a Copilot-eszközöket, miközben minimalizálják a nem szándékolt kitettséget. További információ: Biztonságos AI az erős alapokért – Képzés | Microsoft Learn.