Tekoälysovellusten tietoturvasarja 1: turvallisuusnäkökohdat tekoälytyökalujen käyttöönotossa

Kun Microsoft Copilotin kaltaisista tekoälytyökaluista tulee yhä keskeisempiä yritystoiminnoissa, tutkimus ja käytännön testaus paljastavat uusia haavoittuvuuksia. Uhkatoimijat etsivät nopeasti lisää tapoja hyödyntää näitä työkaluja, esimerkiksi osana hyökkäysketjuaan perinteisten hyökkäysten living-off-the-land-tekniikan tavoin. Vaikka teknologia on uusi, Microsoft integroi sen tunnettuihin ja hyväksi todettuihin prosesseihin, kuten koordinoituun haavoittuvuuksien ilmoittamiseen, jotta riskit voidaan tunnistaa ja lieventää turvallisesti. Nämä tapaukset tarjoavat organisaatioille arvokkaita oppeja. Ei siksi, että työkalut olisivat epäonnistuneet perinteisessä mielessä, vaan siksi, että ne paljastavat odottamattomia tapoja, joilla tekoälyä voidaan käyttää väärin sen vuorovaikutuksessa datan ja ihmisten työnkulkujen kanssa.

CVE-2025-32711 (2025)
EchoLeak – joka on nyt korjattu – oli monivaiheisen, useita kehotteita hyödyntävän injektiohyökkäyksen tekniikka, jolla tietyissä olosuhteissa voitiin vuotaa rajoitettu määrä tietoja, joihin uhrilla oli jo käyttöoikeus. Huolellisesti laadittu sähköposti — joka on suunniteltu näyttämään harmittomalta — voisi hiljaisesti myrkyttää Copilotin näkemän kehotteen ja saada sen vuotamaan rajattuja sisäisiä tietoja uhrin tietämättä. Microsoft julkaisi nopeasti päivitykset korjatakseen haavoittuvuuden CVE-2025-32711. Haavoittuvuus toi esiin hienovaraisen mutta vakavan riskin: tekoälyjärjestelmät voivat tahattomasti paljastaa arkaluonteisia asiakastietoja epäsuoran kehotteiden manipuloinnin seurauksena.

Liian laajat käyttöoikeudet
Copilot perii käyttäjiensä käyttöoikeudet. Jos jollakulla on edelleen pääsy edellisen osaston tietoihin, Copilot voi nostaa nämä tiedot esiin luomissaan vastauksissa. Vastaavasti arkaluonteiset tiedot, jotka ovat yhden työntekijän käytettävissä, voivat päätyä tekoälyn yhteenvedoissa näkyviin ja aiheuttaa vaatimustenmukaisuus- ja yksityisyysriskejä. Organisaatiot voivat pienentää riskiä vähimpien oikeuksien periaatteella, roolipohjaisilla hallintakeinoilla ja Microsoft Purview’n DLP-käytännöillä. Lisäksi M365 Copilotin Tutkija-tilan käyttäminen voi auttaa tunnistamaan käyttöoikeusvuodot ennakoivasti ennen kuin niistä kasvaa tietoturvaongelma. Keskeinen periaate on luottaa tekoälyyn vain sellaisten tietojen kanssa, joiden käyttö tuntuu turvalliselta — eli käytännössä sellaisten tietojen, joiden paljastumisen voisit hyväksyä. Organisaatioiden kannattaa toteuttaa riskimallin arviointi ja lieventämissuunnitelma, jotta voidaan tarkasti arvioida, mihin tietoihin Copilot voi turvallisesti olla vuorovaikutuksessa, sen sijaan että se asetettaisiin hyvin luottamuksellisten työnkulkujen keskiöön.

Sisäinen väärinkäyttö ja toimintavirheet
Kaikki tapaukset eivät johdu ulkoisista uhista. Joissakin tapauksissa sisäiset käyttäjät voivat käyttää Copilotin kaltaisia työkaluja sellaisten raporttien luomiseen, jotka sisältävät arkaluonteisia tietoja, tarkistamatta niitä riittävän huolellisesti. Lieventäminen perustuu koulutukseen, valvontaan, poikkeamien tunnistukseen ja hallintakäytäntöihin, jotta tekoäly pysyy luotettavana avustajana eikä hallitsemattomana työkaluna.

Epäsuora datamyrkytys ja kehotteiden manipulointi
Tekoälyjärjestelmät ovat alttiita monenlaisille uhille. Esimerkiksi epäsuora datamyrkytys ja kehotteiden manipulointi voivat ohjata mallin toimintaa huomaamattomasti ilman selviä varoitusmerkkejä. Näissä menetelmissä syötteitä muokataan niin, että tulokset ohjautuvat riskialttiisti — esimerkiksi paljastamaan arkaluonteisia tietoja tai vahvistamaan vinoumaa. Piilotetut kehotteet, kuten heksadesimaaliksi koodattu teksti tai näkymätön muotoilu, voivat hienovaraisesti vaikuttaa Copilotin yhteenvedon sisältöön ja ajoittain nostaa esiin vanhentunutta tai odottamatonta tietoa. Kun organisaatiot ottavat käyttöön hallitun sisällön tuonnin, varmistavat metatiedot ja ylläpitävät huolellista ohjausta tekoälyvuorovaikutuksessa, ne voivat pitää tekoälytyökalut luotettavina ja varmistaa, että ne tuottavat arvoa ilman tahattomia riskejä.

Nämä esimerkit osoittavat, että tekoälyn tietoturva liittyy usein ihmisten toimintaan, datan käsittelyyn ja tulkintaan — ei vain ohjelmistovirheisiin. Kun käytössä on asianmukaiset suojaukset, organisaatiot voivat hyödyntää Copilot-työkaluja tehokkaasti ja minimoida tahattoman altistumisen. Lue lisää Secure AI For a Strong Foundation -koulutuksesta | Microsoft Learn.