Chuỗi bài viết về Bảo mật ứng dụng AI (Phần 1): Những lưu ý về bảo mật khi triển khai công cụ AI

Khi các công cụ AI như Microsoft Copilot ngày càng trở thành một phần quan trọng trong hoạt động của doanh nghiệp, thì các nghiên cứu và thử nghiệm thực tế đang phát hiện nhiều lỗ hổng mới. Tác nhân đe dọa nhanh chóng tìm kiếm cách thức mới để khai thác các công cụ này, như sử dụng chúng như một mắt xích trong chuỗi tấn công, tương tự kỹ thuật lợi dụng tài nguyên sẵn có trong các cuộc tấn công truyền thống. Mặc dù là công nghệ mới, Microsoft vẫn tích hợp AI vào những quy trình đã biết và được kiểm chứng, chẳng hạn như công bố lỗ hổng có phối hợp, nhằm bảo đảm phát hiện và xử lý rủi ro một cách an toàn. Những trường hợp này mang lại nhiều bài học giá trị cho tổ chức, không phải vì các công cụ “thất bại” theo nghĩa thông thường, mà là vì chúng cho thấy những cách thức bất ngờ mà AI có thể bị lạm dụng trong quá trình tương tác với dữ liệu và quy trình làm việc của con người.

CVE-2025-32711 (2025)
EchoLeak (hiện đã được khắc phục) là một kỹ thuật tấn công chèn yêu cầu chéo nhiều giai đoạn, trong một số điều kiện nhất định có thể gây rò rỉ một lượng dữ liệu giới hạn mà nạn nhân vốn đã có quyền truy cập. Một email được thiết kế cẩn thận và có vẻ vô hại có thể âm thầm “đầu độc” yêu cầu mà Copilot tiếp nhận, khiến Copilot tiết lộ một phần dữ liệu nội bộ mà người dùng không hề hay biết. Microsoft đã nhanh chóng phát hành bản cập nhật để khắc phục lỗ hổng CVE-2025-32711. Lỗ hổng này nêu bật một rủi ro tinh vi nhưng nghiêm trọng: các hệ thống AI có thể vô tình làm lộ dữ liệu nhạy cảm của khách hàng thông qua gián tiếp thao túng yêu cầu.

Rủi ro do cấp quyền quá mức
Copilot kế thừa các quyền của người dùng. Nếu một người vẫn còn quyền truy cập vào dữ liệu từ phòng ban trước đây, Copilot có thể đưa những thông tin đó vào nội dung được tạo ra. Tương tự, dữ liệu nhạy cảm mà một nhân viên có quyền truy cập cũng có thể xuất hiện trong các bản tóm tắt do AI tạo ra, kéo theo rủi ro về tuân thủ và quyền riêng tư. Các tổ chức có thể giảm thiểu rủi ro này bằng nguyên tắc đặc quyền tối thiểu, cơ chế kiểm soát theo vai trò và chính sách Ngăn mất dữ liệu (DLP) trong Microsoft Purview. Ngoài ra, chế độ Trình nghiên cứu của Microsoft 365 Copilot có thể hỗ trợ chủ động phát hiện các lỗ hổng về phân quyền trước khi chúng trở thành vấn đề an ninh. Nguyên tắc cốt lõi là chỉ để AI truy cập dữ liệu mà tổ chức cho phép, tức là những dữ liệu bạn có thể chấp nhận bị lộ. Các tổ chức nên xây dựng mô hình đánh giá rủi ro và kế hoạch giảm thiểu để xác định cẩn trọng loại dữ liệu mà Copilot có thể tương tác an toàn, thay vì đưa công cụ này vào trung tâm của các quy trình làm việc có mức độ bảo mật cao.

Lạm dụng từ nội bộ và sai sót trong vận hành
Không phải mọi sự cố đều đến từ mối đe dọa bên ngoài. Trong một số trường hợp, người dùng nội bộ có thể sử dụng các công cụ như Copilot để tạo báo cáo chứa dữ liệu nhạy cảm mà không rà soát kỹ nội dung. Các biện pháp giảm thiểu bao gồm đào tạo, giám sát, phát hiện bất thường và áp dụng chính sách quản trị nhằm bảo đảm AI luôn là một trợ lý đáng tin cậy thay vì một công cụ thiếu kiểm soát.

Đầu độc dữ liệu gián tiếp và thao túng yêu cầu
Các hệ thống AI tồn tại nhiều dạng rủi ro, trong đó có những kỹ thuật tinh vi nhưng hiệu quả như đầu độc dữ liệu gián tiếp và thao túng yêu cầu – các kỹ thuật này có thể âm thầm định hình hành vi của mô hình mà không để lại dấu hiệu cảnh báo rõ ràng. Những phương pháp này liên quan đến việc tạo ra dữ liệu đầu vào nhằm điều hướng kết quả đầu ra theo hướng rủi ro, chẳng hạn như làm lộ thông tin nhạy cảm hoặc đưa vào các thiên lệch. Các yêu cầu ẩn, như văn bản được mã hóa ở dạng số hex hoặc định dạng không hiển thị, có thể âm thầm tác động đến phần tóm tắt của Copilot và đôi khi khiến hệ thống đưa ra những thông tin cũ hoặc ngoài dự kiến. Bằng cách kiểm soát quy trình tiếp nhận nội dung, xác thực siêu dữ liệu và duy trì giám sát phù hợp đối với các tương tác AI, các tổ chức có thể bảo đảm công cụ AI hoạt động đáng tin cậy và tiếp tục mang lại giá trị mà không phát sinh rủi ro ngoài ý muốn.

Những ví dụ trên cho thấy bảo mật AI thường liên quan nhiều đến hành vi của con người, cách xử lý dữ liệu và diễn giải kết quả hơn chỉ là lỗ hổng phần mềm. Với biện pháp bảo vệ phù hợp, các tổ chức có thể khai thác hiệu quả công cụ Copilot, đồng thời giảm thiểu nguy cơ lộ thông tin ngoài ý muốn. Tìm hiểu thêm tại: Bảo mật AI cho nền tảng vững chắc – Đào tạo | Microsoft Learn.