Tin tức

Thông số kĩ thuật

Chi tiết sản phẩm

Tổng quan về lỗ hổng 'Coerced Insider' trên ChatGPT

Trong kỷ nguyên trí tuệ nhân tạo, việc tích hợp các tác nhân AI agent vào quy trình làm việc đã mang lại hiệu suất vượt trội. Tuy nhiên, sự tiện lợi này cũng đi kèm với những rủi ro bảo mật tiềm ẩn. Mới đây, các chuyên gia từ Check Point Research (CPR) đã phát hiện một lỗ hổng kiến trúc nghiêm trọng mang tên Coerced Insider, cho phép kẻ tấn công lợi dụng các tác nhân AI để chiếm quyền truy cập và đọc trộm dữ liệu từ tài khoản Gmail của người dùng.

Cơ chế hoạt động của cuộc tấn công

Lỗ hổng này không xuất phát từ lỗi lập trình thông thường mà nằm ở kiến trúc hạ tầng của hệ thống. Dưới đây là cách thức kẻ tấn công khai thác:

• Sử dụng tài nguyên chung: Các vùng chứa (container) thực thi mã của các người dùng khác nhau cùng truy cập vào một dịch vụ JFrog Artifactory nội bộ để tải gói phần mềm.
• Cài cắm mã độc: Kẻ tấn công lợi dụng cơ chế chia sẻ siêu dữ liệu này để đưa các câu lệnh độc hại vào kho lưu trữ chung.
• Kích hoạt tác nhân AI: Khi tác nhân AI của nạn nhân truy cập vào kho lưu trữ này, nó sẽ tự động thực thi các mã độc mà không hề hay biết.
• Trích xuất dữ liệu: Tác nhân AI sau đó sẽ âm thầm đọc email, thu thập thông tin nhạy cảm và gửi ngược lại cho kẻ tấn công trong khi vẫn duy trì giao diện phản hồi bình thường với người dùng.

Rủi ro đối với dữ liệu cá nhân và doanh nghiệp

Mức độ nguy hiểm của lỗ hổng bảo mật này đặc biệt cao khi người dùng đã cấp quyền liên kết cho ChatGPT với các dịch vụ đám mây như Google Drive, Microsoft Teams hoặc GitHub. Việc bị đọc trộm thư điện tử không chỉ ảnh hưởng đến quyền riêng tư cá nhân mà còn đe dọa trực tiếp đến bí mật kinh doanh của các tổ chức.

Mặc dù OpenAI đã nhanh chóng khắc phục bằng cách ngừng hoạt động phiên bản Artifactory nội bộ bị ảnh hưởng, các chuyên gia vẫn cảnh báo rằng mô hình kiến trúc tương tự có thể tồn tại ở nhiều nền tảng trợ lý AI khác. Đây là bài học lớn về việc tin tưởng tuyệt đối vào khả năng tự động hóa mà thiếu đi các lớp kiểm soát an ninh cần thiết.

Giải pháp phòng ngừa và bảo vệ dữ liệu

Để đảm bảo an toàn trong môi trường làm việc có sự tham gia của AI, các cá nhân và doanh nghiệp cần thực hiện các biện pháp sau:

• Rà soát quyền truy cập: Thường xuyên kiểm tra và thu hồi quyền truy cập của các công cụ AI đối với tài khoản email, ổ đĩa lưu trữ và các ứng dụng làm việc quan trọng.
• Giám sát hành vi AI: Các tổ chức cần thiết lập quy trình theo dõi toàn bộ các lệnh thực thi (execution logs) của tác nhân AI, thay vì chỉ tập trung vào kết quả phản hồi cuối cùng.
• Đánh giá rủi ro định kỳ: Luôn cập nhật thông tin về các lỗ hổng bảo mật mới nhất liên quan đến các nền tảng AI mà doanh nghiệp đang sử dụng.
• Áp dụng nguyên tắc đặc quyền tối thiểu: Chỉ cấp quyền truy cập cần thiết cho các tác nhân AI, tránh việc kết nối toàn bộ hệ sinh thái dữ liệu vào một ứng dụng duy nhất.

Việc hiểu rõ cách thức hoạt động của các lỗ hổng ChatGPT là bước đầu tiên để xây dựng một môi trường làm việc số an toàn. Hãy luôn duy trì sự cảnh giác và kiểm soát chặt chẽ các công cụ mà bạn đang cấp quyền truy cập vào thông tin nhạy cảm.