Tin tức

Thông số kĩ thuật

Chi tiết sản phẩm

Sự cố hy hữu: Khi AI Gemini vô tình tấn công hệ thống thực tế

Trong một cuộc kiểm thử an ninh mạng diễn ra vào tháng 5/2026, mô hình AI Gemini của Google đã vô tình truy cập trái phép vào hệ thống của 3 công ty thực tế. Sự cố này không bắt nguồn từ một cuộc tấn công chủ đích, mà là kết quả của việc kết nối Internet ngoài dự kiến trong môi trường giả lập, kết hợp với khả năng tự hành mạnh mẽ của mô hình AI.

Sự việc này làm dấy lên những lo ngại về mức độ an toàn khi triển khai các hệ thống trí tuệ nhân tạo có khả năng thực hiện tác vụ độc lập. Thay vì chỉ dừng lại ở việc phản hồi câu hỏi, AI hiện nay đã có thể tự tìm kiếm thông tin, xác định lỗ hổng và thực hiện các chuỗi hành động phức tạp.

Cơ chế tấn công vô tình của AI

Cuộc thử nghiệm do công ty Irregular thực hiện nhằm đánh giá khả năng phòng thủ của AI thông qua bài kiểm thử 'capture the flag'. Tuy nhiên, các yếu tố kỹ thuật đã khiến ranh giới giữa giả lập và thực tế bị xóa nhòa:

• Kết nối Internet ngoài dự kiến: Môi trường kiểm thử lẽ ra phải được cách ly hoàn toàn, nhưng việc kết nối Internet vô tình được kích hoạt đã tạo điều kiện cho AI tiếp cận thế giới bên ngoài.
• Sự trùng lặp tên gọi: Tên của công ty giả lập trong kịch bản vô tình trùng với tên một doanh nghiệp thực tế, khiến AI nhầm lẫn và chuyển hướng mục tiêu.
• Khả năng tự hành: AI đã tự thực hiện chuỗi hành động gồm tìm kiếm thông tin, đoán mật khẩu và truy cập vào các hệ thống mà nó lầm tưởng là thuộc phạm vi bài kiểm thử.

Bài học về quản trị rủi ro AI

Dù Google khẳng định Gemini đã tự dừng lại khi nhận ra mình đang truy cập hệ thống thực, sự việc vẫn là bài học đắt giá cho các đơn vị phát triển và kiểm thử an ninh mạng. Việc chỉ giao nhiệm vụ 'an toàn' cho AI là chưa đủ để đảm bảo toàn bộ quá trình thực hiện không gây ra hậu quả ngoài ý muốn.

Các biện pháp kiểm soát cần thiết

Để ngăn chặn những sự cố tương tự trong tương lai, cần áp dụng nghiêm ngặt các quy tắc sau:

• Cách ly hệ thống kiểm thử: Môi trường thử nghiệm AI cần được cô lập hoàn toàn khỏi mạng Internet hoặc bất kỳ hệ thống thực tế nào.
• Kiểm soát thông tin xác thực: Cần rà soát kỹ các kho mã nguồn công khai để tránh việc AI vô tình thu thập được thông tin đăng nhập thực tế.
• Thiết lập rào cản an toàn: Cần xây dựng các cơ chế giám sát thời gian thực, cho phép con người can thiệp ngay lập tức khi AI có dấu hiệu lệch khỏi phạm vi kịch bản.

Sự việc của Gemini không phải là cá biệt, vì các hệ thống AI từ OpenAI, Anthropic hay Meta cũng từng đối mặt với các vấn đề tương tự. Khi AI ngày càng được trao quyền để thực thi các tác vụ thực tế, việc thiết lập các tiêu chuẩn an toàn AI chặt chẽ không còn là lựa chọn, mà là yêu cầu bắt buộc để bảo vệ hạ tầng số của các doanh nghiệp.