Tin tặc dùng AI để tấn công Gemini
Trí tuệ nhân tạo (AI) mang lại nhiều lợi ích, từ tối ưu hóa sản xuất đến xử lý dữ liệu lớn, nhưng cũng làm gia tăng mối đe dọa an ninh mạng.
BGR cảnh báo về kỹ thuật Fun-Tuning, cho phép trí tuệ nhân tạo (AI) tự động thực hiện các cuộc tấn công chèn prompt hiệu quả, nhắm vào các mô hình tiên tiến như Gemini. Phương pháp này khiến việc "bẻ khóa" AI trở nên nhanh, rẻ và dễ dàng hơn, làm gia tăng rủi ro an ninh mạng.
Tấn công chèn prompt là thủ thuật lợi dụng lỗ hổng đầu vào của mô hình AI. Kẻ xấu có thể đưa chỉ dẫn độc hại vào bình luận mã nguồn hoặc văn bản ẩn trên web.
Mục tiêu là đánh lừa AI, khiến nó bỏ qua các quy tắc an toàn đã được lập trình. Hậu quả có thể rất nghiêm trọng, từ rò rỉ dữ liệu nhạy cảm đến cung cấp thông tin sai lệch hoặc thực hiện hành vi nguy hiểm.
Trước đây, các mô hình AI "đóng kín" như Gemini hay GPT-4 rất khó bị tấn công. Việc khai thác lỗ hổng đòi hỏi thử nghiệm thủ công phức tạp và tốn thời gian.
Tuy nhiên, Fun-Tuning đã thay đổi hoàn toàn tình thế. Phương pháp này do nhóm nhà nghiên cứu phát triển, tận dụng API tinh chỉnh miễn phí của Google dành cho Gemini.
Bằng cách phân tích phản hồi của mô hình khi xử lý dữ liệu tinh chỉnh, Fun-Tuning có thể tự động xác định cách che giấu câu lệnh độc hại.
Điều này giúp tăng đáng kể khả năng AI tuân theo ý đồ của kẻ tấn công. Kết quả thử nghiệm cho thấy tỉ lệ thành công của Fun-Tuning lên đến 82%, so với mức dưới 30% của các phương pháp truyền thống.
Đáng lo ngại, chi phí thực hiện Fun-Tuning thấp. Vì API tinh chỉnh của Google miễn phí, tin tặc chỉ mất 10 USD để tạo ra cuộc tấn công hiệu quả. Hơn nữa, phương thức tấn công được thiết kế cho Gemini có thể dễ dàng áp dụng cho các phiên bản khác, làm tăng nguy cơ tấn công diện rộng.
Google thừa nhận đã biết về mối đe dọa này nhưng chưa có phản hồi về việc thay đổi API tinh chỉnh. Nhóm nghiên cứu cũng chỉ ra thế khó trong phòng thủ.
Nếu hạn chế thông tin mà Fun-Tuning khai thác, API sẽ kém hữu dụng đối với nhà phát triển chân chính. Ngược lại, nếu giữ nguyên, nó tiếp tục trở thành công cụ để kẻ xấu lợi dụng.
Sự xuất hiện của Fun-Tuning là lời cảnh báo về giai đoạn mới trong an ninh mạng. Trí tuệ nhân tạo không chỉ là mục tiêu bị tấn công mà còn trở thành vũ khí nguy hiểm trong tay những kẻ có ý đồ xấu.
