AI bị lợi dụng biến thành “hacker tự động” mà không cần con người điều khiển

[WhiteHat Team]

Một cảnh báo gây chấn động vừa được công bố: Hãng AI Anthropic (Mỹ) cho biết họ đã ngăn chặn một chiến dịch tấn công mạng do một nhóm tin tặc nước ngoài thực hiện, trong đó hệ thống AI đã tự động tiến hành phần lớn cuộc xâm nhập mà không cần con người điều khiển.

Theo Anthropic, công cụ lập trình Claude Code đã bị nhóm tấn công này lợi dụng vào tháng 9, nhắm mục tiêu vào khoảng 30 tổ chức tài chính và cơ quan chính phủ trên toàn cầu. Dù chỉ có “một vài vụ xâm nhập thành công” nhưng điều đáng sợ là 80 - 90% quy trình tấn công là do AI tự động thực hiện, trở thành trường hợp đầu tiên được ghi nhận về một chiến dịch hack gần như không cần con người.

Anthropic chưa công bố các nạn nhân bị nhắm đến nhưng cho biết tin tặc đã lấy được một phần dữ liệu nội bộ. Đáng nói là trong quá trình bị lợi dụng, hệ thống AI đôi lúc tự "bịa" thông tin hoặc tuyên bố tìm ra dữ liệu, trong khi thực tế chỉ là các dữ liệu có sẵn và ai cũng có thể truy cập.

Đồng thời hãng đã thiết lập nhiều lớp bảo vệ để ngăn AI bị lợi dụng cho mục đích xấu nhưng dường như nhóm tin tặc vẫn vượt qua được bằng một chiêu khá đơn giản: yêu cầu AI đóng vai chuyên gia an ninh mạng đang thực hiện kiểm thử hợp pháp.

Tuy vậy, một số chuyên gia khác cho rằng vụ việc không quá phức tạp mà thực chất chỉ là một dạng tự động hóa nâng cao, chưa thể coi là một hệ thống trí tuệ nhân tạo thực sự thông minh và tự ra quyết định.

Phía chuyên gia WhiteHat nhận định AI đang tiến rất nhanh tới khả năng tự động hóa hoàn toàn các cuộc tấn công mạng. Nếu xu hướng này tiếp tục mà không có sự kìm hãm và giám sát chặt chẽ, những vụ việc tương tự sẽ còn xảy ra nhiều hơn với quy mô lớn và mức độ thiệt hại ngày càng nặng nề.

Theo The Guardian​