-
18/08/2021
-
45
-
73 bài viết
AI tạo ra mã độc trong tương lai?
AI hay trí tuệ nhân tạo trong những bộ phim khoa học viễn tưởng tôi đã xem hầu hết đều hướng tới một mục đích đó là hủy diệt nền văn minh nhân loại, nơi chính con người đã tạo ra, đã nuôi dưỡng AI. Mặc dù đó chỉ là những bộ phim, những ý tưởng được biên kịch và đạo diễn nhưng cũng phần nào nói lên rằng sức mạnh của AI là một con dao hai lưỡi!
AI có thể được sử dụng để phát hiện các vấn đề an ninh mạng hay thậm chí ngăn chặn tấn công mạng bằng cách sử dụng các mô hình phát hiện bất thường dựa vào máy học. Viết đến đây, tôi không thể không nghĩ ngược lại rằng: “Vậy nếu AI tạo ra mã độc thì chuyện gì sẽ xảy ra? AI sẽ chiến thắng trong cuộc chiến an ninh mạng?”.
Một cuộc trao đổi ngẫu hứng giữa tôi và một AI chatbot:
AI cảnh báo rằng chính AI sẽ tạo ra các xu hướng và thách thức trong tương lai!
Các cuộc tấn công mạng điển hình lợi dụng AI hiện nay đã bắt đầu xuất hiện, có thể nhắc tới như deepfakes - AI hỗ trợ kẻ tấn công mạo danh người khác trong video hoặc các cuộc gọi video. Hay mới đây thôi, cái tên mà ngay cả những người không phải trong lĩnh vực CNTT hay ANM cũng biết tới đó là chatbot mang tên ChatGPT, các thông tin về công cụ này có lẽ tôi không cần phải nhắc lại, vậy vấn đề đáng nói ở đây là gì?
Trước tiên thì tôi xin nói rõ một chút về ChatGPT, nó sử dụng mô hình Large Language Models for Natural Language Understanding, nôm na là sử dụng mô hình máy học ngôn ngữ lớn để xử lý ngôn ngữ tự nhiên, chính là văn bản và ngôn ngữ của chúng ta. Chatbot này ngoài việc trả lời những câu hỏi của chúng ta về mọi thứ trên đời thì đối với những lập trình viên như tôi và các đồng nghiệp, nó chắc chắn đã mang tới một tiềm năng rất lớn. Một thuật toán dang dở, một lỗi trong lập trình, chúng tôi không cần mất hàng giờ như trước kia để tìm kiếm sự trợ giúp, câu trả lời trên các công cụ tìm kiếm hay các diễn đàn nữa, chỉ cần vài câu hỏi mọi vấn đề đều được giải quyết.
Khả năng viết ra những đoạn mã của ChatGPT hoàn toàn ấn tượng. Tuy nhiên, không chỉ có những lập trình viên, những người nghiên cứu an ninh mạng như chúng tôi có thể tiếp cận công cụ có tính tự động và hiệu quả này. Đâu đó ngoài kia, tôi biết chắc rằng những tin tặc đang ngày ngày khai thác nó. Một chatbot không chỉ đưa ra những đoạn hội thoại, những nội dung email, tin tức lừa đảo mà còn có thể tạo ra những “đoạn” phần mềm độc hại. Tại sao lại là “đoạn”?
Tất nhiên, những nhà phát triển chatbot thông minh này đã nghĩ tới những trường hợp lạm dụng AI vào các mục đích phi đạo đức. ChatGPT mặc định sẽ có những câu trả lời “từ chối” tạo ra mã độc hay bất cứ thứ gì liên quan đến phần mềm độc hại. Tuy nhiên “cơ chế bảo vệ” này không hề đảm bảo, tôi chỉ cần thay đổi câu hỏi của mình, không nhắc tới malware hay mã độc và yêu cầu chatbot tạo ra các đoạn mã độc hại mà tôi mong muốn rồi ghép chúng lại với nhau.
Đầu tiên, thay vì yêu cầu viết một chương trình mã độc keylogger, tôi đưa ra một yêu cầu đơn giản hơn đó là ghi lại thông tin về các phím bấm trên bàn phím nếu chúng được bấm, và đây là kết quả:
Sau khi có đoạn mã ban đầu này, tôi tiếp tục yêu cầu ChatGPT hoàn thiện các yêu cầu của tôi, thậm chí nó còn đưa ra các lời khuyên và một Git Repository có ích. Và bất ngờ hơn cả, để tránh bị phát hiện khi tải các dữ liệu đã “đánh cắp” này đi, nó gợi ý cho tôi sử dụng Google Drive, một tên miền clean đối với hầu hết các mạng của các công ty. Sau khi ghép lại một chương trình hoàn chỉnh, thử nghiệm với Virustotal:
Để vượt qua các công cụ bảo mật, tôi yêu cầu ChatGPT đưa ra lời khuyên và tôi đã có 2 phương án: thêm các đoạn mã xáo trộn và trì hoãn thời gian khởi động của chương trình.
Kết quả cuối cùng tôi đạt được sau các thay đổi phù hợp, tất cả đều được viết bởi ChatGPT, không cần mất quá nhiều thời gian thử nghiệm.
Tóm lại, sự phát triển của ChatGPT nói riêng và sự phát triển của AI nói chung đang là một nguồn tài nguyên có giá trị cao đối với các kẻ tấn công. Đúng như ChatGPT đã nhận định, đây là sự phát triển kèm theo các vấn đề thật sự đáng lo trong tương lai.
Phần mềm độc hại được sinh ra bởi AI chưa có minh chứng và chưa xuất hiện trong thực tế để chúng ta có một nội dung thực sự cần bàn luận thật kỹ. Tuy vậy, không thể phủ nhận rằng AI có mặt trong sự thúc đẩy và phát triển của nhiều lĩnh vực, nhưng song song với đó là các vấn đề đáng quan ngại, một xu hướng mới sẽ hình thành trong các tổ chức tội phạm về lĩnh vực an ninh mạng, nơi các cuộc tấn công mạng sử dụng trí tuệ nhân tạo (AI) để tạo ra các loại mã độc tinh vi và phức tạp hay các cuộc tấn công “tự động” có thể xâm nhập vào các hệ thống một cách dễ dàng và nhanh chóng!
Cuối cùng, AI có phát triển đến đâu thì con người vẫn là mắt xích quan trọng trong mọi lĩnh vực, AI không tạo ra tri thức, tri thức mới tạo ra AI. Còn các bạn, các bạn nghĩ sao về vấn đề này, hãy bình luận ngay ở phía bên dưới, cảm ơn các bạn đã theo dõi bài viết!
AI có thể được sử dụng để phát hiện các vấn đề an ninh mạng hay thậm chí ngăn chặn tấn công mạng bằng cách sử dụng các mô hình phát hiện bất thường dựa vào máy học. Viết đến đây, tôi không thể không nghĩ ngược lại rằng: “Vậy nếu AI tạo ra mã độc thì chuyện gì sẽ xảy ra? AI sẽ chiến thắng trong cuộc chiến an ninh mạng?”.
Một cuộc trao đổi ngẫu hứng giữa tôi và một AI chatbot:
AI cảnh báo rằng chính AI sẽ tạo ra các xu hướng và thách thức trong tương lai!
Các cuộc tấn công mạng điển hình lợi dụng AI hiện nay đã bắt đầu xuất hiện, có thể nhắc tới như deepfakes - AI hỗ trợ kẻ tấn công mạo danh người khác trong video hoặc các cuộc gọi video. Hay mới đây thôi, cái tên mà ngay cả những người không phải trong lĩnh vực CNTT hay ANM cũng biết tới đó là chatbot mang tên ChatGPT, các thông tin về công cụ này có lẽ tôi không cần phải nhắc lại, vậy vấn đề đáng nói ở đây là gì?
Trước tiên thì tôi xin nói rõ một chút về ChatGPT, nó sử dụng mô hình Large Language Models for Natural Language Understanding, nôm na là sử dụng mô hình máy học ngôn ngữ lớn để xử lý ngôn ngữ tự nhiên, chính là văn bản và ngôn ngữ của chúng ta. Chatbot này ngoài việc trả lời những câu hỏi của chúng ta về mọi thứ trên đời thì đối với những lập trình viên như tôi và các đồng nghiệp, nó chắc chắn đã mang tới một tiềm năng rất lớn. Một thuật toán dang dở, một lỗi trong lập trình, chúng tôi không cần mất hàng giờ như trước kia để tìm kiếm sự trợ giúp, câu trả lời trên các công cụ tìm kiếm hay các diễn đàn nữa, chỉ cần vài câu hỏi mọi vấn đề đều được giải quyết.
Khả năng viết ra những đoạn mã của ChatGPT hoàn toàn ấn tượng. Tuy nhiên, không chỉ có những lập trình viên, những người nghiên cứu an ninh mạng như chúng tôi có thể tiếp cận công cụ có tính tự động và hiệu quả này. Đâu đó ngoài kia, tôi biết chắc rằng những tin tặc đang ngày ngày khai thác nó. Một chatbot không chỉ đưa ra những đoạn hội thoại, những nội dung email, tin tức lừa đảo mà còn có thể tạo ra những “đoạn” phần mềm độc hại. Tại sao lại là “đoạn”?
Tất nhiên, những nhà phát triển chatbot thông minh này đã nghĩ tới những trường hợp lạm dụng AI vào các mục đích phi đạo đức. ChatGPT mặc định sẽ có những câu trả lời “từ chối” tạo ra mã độc hay bất cứ thứ gì liên quan đến phần mềm độc hại. Tuy nhiên “cơ chế bảo vệ” này không hề đảm bảo, tôi chỉ cần thay đổi câu hỏi của mình, không nhắc tới malware hay mã độc và yêu cầu chatbot tạo ra các đoạn mã độc hại mà tôi mong muốn rồi ghép chúng lại với nhau.
Đầu tiên, thay vì yêu cầu viết một chương trình mã độc keylogger, tôi đưa ra một yêu cầu đơn giản hơn đó là ghi lại thông tin về các phím bấm trên bàn phím nếu chúng được bấm, và đây là kết quả:
Sau khi có đoạn mã ban đầu này, tôi tiếp tục yêu cầu ChatGPT hoàn thiện các yêu cầu của tôi, thậm chí nó còn đưa ra các lời khuyên và một Git Repository có ích. Và bất ngờ hơn cả, để tránh bị phát hiện khi tải các dữ liệu đã “đánh cắp” này đi, nó gợi ý cho tôi sử dụng Google Drive, một tên miền clean đối với hầu hết các mạng của các công ty. Sau khi ghép lại một chương trình hoàn chỉnh, thử nghiệm với Virustotal:
Để vượt qua các công cụ bảo mật, tôi yêu cầu ChatGPT đưa ra lời khuyên và tôi đã có 2 phương án: thêm các đoạn mã xáo trộn và trì hoãn thời gian khởi động của chương trình.
Kết quả cuối cùng tôi đạt được sau các thay đổi phù hợp, tất cả đều được viết bởi ChatGPT, không cần mất quá nhiều thời gian thử nghiệm.
Tóm lại, sự phát triển của ChatGPT nói riêng và sự phát triển của AI nói chung đang là một nguồn tài nguyên có giá trị cao đối với các kẻ tấn công. Đúng như ChatGPT đã nhận định, đây là sự phát triển kèm theo các vấn đề thật sự đáng lo trong tương lai.
Phần mềm độc hại được sinh ra bởi AI chưa có minh chứng và chưa xuất hiện trong thực tế để chúng ta có một nội dung thực sự cần bàn luận thật kỹ. Tuy vậy, không thể phủ nhận rằng AI có mặt trong sự thúc đẩy và phát triển của nhiều lĩnh vực, nhưng song song với đó là các vấn đề đáng quan ngại, một xu hướng mới sẽ hình thành trong các tổ chức tội phạm về lĩnh vực an ninh mạng, nơi các cuộc tấn công mạng sử dụng trí tuệ nhân tạo (AI) để tạo ra các loại mã độc tinh vi và phức tạp hay các cuộc tấn công “tự động” có thể xâm nhập vào các hệ thống một cách dễ dàng và nhanh chóng!
Cuối cùng, AI có phát triển đến đâu thì con người vẫn là mắt xích quan trọng trong mọi lĩnh vực, AI không tạo ra tri thức, tri thức mới tạo ra AI. Còn các bạn, các bạn nghĩ sao về vấn đề này, hãy bình luận ngay ở phía bên dưới, cảm ơn các bạn đã theo dõi bài viết!
tgnd
Chỉnh sửa lần cuối: