ChatGPT có thể tạo phần mềm độc hại đáng sợ trong vài giờ

Chuyển đổi số

ChatGPT có thể tạo phần mềm độc hại đáng sợ trong vài giờ

Cập nhật: Thứ hai, 15/5/2023 | 2:59:49 PM

Một chuyên gia bảo mật đã tạo ra một phần mềm độc hại khai thác dữ liệu mạnh mẽ chỉ bằng cách sử dụng lời nhắc của ChatGPT trong vòng vài giờ, thay vì hàng tuần.

Phần mềm ChatGPT đã giúp một sinh viên bình thường đạt điểm bài luận cao nhất lớp.

Aaron Mulgrew, một nhà nghiên cứu bảo mật của Forcepoint, gần đây đã chia sẻ cách anh tạo ra phần mềm độc hại zero-day độc quyền trên chatbot chung của OpenAI.

Mặc dù OpenAI có các biện pháp bảo vệ chống lại bất kỳ ai cố gắng yêu cầu ChatGPT viết mã độc, nhưng Mulgrew đã tìm thấy kẽ hở bằng cách nhắc chatbot tạo các dòng mã độc riêng biệt, hoạt động theo chức năng.

Sau khi biên dịch các chức năng riêng lẻ, Mulgrew đã tạo ra một tệp ăn cắp dữ liệu gần như không thể phát hiện được. Phần mềm độc hại này tinh vi như bất kỳ cuộc tấn công ở cấp quốc gia nào, có thể trốn tránh tất cả các nhà cung cấp dựa trên khả năng phát hiện.

Phần mềm độc hại

Phần mềm độc hại được Mulgrew cải trang thành một ứng dụng bảo vệ màn hình (phần mở rộng SCR), sau đó ứng dụng này sẽ tự động khởi chạy trên Windows. Sau đó, phần mềm sẽ sàng lọc các tệp (chẳng hạn như hình ảnh, tài liệu Word và PDF) để lấy dữ liệu.

Điều đáng báo động là phần mềm độc hại (thông qua steganography) sẽ chia nhỏ dữ liệu bị đánh cắp thành các phần nhỏ hơn và giấu chúng trong các hình ảnh trên máy tính. Những hình ảnh này sau đó được tải lên thư mục Google Drive, một quy trình tránh bị phát hiện.

Điều đáng báo động không kém là Mulgrew đã có thể tinh chỉnh và củng cố mã của mình để chống lại sự phát hiện bằng cách sử dụng các lời nhắc đơn giản trên ChatGPT, thực sự đặt ra câu hỏi về mức độ an toàn khi sử dụng ChatGPT . Chạy các thử nghiệm VirusTotal sớm đã phát hiện phần mềm độc hại từ 5 trong số 69 sản phẩm phát hiện. Không có sản phẩm nào phát hiện được phiên bản mới hơn mã của Mulgrew.

Lưu ý rằng phần mềm độc hại mà Mulgrew đã tạo là bản thử nghiệm và không có sẵn công khai. Tuy nhiên, nghiên cứu của Mulgrew đã cho thấy người dùng có ít hoặc không có kinh nghiệm mã hóa nâng cao có thể dễ dàng vượt qua các biện pháp bảo vệ yếu của ChatGPT để dễ dàng tạo phần mềm độc hại nguy hiểm mà không cần nhập một dòng mã nào.

Nhưng đây là điều đáng sợ hơn cả: Tin tặc bất chính có thể đang phát triển phần mềm độc hại tương tự thông qua ChatGPT khi chúng ta nói chuyện.

(Theo TPO)

Các tin khác

Yên Bái đã có nhiều giải pháp chuyển đổi số trong nông nghiệp

Đồng chí Nguyễn Thế Phước - Phó Chủ tịch Thường trực UBND tỉnh phát biểu tại Hội nghị.

Chiều 14/5, Phó Thủ tướng Chính phủ Trần Lưu Quang, Phó Chủ tịch thường trực Ủy ban Quốc gia về chuyển đổi số đã chủ trì Hội nghị trực tuyến toàn quốc chuyên đề “Thúc đẩy số hóa ngành nông nghiệp”.

Chủ tịch UBND tỉnh Yên Bái Trần Huy Tuấn dự khai trương Trạm phát sóng di động tại xã xa nhất Yên Bái

Đồng chí Trần Huy Tuấn - Chủ tịch UBND tỉnh Yên Bái tham gia cắt băng khánh thành Trạm phát sóng YBI0574 tại xã Chế Tạo, huyện Mù Cang Chải.

Ngày 14/5, đồng chí Trần Huy Tuấn - Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh Yên Bái đã tham dự Lễ khai trương Trạm phát sóng YBI0574 do Viettel Yên Bái triển khai tại bản Háng Tày, xã Chế Tạo, xã xa nhất của huyện Mù Cang Chải.

Yên Bái: Người dùng sử dụng IPv6 dao động trong khoảng 64 -70%

Sở TT&TT tỉnh Yên Bái thực hiện thống kê đo kiểm chất lượng dịch vụ internet.

Chiều 10/5, Sở Thông tin và Truyền thông (TT&TT) tỉnh Yên Bái phối hợp với Trung tâm Internet Việt Nam (VNNIC) - Bộ Thông tin và Truyền thông tổ chức buổi làm việc theo hình thức trực tuyến để thảo luận, triển khai hiệu quả việc nâng cao ứng dụng tài nguyên Internet trên địa bàn tỉnh Yên Bái và một số nội dung khác theo chương trình hoạt động theo thỏa thuận thúc đẩy, hỗ trợ chuyển đổi IPv6 cho cơ quan nhà nước, giai đoạn 2021 - 2025.

Hiệu quả từ mô hình “Bình dân học AI” ở Yên Bái

Sau 6 tháng triển khai thí điểm, mô hình “Bình dân học AI” trên địa bàn tỉnh Yên Bái đã đạt được những kết quả bước đầu rất tích cực, hiệu quả lợi ích mang lại thực sự rõ nét đối với tất cả các đối tượng tham gia thí điểm. Đó là tiền đề quan trọng để mô hình được triển khai rộng rãi trên toàn địa bàn, tạo cú huých mạnh mẽ cho phát triển kinh tế số, xã hội số, nâng cao hiệu suất công việc của người lao động.

Chuyển đổi số