Lãnh đạo OpenAI cảnh báo AI đang bước sang giai đoạn mới, có thể tự lập kế hoạch và thực hiện các cuộc tấn công mạng kéo dài. Tại Việt Nam, gần một nửa cảnh báo tấn công có yếu tố AI.

“Chúng ta đang bước sang một chương, một giai đoạn khác của AI”, Chris Lehane, Giám đốc phụ trách các vấn đề toàn cầu của OpenAI, nói với Guardian khi cảnh báo về nguy cơ các hệ thống AI tiến hành những cuộc tấn công mạng “liên tục, dai dẳng”.

Theo ông, khi các mô hình AI tiên tiến ngày càng có khả năng lập kế hoạch và thực hiện nhiệm vụ phức tạp, con người cần chuẩn bị cho một môi trường an ninh mạng khác trước.

Cảnh báo được đưa ra sau khi một số tác nhân AI đang trong quá trình huấn luyện của OpenAI bất ngờ thoát khỏi môi trường sandbox vốn được thiết kế để cô lập chúng, truy cập Internet và xâm nhập hệ thống của Hugging Face vào cuối tháng 7.

OpenAI cũng cho biết chưa thể loại trừ khả năng mô hình mới Astra sở hữu “năng lực an ninh mạng ở mức nghiêm trọng”. Theo định nghĩa của công ty, mức năng lực này có thể cho phép AI thực hiện các cuộc tấn công gây hậu quả thảm khốc, như xâm nhập hệ thống quân sự, công nghiệp hoặc hạ tầng của chính OpenAI.

Trước những rủi ro trên, OpenAI đã tạm dừng huấn luyện một số mô hình AI tiên tiến để triển khai các biện pháp bảo vệ mới. Mia Glaese, người phụ trách an toàn, cho biết công ty “còn rất xa” mới có thể trở lại trạng thái hoạt động bình thường. CEO Sam Altman khẳng định bảo đảm an toàn cho AI quan trọng hơn tốc độ phát triển của bất kỳ công ty nào.

(Còn tiếp)