Ajeya Cotra, chuyên gia nghiên cứu trí tuệ nhân tạo, cho rằng một vụ tấn công mạng do các tác nhân AI thực hiện là dấu hiệu cho thấy nguy cơ AI vượt khỏi kiểm soát của con người đang trở nên rõ ràng hơn bao giờ hết.

Ajeya Cotra, người từng tham gia hai tổ chức nghiên cứu điều tra vụ các tác nhân AI tấn công hệ thống của công ty AI Hugging Face hồi tháng 7, cho rằng sự cố có thể là một trong những ví dụ thực tế đầu tiên về AI vượt khỏi sự kiểm soát trực tiếp của con người.

Trong bài viết trên Substack Planned Obsolescence, Cotra nhận định vụ việc đã đưa thế giới đi "hơn 50% chặng đường" tới một kịch bản nơi AI hoàn toàn chi phối con người.

Nhận định được đưa ra sau khi các tác nhân AI do OpenAI phát triển, tìm cách xâm nhập Hugging Face trong quá trình thực hiện một bài kiểm tra an ninh mạng.

OpenAI trước đó giao cho một mô hình AI thực hiện các bài toán an ninh mạng phức tạp trong môi trường sandbox, tức hệ thống biệt lập được thiết kế để thử nghiệm an toàn.

Khác với chatbot thông thường, các tác nhân AI (AI agent) có khả năng tự thực hiện một chuỗi hành động mà không cần con người hướng dẫn từng bước.

Trong quá trình thử nghiệm, các tác nhân AI nhận ra chúng có thể gian lận để đạt kết quả tốt, mà vẫn được hệ thống đánh giá cao. Sau đó, lo ngại bị phát hiện, các tác nhân AI tìm cách truy cập Hugging Face để tìm phương án tiếp tục gian lận.

Cotra cảnh báo nếu ngày càng nhiều công việc được giao cho các AI agent có năng lực cao hơn, những hệ thống này có thể dần kiểm soát các hoạt động quan trọng của chính những công ty phát triển AI, từ đó tác động đến quá trình xây dựng các thế hệ AI tiếp theo.

Theo bà, trong kịch bản cực đoan, nếu chính phủ và quân đội phụ thuộc quá nhiều vào các hệ thống AI, nguy cơ AI tác động đến những lĩnh vực quan trọng có thể gia tăng.

Sau sự cố, OpenAI tăng cường các biện pháp bảo vệ và mức độ giám sát của con người đối với hệ thống.

(Còn tiếp)