Ajeya Cotra, chuyên gia nghiên cứu trí tuệ nhân tạo, cho rằng một vụ tấn công mạng do các tác nhân AI thực hiện là dấu hiệu cho thấy nguy cơ AI vượt khỏi kiểm soát của con người đang trở nên rõ ràng hơn bao giờ hết.

Ajeya Cotra, người từng tham gia hai tổ chức nghiên cứu điều tra vụ các tác nhân AI tấn công hệ thống của công ty AI Hugging Face hồi tháng 7, cho rằng sự cố có thể là một trong những ví dụ thực tế đầu tiên về AI vượt khỏi sự kiểm soát trực tiếp của con người.

Trong bài viết trên Substack Planned Obsolescence, Cotra nhận định vụ việc đã đưa thế giới đi "hơn 50% chặng đường" tới một kịch bản nơi AI hoàn toàn chi phối con người.

Nhận định được đưa ra sau khi các tác nhân AI do OpenAI phát triển, tìm cách xâm nhập Hugging Face trong quá trình thực hiện một bài kiểm tra an ninh mạng.

Peter Wallich, quản lý chương trình nghiên cứu cấp cao tại Constellation Institute, tổ chức nghiên cứu về an toàn AI, cho rằng chưa thể khẳng định thế giới đã đi "50% chặng đường" tới một cuộc tiếp quản của AI.

Ông cho rằng khái niệm này thiếu tiêu chí định lượng rõ ràng: "50% của điều gì?" và "AI tiếp quản" cũng có thể được hiểu theo nhiều cách khác nhau.

Tuy vậy, Wallich thừa nhận những lo ngại về các AI agent hoạt động ngoài dự kiến đang trở nên thực tế hơn, thay vì chỉ tồn tại trong các kịch bản giả định.

Ông cũng đặt vấn đề rằng ngay cả khi chỉ cho rằng thế giới mới đi được 20% chặng đường đến một dạng "AI kiểm soát", mức độ rủi ro đó vẫn đáng để quan tâm.

Khái niệm "AI kiểm soát" thường được dùng để mô tả kịch bản các hệ thống AI đạt mức tự chủ đủ lớn để giành quyền kiểm soát những nguồn lực quan trọng của xã hội. Một số kịch bản cực đoan giả định AI có thể kiểm soát quân đội hoặc ngăn con người tiếp cận các hệ thống y tế.

(Còn tiếp)