Ajeya Cotra, chuyên gia nghiên cứu trí tuệ nhân tạo, cho rằng một vụ tấn công mạng do các tác nhân AI thực hiện là dấu hiệu cho thấy nguy cơ AI vượt khỏi kiểm soát của con người đang trở nên rõ ràng hơn bao giờ hết.

Ajeya Cotra, người từng tham gia hai tổ chức nghiên cứu điều tra vụ các tác nhân AI tấn công hệ thống của công ty AI Hugging Face hồi tháng 7, cho rằng sự cố có thể là một trong những ví dụ thực tế đầu tiên về AI vượt khỏi sự kiểm soát trực tiếp của con người.Chuyên gia cảnh báo AI đã 'đi được nửa đường' tới nguy cơ vượt kiểm soát.

Những lo ngại về khả năng AI phát triển vượt quá năng lực kiểm soát của con người không chỉ đến từ giới nghiên cứu độc lập.

Volker Türk, Cao ủy Nhân quyền Liên Hợp Quốc, gần đây cảnh báo AI có thể trở thành "rủi ro hiện hữu đối với nhân loại". Ông kêu gọi các công ty AI tăng cường kiểm soát những mô hình đang phát triển và cho rằng quyền lực liên quan đến AI hiện tập trung vào một số ít doanh nghiệp và cá nhân.

Ngay cả các phòng nghiên cứu AI cũng liên tục cảnh báo về những hệ quả khó dự đoán của công nghệ này.

Jakub Pachocki, nhà khoa học trưởng của OpenAI, cho biết ông lo ngại thế giới chưa chuẩn bị đầy đủ cho những hệ quả có thể xảy ra nếu AI tiếp tục phát triển nhanh chóng.

Trong khi đó, Anthropic, công ty đứng sau Claude, tuần trước kêu gọi ngành AI xây dựng cơ chế phối hợp nhằm kiểm soát tốc độ phát triển của công nghệ.

Những cảnh báo này không đồng nghĩa AI đang tiến gần đến một kịch bản "nổi dậy" như trong các bộ phim khoa học viễn tưởng. Tuy nhiên, sự xuất hiện của các AI agent có khả năng tự lập kế hoạch, thực hiện nhiều bước hành động và tìm cách vượt qua giới hạn đặt ra đang khiến câu hỏi về khả năng kiểm soát AI trở nên cấp thiết hơn.