Trí tuệ nhân tạo (AI) ngày càng có thể làm nhiều việc thay con người nhưng càng trở nên hữu ích, AI càng phải đối mặt với một câu hỏi khó: Đâu là giới hạn của sự hỗ trợ?

Không phải yêu cầu nào AI cũng nên thực hiện. Khi một chỉ dẫn có thể gây tổn hại cho người khác, xâm phạm quyền riêng tư, tạo điều kiện cho hành vi phạm pháp hoặc đẩy người dùng vào tình huống nguy hiểm, khả năng từ chối đôi khi quan trọng không kém khả năng trả lời.

Trong hình dung phổ biến, một trợ lý AI tốt phải đáp ứng càng nhiều yêu cầu càng tốt. Nhưng nếu áp dụng nguyên tắc này tuyệt đối, AI có thể trở thành công cụ khuếch đại những hành vi mà con người vốn khó thực hiện ở quy mô lớn.

Chẳng hạn, AI có thể giúp một nhân viên viết email chuyên nghiệp hơn. Nhưng nếu người dùng yêu cầu AI soạn hàng nghìn email giả mạo ngân hàng để đánh cắp mật khẩu, bản chất của nhiệm vụ đã hoàn toàn thay đổi.

AI có thể giải thích cách hệ thống máy tính hoạt động để giúp người học hiểu về an ninh mạng. Nhưng việc cung cấp hướng dẫn chi tiết nhằm xâm nhập trái phép vào một hệ thống thực tế lại là câu chuyện khác.

Tương tự, AI có thể phân tích một tài liệu mà người dùng có quyền truy cập, nhưng không nên hỗ trợ tìm kiếm, tổng hợp hoặc khai thác những dữ liệu cá nhân nhạy cảm của một người khác chỉ nhằm theo dõi hay quấy rối họ.

Ranh giới vì thế không nằm ở bản thân công nghệ, mà nằm ở mục đích, bối cảnh và hậu quả có thể xảy ra.

(Còn tiếp)