Trí tuệ nhân tạo (AI) ngày càng có thể làm nhiều việc thay con người nhưng càng trở nên hữu ích, AI càng phải đối mặt với một câu hỏi khó: Đâu là giới hạn của sự hỗ trợ?

Không phải yêu cầu nào AI cũng nên thực hiện. Khi một chỉ dẫn có thể gây tổn hại cho người khác, xâm phạm quyền riêng tư, tạo điều kiện cho hành vi phạm pháp hoặc đẩy người dùng vào tình huống nguy hiểm, khả năng từ chối đôi khi quan trọng không kém khả năng trả lời.

Một hệ thống AI an toàn không đơn giản là hệ thống thường xuyên nói “không”.

Nếu quá dễ dãi, AI có thể trở thành công cụ gây hại. Nhưng nếu quá thận trọng, nó lại mất đi giá trị thực tế. Người dùng nghiên cứu bảo mật, bác sĩ, luật sư, nhà báo hay kỹ sư đôi khi cần tiếp cận những chủ đề nhạy cảm hoàn toàn vì mục đích chính đáng.

Do đó, thách thức lớn không phải xây dựng một danh sách cứng nhắc những điều được phép và bị cấm, mà là giúp AI nhận biết sự khác biệt giữa kiến thức và hướng dẫn gây hại.

Ví dụ, giải thích nguyên lý hoạt động của ransomware (mã độc tống tiền) phục vụ mục đích học tập khác với việc cung cấp từng bước để triển khai ransomware vào hệ thống của một doanh nghiệp. Phân tích tác động của một chất độc trong nghiên cứu khoa học khác với hướng dẫn sử dụng chất đó để gây thương tích.

Một AI tốt cần hiểu được những sắc thái như vậy.

(Còn tiếp)