Các nhà nghiên cứu MIT đã phát triển một khung kiểm thử giúp xác định những tình huống mà các hệ thống AI hỗ trợ ra quyết định không đảm bảo tính công bằng đối với con người và cộng đồng.

Trong các hệ thống lớn như lưới điện, việc đánh giá mức độ phù hợp về đạo đức của các đề xuất từ AI là rất khó, đặc biệt khi phải cân nhắc nhiều mục tiêu cùng lúc.

Các phương pháp hiện nay thường dựa vào dữ liệu có sẵn, nhưng dữ liệu được gán nhãn theo tiêu chí đạo đức lại rất hiếm. Đồng thời, giá trị đạo đức và hệ thống AI đều liên tục thay đổi, khiến các phương pháp đánh giá tĩnh nhanh chóng lỗi thời.

Nhóm nghiên cứu đã phát triển một khung thiết kế thử nghiệm có tên SEED-SET, gồm hai phần:

- Mô hình khách quan: đánh giá hiệu suất theo các chỉ số đo lường được (như chi phí)

- Mô hình chủ quan: phản ánh đánh giá của con người (như cảm nhận về công bằng)

Cách tiếp cận này cho phép xác định những kịch bản vừa đáp ứng tiêu chí kỹ thuật, vừa phù hợp với giá trị con người hoặc ngược lại.

Đặc biệt, SEED-SET không cần dữ liệu đánh giá có sẵn và có thể thích ứng với nhiều mục tiêu khác nhau. Ví dụ, trong một hệ thống điện, các nhóm người dùng khác nhau (như cộng đồng nông thôn và trung tâm dữ liệu) có thể có các ưu tiên đạo đức khác nhau dù cùng mong muốn điện giá rẻ và ổn định.

(Còn tiếp)