Các nhà nghiên cứu MIT đã phát triển một khung kiểm thử giúp xác định những tình huống mà các hệ thống AI hỗ trợ ra quyết định không đảm bảo tính công bằng đối với con người và cộng đồng.

Khi thử nghiệm trên các hệ thống thực tế như lưới điện thông minh hay điều phối giao thông đô thị, SEED-SET tạo ra số lượng kịch bản tối ưu nhiều gấp đôi so với các phương pháp truyền thống, đồng thời phát hiện nhiều tình huống mà các phương pháp khác bỏ sót.

Đáng chú ý, khi thay đổi ưu tiên của người dùng, các kịch bản mà hệ thống tạo ra cũng thay đổi đáng kể, cho thấy khả năng thích ứng cao với giá trị con người.

Trong tương lai, nhóm nghiên cứu dự kiến tiến hành các nghiên cứu với người dùng thực để đánh giá mức độ hữu ích của hệ thống trong quá trình ra quyết định. Đồng thời, họ cũng hướng tới việc mở rộng phương pháp cho các bài toán phức tạp hơn, như đánh giá quyết định của chính các mô hình ngôn ngữ lớn.

Nghiên cứu này được tài trợ một phần bởi Cơ quan Dự án Nghiên cứu Quốc phòng Tiên tiến Hoa Kỳ (DARPA).