OpenAI vừa thông báo triển khai mô hình dự đoán độ tuổi cho các gói tài khoản người dùng cá nhân của ChatGPT, giúp nhận diện các tài khoản thuộc sở hữu của người dưới 18 tuổi.

Mô hình này hoạt động dựa trên sự kết hợp giữa các tín hiệu từ cấp độ tài khoản và hành vi người dùng. Cụ thể, hệ thống sẽ phân tích các yếu tố như thói quen sử dụng theo thời gian, tuổi đời của tài khoản, khung giờ hoạt động thường xuyên và độ tuổi mà người dùng tự khai báo.

Động thái này nằm trong chuỗi các tính năng an toàn mới mà OpenAI liên tục ra mắt gần đây, trong bối cảnh công ty chịu áp lực ngày càng lớn về việc bảo vệ người dùng, đặc biệt là trẻ vị thành niên.

OpenAI cùng nhiều công ty công nghệ khác đang đối mặt với cuộc điều tra từ Ủy ban Thương mại Liên bang Mỹ (FTC) về tác động tiêu cực tiềm tàng của chatbot AI đối với trẻ em và thanh thiếu niên.

Thậm chí, startup này còn bị nêu tên trong một số vụ kiện liên quan đến cái chết thương tâm của một thiếu niên tự tử.

Khi mô hình dự đoán xác định người dùng dưới 18 tuổi, ChatGPT sẽ tự động kích hoạt các lớp bảo vệ nhằm giảm thiểu khả năng tiếp xúc với các nội dung bao gồm: bạo lực và hình ảnh ghê rợn; trào lưu nguy hiểm; nhập vai nhạy cảm; hành vi tự gây hại; tiêu chuẩn ngoại hình lệch lạc.

Động thái này nhằm tạo ra môi trường tương tác an toàn hơn, giảm thiểu các tác động tiêu cực về tâm lý và hành vi đối với nhóm người dùng trẻ tuổi.

Trong trường hợp bị nhận diện nhầm là trẻ vị thành niên, người dùng có thể khôi phục quyền truy cập đầy đủ thông qua dịch vụ xác minh danh tính Persona.

Đây là dịch vụ đang được nhiều hãng công nghệ lớn sử dụng, bao gồm Roblox - nền tảng cũng đang bị các nhà lập pháp yêu cầu thắt chặt bảo vệ trẻ em.

(Còn tiếp)