Điều 9. Phân loại mức độ rủi ro của hệ thống trí tuệ nhân tạo

Ý chính cần nhớ

• ▸Hệ thống AI có rủi ro cao là hệ thống có thể gây thiệt hại đáng kể đến tính mạng, sức khỏe, quyền và lợi ích hợp pháp của tổ chức, cá nhân, lợi ích quốc gia, lợi ích công cộng, an ninh quốc gia.
• ▸Hệ thống AI có rủi ro trung bình là hệ thống có khả năng gây nhầm lẫn, tác động hoặc thao túng người sử dụng do không nhận biết được chủ thể tương tác là hệ thống AI hoặc nội dung do hệ thống tạo ra.
• ▸Hệ thống AI có rủi ro thấp là hệ thống không thuộc trường hợp rủi ro cao và không thuộc trường hợp rủi ro trung bình.
• ▸Việc phân loại rủi ro dựa trên tiêu chí: mức độ tác động đến quyền con người, an toàn, an ninh; lĩnh vực sử dụng, đặc biệt là lĩnh vực thiết yếu hoặc liên quan trực tiếp đến lợi ích công cộng; phạm vi người sử dụng và quy mô ảnh hưởng của hệ thống.
• ▸Chính phủ quy định chi tiết Điều 9.

Lưu ý dễ nhầm

• Nhầm rủi ro trung bình với rủi ro cao; rủi ro trung bình gắn với khả năng gây nhầm lẫn, thao túng do không nhận biết chủ thể tương tác là AI hoặc nội dung do AI tạo ra.
• Cho rằng rủi ro thấp được định nghĩa độc lập mà không dựa trên việc loại trừ hai mức rủi ro cao và trung bình.
• Bỏ sót tiêu chí phân loại về phạm vi người sử dụng và quy mô ảnh hưởng.

Giải thích