Tiêu chuẩn quốc gia TCVN 13903:2023 (ISO/IEC TR 24028:2020) về Công nghệ thông tin - Trí tuệ nhân tạo - Tổng quan về tính đáng tin cậy trong trí tuệ nhân tạo

TIÊU CHUẨN QUỐC GIA

TCVN 13903:2023
ISO/IEC TR 24028:2020

CÔNG NGHỆ THÔNG TIN - TRÍ TUỆ NHÂN TẠO - TỔNG QUAN VỀ TÍNH ĐÁNG TIN CẬY TRONG TRÍ TUỆ NHÂN TẠO

Information technology - Artificial intelligence - Overview of trustworthiness in artificial intelligence

Mục lục

1  Phạm vi áp dụng

2  Tài liệu viện dẫn

3  Thuật ngữ và định nghĩa

4  Tổng quan

5  Các khuôn khổ hiện có áp dụng cho tính đáng tin cậy

5.1  Cơ sở

5.2  Nhận biết các lớp tin cậy

5.3  Áp dụng các tiêu chuẩn chất lượng phần mềm và dữ liệu

5.4  Áp dụng quản lý rủi ro

5.5  Các phương pháp tiếp cận có sự trợ giúp của phần cứng

6  Các bên liên quan

6.1  Các khái niệm chung

6.2  Loại hình

6.3  Tài sản

6.4  Giá trị

7  Nhận biết các mối quan tâm cấp cao

7.1  Trách nhiệm, trách nhiệm giải trình và quản trị

7.2  Tính an toàn

8  Tính dễ bị tổn thương, các mối đe dọa và thách thức

8.1  Yêu cầu chung

8.2  Các mối đe dọa bảo mật cụ thể của AI

8.2.1  Yêu cầu chung

8.2.2  Đầu độc dữ liệu

8.2.3  Tấn công đối nghịch

8.2.4  Đánh cắp mô hình

8.2.5  Các mối đe dọa nhằm vào phần cứng đối với tính bảo mật và tính toàn vẹn

8.3  Các mối đe dọa quyền riêng tư điển hình trong AI

8.3.1  Yêu cầu chung

8.3.2  Thu thập dữ liệu

8.3.3  Tiền xử lý và mô hình hóa dữ liệu

8.3.4  Truy vấn mô hình

8.4  Thiên vị

8.5  Tính không thể đoán trước

8.6  Tính không rõ ràng

8.7  Những thách thức liên quan đến đặc điểm kỹ thuật của hệ thống AI

8.8  Những thách thức liên quan đến triển khai các hệ thống AI

8.8.1  Thu thập và chuẩn bị dữ liệu

8.8.2  Mô hình hóa

8.8.3  Cập nhật mô hình

8.8.4  Lỗi phần mềm

8.9  Những thách thức liên quan đến sử dụng các hệ thống AI

8.9.1  Yếu tố tương tác người - máy (HCI)

8.9.2  Áp dụng sai các hệ thống AI thể hiện hành vi thực tế của con người

8.10  Lỗi phần cứng hệ thống

9  Các biện pháp giảm thiểu

9.1  Yêu cầu chung

9.2  Tính minh bạch

9.3  Khả năng giải thích

9.3.1  Yêu cầu chung

9.3.2  Mục đích giải thích

9.3.3  Giải thích trước và giải thích trước sau

9.3.4  Các cách tiếp cận để giải thích

9.3.5  Các phương thức giải thích sau

9.3.6  Cấp độ giải thích

9.3.7  Đánh giá các giải thích

9.4  Khả năng điều khiển

9.4.1  Yêu cầu chung

9.4.2  Các điểm điều khiển bằng con người trong vòng lặp

9.5  Các chiến lược giảm tính thiên vị

9.6  Quyền riêng tư

9.7  Độ bền vững, khả năng phục hồi và độ bền vững

9.8  Giảm thiểu lỗi phần cứng hệ thống

9.9  Tính an toàn trong hoạt động

9.10  Kiểm tra và đánh giá

9.10.1  Yêu cầu chung

9.10.2  Phương pháp thẩm định và xác minh phần mềm

9.10.3  Các quan tâm về độ bền vững

9.10.4  Các quan tâm liên quan đến quyền riêng tư

9.10.5  Các quan tâm về khả năng dự đoán của hệ thống

9.11  Sử dụng và khả năng áp dụng

9.11.1  Sự tuân thủ

9.11.2  Quản lý các kỳ vọng

9.11.3  Ghi nhãn sản phẩm

9.11.4  Nghiên cứu khoa học về nhận thức

10  Kết luận

Phụ lục A (Tham khảo) Nghiên cứu liên quan về các vấn đề xã hội

Thư mục tài liệu tham khảo

Lời nói đầu

TCVN 13903:2023 hoàn toàn tương đương với ISO/IEC TR 24028:2020.

TCVN 13903:2023 do Viện Công nghiệp Phần mềm và Nội dung số Việt Nam biên soạn, Bộ Thông tin và Truyền thông đề nghị, Tổng cục Tiêu chuẩn Đo lường Chất lượng thẩm định, Bộ Khoa học và Công nghệ công bố.

CÔNG NGHỆ THÔNG TIN - TRÍ TUỆ NHÂN TẠO - TỔNG QUAN VỀ TÍNH ĐÁNG TIN CẬY TRONG TRÍ TUỆ NHÂN TẠO

Information technology - Artificial intelligence - Overview of trustworthiness in artificial intelligence

1  Phạm vi áp dụng

Tiêu chuẩn này xem xét các vấn đề dưới đây liên quan đến tính đáng tin cậy trong các hệ thống AI:

- Các phương pháp tiếp cận để tạo lập sự tin cậy vào các hệ thống AI thông qua tính minh bạch, tính diễn giải, khả năng điều khiển v.v..;

- Các bẫy kỹ thuật và các mối đe dọa và rủi ro điển hình liên quan đến các hệ thống AI, các kỹ thuật và phương pháp giảm thiểu có thể; và

- Các phương pháp tiếp cận để đánh giá tính khả dụng, khả năng phục hồi, tính tin cậy, độ chính xác, an toàn, bảo mật và quyền riêng tư của các hệ thống AI.

Đặc tả về các mức độ đáng tin cậy đối với các hệ thống AI nằm ngoài phạm vi của tiêu chuẩn này.

2  Tài liệu viện dẫn

Tiêu chuẩn này không có tài liệu viện dẫn.

3  Thuật ngữ và định nghĩa

Tiêu chuẩn này sử dụng các thuật ngữ và định nghĩa dưới đây.

ISO và IEC duy trì cơ sở dữ liệu thuật ngữ sử dụng trong hoạt động tiêu chuẩn hóa tại các địa chỉ dưới đây:

- Nền tảng trình duyệt trực tuyến của ISO: tại địa chỉ https://www.iso.org/obp

- Từ vựng kỹ thuật điện của IEC: tại địa chỉ https://www.electropedia.org/

3.1

Trách nhiệm giải trình (accountability)

Thuộc tính đảm bảo rằng các hành động của một thực thể (3.16) có thể được truy nguyên duy nhất cho thực thể đó.

[nguồn: ISO/IEC 2382: 2015, 2126250 được sửa đổi - Xóa các chú thích].

3.2

...........................

Nội dung Tiêu chuẩn bằng File Word (đang tiếp tục cập nhật)