ISO/IEC 42001: Tiêu chuẩn hệ thống quản lý AI mới nhất

Việc áp dụng AI đang tăng vọt. Theo một cuộc khảo sát gần đây của McKinsey, 72% các tổ chức báo cáo sử dụng thường xuyên các công nghệ AI vào tháng 5 năm 2024 — gần gấp đôi so với chỉ mười tháng trước đó. AI có tiềm năng to lớn để các tổ chức mở khóa hiệu quả, giảm chi phí và thúc đẩy đổi mới.

Tuy nhiên, việc tích hợp AI nhanh chóng cũng mang đến những rủi ro đáng kể. Khảo sát tương tự của McKinsey cho thấy 44% các tổ chức đã phải đối mặt với những hậu quả tiêu cực từ việc sử dụng AI, bao gồm các vấn đề về quyền riêng tư dữ liệu, sự thiên vị trong các mô hình AI và sự không chính xác.

Việc cân bằng những rủi ro và cơ hội này là rất quan trọng đối với các tổ chức muốn tận dụng hết tiềm năng của AI trong khi vẫn bảo vệ doanh nghiệp khỏi các mối đe dọa liên quan. Khi công nghệ AI tiếp tục phát triển, các doanh nghiệp phải điều hướng bối cảnh phức tạp này một cách chu đáo để đạt được thành công bền vững.

Việc triển khai các tiêu chuẩn như ISO/IEC 42001 có thể giúp các tổ chức thiết lập hệ thống quản lý AI toàn diện, đảm bảo các hoạt động đạo đức, tăng cường tính minh bạch và thúc đẩy lòng tin của các bên liên quan.

Tương lai của Hệ thống quản lý AI ISO/IEC 42001

Theo quan điểm tuân thủ , ISO/IEC 42001 và các quy định và tiêu chuẩn tương tự có thể sẽ phát triển để xác định rõ hơn những gì được và không được sử dụng AI . Trong khi một số luật — chẳng hạn như GDPR — hạn chế việc sử dụng "ra quyết định tự động" cho một số mục đích nhất định, hướng dẫn rõ ràng hơn về việc đánh giá rủi ro AI hoặc cấm rõ ràng việc sử dụng AI trong một số bối cảnh nhất định có thể sẽ xuất hiện.

Quy định về AI — và công nghệ AI — vẫn còn trong giai đoạn đầu. Ví dụ, vào tháng 3 năm 2024, Liên Hợp Quốc đã thông qua một nghị quyết về việc sử dụng AI có trách nhiệm và nhiều quốc gia đang làm theo, công bố lộ trình và luật AI của riêng họ được thiết kế để quản lý việc sử dụng AI . Tuy nhiên, vì công nghệ này tương đối mới và đang phát triển, nên các quy định này có khả năng sẽ thay đổi đáng kể trong tương lai.

ISO/IEC 42001  tiên phong trong lĩnh vực quy định về AI , xác định các biện pháp thực hành tốt nhất cho các tổ chức để quản lý dấu chân AI .Các biện pháp này chủ yếu tập trung vào việc xác định vai trò lãnh đạo, chính sách sử dụng AI có trách nhiệm và an toàn, cũng như các nguồn lực hỗ trợ hệ thống quản lý AI của tổ chức.

Theo thời gian, khi các hệ thống AI phát triển và trở nên phổ biến hơn, tiêu chuẩn ISO/IEC 42001 có khả năng sẽ phát triển thành hoặc được bổ sung thêm một tiêu chuẩn khác tập trung vào các biện pháp kiểm soát bảo mật dành riêng cho AI hơn và phù hợp hơn với các quy định về quyền riêng tư dữ liệu và AI đang phát triển.

ISO/IEC 42001 là tiêu chuẩn mới nhất dành cho hệ thống quản lý AI.

Dẫn đầu cho các quy định khác, nó bao gồm các yêu cầu đối với các tổ chức để xây dựng một hệ thống quản lý AI đáng tin cậy, chẳng hạn như quản lý rủi ro , đánh giá tác động của hệ thống AI , quản lý vòng đời hệ thống và nhà cung cấp bên thứ ba .

Vào tháng 12 năm 2023, ISO đã giới thiệu Tiêu chuẩn quốc tế 42001 , cung cấp hướng dẫn có giá trị cho các tổ chức để phát triển các hệ thống quản lý AI đáng tin cậy.

Tiêu chuẩn này đảm bảo quá trình phát triển, triển khai và vận hành có trách nhiệm, điều này rất quan trọng cho việc áp dụng AI thành công và chuyển đổi số rộng rãi hơn.

Nhiều quốc gia hiện đang soạn thảo luật, bao gồm Đạo luật AI của EU , với ISO/IEC 42001 đóng vai trò là nền tảng và cung cấp hướng dẫn thiết yếu để tuân thủ.

Infosys là một trong những công ty dịch vụ CNTT đầu tiên trên toàn cầu đạt được chứng nhận về việc triển khai khuôn khổ Hệ thống quản lý trí tuệ nhân tạo (AIMS) thúc đẩy các hoạt động AI có trách nhiệm và tuân thủ các yêu cầu theo quy định để nâng cao hiệu quả và trách nhiệm giải trình trong các sáng kiến ​​AI.

Evisort , công ty hàng đầu về trí tuệ hợp đồng gốc AI và quản lý vòng đời hợp đồng (CLM), hôm nay đã trở thành nhà cung cấp AI hợp đồng đầu tiên – và là một trong những công ty đầu tiên trên thế giới – đạt được chứng nhận được công nhận của Tổ chức Tiêu chuẩn hóa Quốc tế (ISO) 42001 về phát triển và sử dụng trí tuệ nhân tạo có trách nhiệm.

Tuy nhiên, tại Việt Nam hiện nay chưa có công ty nào có chứng nhận này tính đến thời điểm hiện tại.

ISO 42001 định nghĩa hệ thống quản lý AI như thế nào

Tổ chức Tiêu chuẩn hóa Quốc tế định nghĩa hệ thống quản lý AI là “Một tập hợp các yếu tố có mối quan hệ hoặc tương tác với nhau của một tổ chức nhằm thiết lập các chính sách và mục tiêu, cũng như các quy trình để đạt được các mục tiêu đó, liên quan đến việc phát triển, cung cấp hoặc sử dụng có trách nhiệm các hệ thống AI”.

Nói cách khác, Hệ thống quản lý AI là tất cả các chính sách, quy trình và biện pháp kiểm soát mà một tổ chức triển khai để giải quyết rủi ro AI.  

Các thành phần chính của AIMS bao gồm: 

  • Quản trị và trách nhiệm giải trình AI có cấu trúc : ISO 42001 yêu cầu các tổ chức phải xác định và ghi lại các vai trò và trách nhiệm liên quan đến quản trị AI, đảm bảo trách nhiệm giải trình và giám sát ở mọi cấp độ. Tiêu chuẩn này cũng khuyến khích thành lập các cơ quan quản trị, chẳng hạn như các ủy ban đạo đức AI, để giám sát việc phát triển, triển khai và bảo trì các hệ thống AI.

  • Quản lý rủi ro AI : Tiêu chuẩn này yêu cầu đánh giá rủi ro AI và đánh giá tác động thường xuyên để xác định, đánh giá và giảm thiểu rủi ro liên quan đến hệ thống AI. Điều này bao gồm rủi ro về mặt đạo đức, pháp lý và hoạt động.
    Các tổ chức cũng được yêu cầu liên tục giám sát các hệ thống AI để phát hiện rủi ro mới nổi và cập nhật các chiến lược quản lý rủi ro của mình cho phù hợp.

  • Các cân nhắc về đạo đức : ISO 42001 thúc đẩy việc phát triển và triển khai các hướng dẫn đạo đức giải quyết vấn đề công bằng, trách nhiệm giải trình và minh bạch trong hoạt động AI. Điều này bao gồm các biện pháp ngăn ngừa sự thiên vị và phân biệt đối xử trong các hệ thống AI. Nó cũng khuyến khích sử dụng các kỹ thuật và công cụ để phát hiện và giảm thiểu sự thiên vị trong các thuật toán và tập dữ liệu AI, thúc đẩy các kết quả công bằng.

  • Tính minh bạch và khả năng giải thích : Tiêu chuẩn này yêu cầu phải có tài liệu đầy đủ về các hệ thống AI, bao gồm thiết kế, quy trình ra quyết định và số liệu hiệu suất. Tính minh bạch này giúp các bên liên quan hiểu được cách các hệ thống AI hoạt động và tạo ra đầu ra. Tầm quan trọng của khả năng giải thích cũng được nhấn mạnh, đảm bảo rằng các quyết định về AI có thể được giải thích cho người dùng, cơ quan quản lý và các bên liên quan khác theo cách rõ ràng và dễ hiểu.

  • Quản lý dữ liệu : ISO 42001 thực thi các biện pháp bảo vệ dữ liệu mạnh mẽ để đảm bảo chất lượng, độ chính xác và tính toàn vẹn của dữ liệu được sử dụng bởi các hệ thống AI. Điều này bao gồm việc triển khai các quy trình xác thực và làm sạch dữ liệu.

  • Cải tiến liên tục : ISO 42001 yêu cầu các tổ chức thường xuyên đánh giá hiệu suất của hệ thống AI, thu thập phản hồi và thực hiện các cải tiến để nâng cao hiệu quả và tính tuân thủ của hệ thống. Tiêu chuẩn này khuyến khích các tổ chức học hỏi từ kinh nghiệm vận hành và tiến bộ công nghệ, thúc đẩy văn hóa học tập liên tục.

  • Tuân thủ và yêu cầu pháp lý : ISO 42001 giúp các tổ chức điều chỉnh hoạt động AI của mình theo các quy định quốc tế và trong nước như GDPR, đơn giản hóa việc tuân thủ và giảm rủi ro pháp lý. Nó cũng khuyến khích khả năng tương tác toàn cầu, giúp các tổ chức dễ dàng hoạt động trên các khu vực khác nhau và tuân thủ các yêu cầu pháp lý khác nhau.

  • Sự tham gia của các bên liên quan : Theo ISO 42001, các tổ chức được khuyến khích tham gia với các bên liên quan, bao gồm khách hàng, nhân viên và cơ quan quản lý, để giải quyết mối quan tâm của họ và đưa phản hồi của họ vào quản lý hệ thống AI. Các tổ chức được khuyến khích phát hành báo cáo thường xuyên về các hoạt động quản trị AI, số liệu hiệu suất và tình trạng tuân thủ của họ để thúc đẩy tính minh bạch.

Tài liệu phụ lục ISO 42001

Giống như nhiều tiêu chuẩn ISO khác, tài liệu ISO 42001 bao gồm một số phụ lục để hướng dẫn thực hiện. Bao gồm:

  • Phụ lục A: Mục tiêu kiểm soát và kiểm soát tham chiếu

  • Phụ lục B: Hướng dẫn thực hiện kiểm soát AI

  • Phụ lục C: Các mục tiêu và rủi ro tiềm ẩn của tổ chức liên quan đến AI

  • Phụ lục D: Sử dụng hệ thống quản lý AI trên nhiều lĩnh vực hoặc ngành nghề

Phụ lục A của ISO 42001 cung cấp các mục tiêu kiểm soát và kiểm soát chi tiết được thiết kế để hỗ trợ phát triển, bảo trì và cải tiến liên tục hệ thống quản lý AI. Ví dụ về một số lĩnh vực kiểm soát chính bao gồm:

  • Chính sách liên quan đến AI : Phát triển các chính sách toàn diện liên quan đến AI để hướng dẫn sử dụng AI một cách có đạo đức.

  • Tổ chức nội bộ : Xác định vai trò, trách nhiệm và cấu trúc cho quản trị AI.

  • Tài nguyên cho hệ thống AI : Đảm bảo có đủ tài nguyên, bao gồm dữ liệu và cơ sở hạ tầng, cho hệ thống AI.

  • Phân tích tác động : Đánh giá tác động của hệ thống AI đối với cá nhân, nhóm và xã hội.

  • Vòng đời hệ thống AI : Quản lý toàn bộ vòng đời của hệ thống AI từ phát triển đến triển khai và ngừng hoạt động.

  • Quản lý dữ liệu : Đảm bảo chất lượng, quyền riêng tư và bảo mật của dữ liệu được sử dụng bởi các hệ thống AI.

  • Sự tham gia của các bên liên quan : Cung cấp thông tin minh bạch và dễ hiểu về hệ thống AI cho các bên liên quan.

  • Mối quan hệ với bên thứ ba : Quản lý mối quan hệ với các bên thứ ba tham gia vào quá trình phát triển hoặc sử dụng hệ thống AI.

Các biện pháp kiểm soát này giúp các tổ chức điều chỉnh hoạt động AI của mình theo tiêu chuẩn ISO 42001, đảm bảo quản lý AI có đạo đức, minh bạch và hiệu quả.

LIÊN HỆ #ISC_VIỆT_NAM ĐỂ ĐƯỢC GIẢI ĐÁP MIỄN PHÍ !

Ms Lan Anh

#Hotline: 0824 647 279

#Email: anh.nguyen@iscvietnam.net

#Website: https://iscvietnam.net

#Zalo: https://zalo.me/3014216325814962649

#Likedln:https://www.linkedin.com/in/isc-vi%E1%BB%87t-nam-36a2352a2/

Văn Phòng ISC Việt Nam

➤ Hà Nội: Số 18 Tam Trinh, Quận Hai Bà Trưng, Hà Nội.

➤ Đà Nẵng: 498 Bùi Trang Chước, Cẩm Lệ, Đà Nẵng.

➤ Hồ Chí Minh: 8/29 Hoàng Hoa Thám, Phường 7, Bình Thạnh, Hồ Chí Minh

Hỗ Trợ Trực Tuyến

Ms. Vân

skype

Điện thoại:0933096426

Thời gian làm việc

Bất cứ khi nào bạn cần, hỗ trợ 24/7, 7 ngày trong tuần

Đối tác và khách hàng của chúng tôi

image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image
image