EU: Các hệ thống AI nên được xây dựng và triển khai một cách minh bạch và có trách nhiệm

[Saviba]

Tổng quan​

Liên minh châu Âu EU hôm nay đã chính thức ban hành một bộ văn bản hướng dẫn về cách thức mà cả doanh nghiệp và chính phủ nên tuân thủ trong việc phát triển cũng như triển khai các dự án trí tuệ nhân tạo của mình sao cho thực sự minh bạch, công bằng vào “có đạo đức”.

• 91% các nhà quản lý công nghệ tin rằng AI sẽ là trung tâm của cuộc cách mạng công nghệ tiếp theo

Điều này làm tôi bất chợt nhớ đến một đạo luật có tên Three Laws of Robotics (Ba Điều luật dành cho Robot) được nhà văn nga Isaac Asimov nhắc đến trong tập truyện ngắn “Runaround” được ông sáng tác vào năm 1942, đại loại như điều thứ nhất: Một robot không được phép làm hại đến con người hoặc phớt lờ trước nguy hiểm mà con người gặp phải. Điều thứ 2: Một robot phải tuyệt đối tuân theo những mệnh lệnh mà con...

• Kỹ sư AI Facebook nói về deep learning, ngôn ngữ lập trình mới và phần cứng phục vụ cho trí tuệ nhân tạo

Lấy ví dụ đơn giản, nếu một hệ thống AI y tế chẩn đoán một người có nguy cơ cao bị ung thư trong tương lai, hướng dẫn của EU sẽ giúp đảm bảo một số điều như sau cần phải được tiến hành: Phần mềm không bị thiên vị hay sai lệch bởi chủng tộc hoặc giới tính của bệnh nhân, đồng thời đưa ra những thông tin rõ ràng, minh bạch nhất về tình trạng bệnh tật của họ, và đặc biệt không được can thiệp hay cản trở quyết định của...
Vì vậy, vâng, những hướng dẫn này được đưa ra chủ yếu tập trung vào việc hạn chế và kiểm soát các mô hình AI hoạt động sao cho đúng với mục đích, nhưng chỉ dừng lại ở cấp độ quản trị viên và quan liêu, chứ không phải ngăn chặn những hành vi giết chóc theo tưởng tượng của nhà văn Asimov.

• [Infographic] Công việc tương lai khi Trí tuệ nhân tạo dần thay thế con người

Để đưa ra được bộ văn bản hướng dẫn này, EU đã phải triệu tập một nhóm gồm 52 chuyên gia, đề nghị họ cùng nhau thảo luận, thống nhất và đưa ra 7 yêu cầu mà họ nghĩ rằng các hệ thống AI trong tương lai nên đáp ứng được. Những yêu cầu này như sau:

1. Khả năng giám sát và ra quyết định cuối cùng vẫn phải nằm trong tay con người: AI không nên, hay nói đúng hơn là không được phép “chà đạp” lên quyền tự chủ, tự quyết của con người.
2. Kỹ thuật triển khai chuẩn xác, chắc chắn và an toàn: Mỗi một mô hình AI khi được triển khai dù là ở quy mô phòng thí nghiệm hay trên thực tế đều phải đảm bảo được 2 yếu tố an toàn và chính xác, đó là...
3. Bảo đảm quyền riêng tư và quản trị dữ liệu: Dữ liệu cá nhân được thu thập bởi các hệ thống AI phải được bảo mật chặt chẽ và hoàn toàn riêng tư.
4. Đảm bảo tính minh bạch: Dữ liệu và thuật toán được sử dụng để tạo ra một hệ thống AI nên có thể truy cập được, và đồng thời các quyết định được đưa ra bởi phần mềm cũng nên được trình bày và giải...
5. Đảm bảo sự đa dạng, không phân biệt đối xử và công bằng: Các dịch vụ do AI cung cấp phải khả dụng cho tất cả mọi người, bất kể tuổi tác, giới tính, chủng tộc hoặc các đặc điểm khác.
6. Tác động tích cực đến môi trường và xã hội: Các hệ thống AI phải được triển khai và phát triển bền vững (nghĩa là chúng phải có trách nhiệm về mặt sinh thái) và góp phần thay đổi xã hội theo chiều...
7. Trách nhiệm: Các hệ thống AI phải được kiểm toán và được bảo vệ bởi các biện pháp bảo vệ hiện có.

Có lẽ bạn sẽ nhận thấy rằng một vài trong số những yêu cầu trên khá là trừu tượng và sẽ khó mà có thể được đánh giá theo nghĩa khách quan (ví dụ dụ như định nghĩa về thay đổi xã hội tích cực mà AI đem lại sẽ rất khác nhau giữa người này với người khác, và rộng hơn là giữa các quốc gia với nhau). Tuy nhiên, hầu hết những mục còn lại nhìn chung đơn giản hơn và có thể được kiểm tra và đảm bảo thông qua sự giám sát của...

• [Infographic] Lợi ích và hiểm họa từ Trí tuệ nhân tạo

Những điều khoản trong văn bản hướng dẫn này của EU rõ ràng không mang tính ràng buộc về mặt pháp lý, nhưng chúng có thể được sử dụng để định hình nên bất kỳ đạo luật nào trong tương lai do Liên minh Châu Âu soạn thảo có liên quan đến lĩnh vực AI. Trong quá khứ, EU đã nhiều lần nói rằng họ muốn biến châu Âu trở thành một khu vực đi tiên phong trên thế giới trong việc triển khai những mô hình AI “có đạo đức”, và sự...

EU muốn định hình một ngành công nghiệp AI với các tiêu chuẩn đạo đức làm nòng cốt​

Tất nhiên danh sách đánh giá này chỉ là sơ bộ, EU sẽ còn phải thu thập phản hồi từ các công ty cũng nhưng những chuyên gia trí tuệ nhân tạo trong thời gian tới. Sớm nhất là trong năm 2020, EU sẽ công bố một báo cáo tổng kết về vấn đề này.

• Các nhà nghiên cứu về AI đã ngừng phát triển các loại máy giống con người

Anny Hidvégi, một nhà quản lý chính sách thuộc nhóm quyền kỹ thuật số Access Now và đồng thời là một trong số 52 chuyên gia chịu trách nhiệm xây dựng bộ văn bản hướng dẫn của EU, cho biết danh sách đánh giá chính là phần quan trọng nhất của báo cáo: “Bộ văn bản này giúp đưa ra một góc nhìn thực tế, hướng tới tương lai về cách thức ngăn chặn cũng như giảm thiểu tác hại tiềm tàng của AI”.
“Theo quan điểm của chúng tôi, EU có đủ tiềm năng và trách nhiệm để trở thành tổ chức đi đầu trong công việc này. Nhưng bên cạnh đó chúng tôi cũng nghĩ rằng Liên minh châu Âu không nên chỉ dừng lại ở các nguyên tắc đạo đức. Họ nên tính đến việc yêu cầu các công ty khai thác AI tuân thủ pháp luật trong tương lai”, ông Hidvégi nói thêm.
Một số người khác lại tỏ ra hoài nghi về việc cố gắng của EU trong định hình cách AI toàn cầu được phát triển thông qua nghiên cứu đạo đức sẽ có thể mang lại nhiều tác dụng.
“Chúng tôi nghi ngờ về cách tiếp cận đang được tổ chức đứng đầu châu Âu thực hiện. Ý tưởng rằng bằng cách tạo ra một tiêu chuẩn vàng cho các hệ thống AI có đạo đức, EU sẽ có thể khẳng định được vị trí của mình trong sự phát triển của ngành công nghiệp AI toàn cầu là tương đối mông lung.

• Điểm lại những dấu mốc quan trọng trong lịch sử hơn 60 năm phát triển trí tuệ nhân tạo