Đạo đức AI là lĩnh vực của đạo đức học ứng dụng nghiên cứu các câu hỏi đúng sai nảy sinh khi giao cho hệ thống máy học những quyết định từng do con người đưa ra: ai được vay, ai được phỏng vấn, ai bị coi là nguy cơ tái phạm, nội dung nào được hiển thị. Năm cụm vấn đề cốt lõi là công bằng (thiên lệch), minh bạch (giải thích được), trách nhiệm (ai chịu khi sai), quyền riêng tư (dữ liệu huấn luyện và giám sát), và tác động xã hội (lao động, thông tin, quyền lực).
Điểm làm đạo đức AI khác đạo đức công nghệ nói chung là quy mô và tính mờ đục: một mô hình ra hàng triệu quyết định mỗi ngày, học từ dữ liệu quá khứ mang sẵn bất công của quá khứ, và lý do của từng quyết định thường không ai, kể cả người làm ra nó, diễn đạt được đầy đủ. Bài này đi qua từng cụm vấn đề, kèm những trường hợp có thật và những chỗ giới nghiên cứu còn bất đồng.
Thiên lệch thuật toán: vụ COMPAS và vì sao "công bằng" có nhiều nghĩa
Năm 2016, nhóm phóng viên của ProPublica phân tích COMPAS, một công cụ chấm điểm nguy cơ tái phạm dùng trong hệ thống tư pháp ở một số bang của Mỹ. Họ thấy trong số những người không tái phạm, bị cáo da đen bị xếp nhầm vào nhóm nguy cơ cao với tỉ lệ cao hơn đáng kể so với bị cáo da trắng. Công ty phát triển phản bác: với cùng một mức điểm, tỉ lệ tái phạm thực tế giữa hai nhóm là tương đương, tức là điểm số được hiệu chỉnh tốt cho cả hai.
Điều thú vị là cả hai bên đều tính đúng. Ngay sau đó, Jon Kleinberg, Sendhil Mullainathan và Manish Raghavan (2016), cùng Alexandra Chouldechova (2017), chứng minh về mặt toán học rằng khi tỉ lệ nền (base rate) của hai nhóm khác nhau, không bộ phân loại nào, trừ trường hợp dự đoán hoàn hảo, có thể đồng thời thoả mãn cả hiệu chỉnh đều giữa các nhóm và tỉ lệ dương tính giả, âm tính giả bằng nhau. Kết quả này thường được gọi là định lý bất khả về công bằng.
Hệ quả đạo đức rất lớn: "làm cho thuật toán công bằng" không phải bài toán kỹ thuật thuần tuý, mà buộc phải chọn định nghĩa công bằng nào quan trọng hơn trong từng bối cảnh. Trong tư pháp, nhiều người cho rằng tránh giam nhầm người vô tội (dương tính giả) quan trọng hơn; trong sàng lọc bệnh, bỏ sót người bệnh (âm tính giả) có thể nghiêm trọng hơn. Lựa chọn ấy là lựa chọn giá trị, và nó cần được đưa ra công khai bởi những người có thẩm quyền chính danh, không phải để mặc cho tham số mặc định của phần mềm.
Thiên lệch đến từ đâu: bốn nguồn hay gặp
Dữ liệu phản ánh bất công lịch sử. Reuters năm 2018 đưa tin Amazon đã ngừng một công cụ sàng lọc hồ sơ thử nghiệm vì nó học từ hồ sơ trúng tuyển của mười năm trước, chủ yếu là nam giới, và hạ điểm những hồ sơ có dấu hiệu liên quan tới nữ giới. Mô hình không "có ý" phân biệt; nó trung thành với một quá khứ không công bằng.
Dữ liệu thiếu đại diện. Nghiên cứu Gender Shades của Joy Buolamwini và Timnit Gebru (2018) cho thấy một số hệ thống nhận diện giới tính qua khuôn mặt thương mại có tỉ lệ lỗi cao hơn nhiều với phụ nữ da sẫm màu so với nam giới da sáng màu, phần lớn vì tập dữ liệu huấn luyện lệch.
Biến đại diện (proxy). Bỏ biến nhạy cảm như giới tính, dân tộc khỏi mô hình không đủ, vì các biến khác như nơi ở, trường học, lịch sử mua sắm có thể mang cùng thông tin. Ở Việt Nam, một mô hình chấm điểm tín dụng dùng địa chỉ thường trú có thể vô tình phạt người di cư từ nông thôn lên đô thị.
Vòng phản hồi. Khi quyết định của mô hình tạo ra dữ liệu huấn luyện cho chính nó, thiên lệch tự khuếch đại. Hệ thống dự báo tội phạm đưa cảnh sát tới khu A nhiều hơn, cảnh sát ghi nhận nhiều vi phạm ở khu A hơn, mô hình càng tin khu A nguy hiểm, dù tỉ lệ vi phạm thật có thể không khác khu B.
Minh bạch và quyền được giải thích
Các mô hình học sâu với hàng tỉ tham số không cho phép đọc ra lý do theo kiểu "vì thu nhập dưới X nên từ chối". Lĩnh vực AI có thể giải thích (explainable AI) phát triển các kỹ thuật như đo mức đóng góp của từng đặc trưng hay tạo giải thích phản thực ("nếu thu nhập cao hơn chừng này thì kết quả đã khác"). Các kỹ thuật này hữu ích nhưng có giới hạn: giải thích là xấp xỉ của mô hình, không phải bản thân mô hình, và có nghiên cứu cho thấy có thể tạo ra giải thích trông hợp lý cho một mô hình thực chất thiên lệch.
Về đạo đức, có ít nhất ba lý do để đòi minh bạch, và chúng dẫn tới những yêu cầu khác nhau. Lý do thứ nhất là tôn trọng con người: người bị ảnh hưởng xứng đáng được biết vì sao, để hiểu và phản đối. Lý do thứ hai là kiểm soát chất lượng: không hiểu mô hình thì khó phát hiện lỗi. Lý do thứ ba là trách nhiệm giải trình: cơ quan quản lý và toà án cần kiểm tra được. Một số học giả lập luận rằng nếu một quyết định có hệ quả nghiêm trọng mà không thể giải thích thoả đáng, thì nên dùng mô hình đơn giản hơn dù độ chính xác thấp hơn một chút; Cynthia Rudin là người bảo vệ mạnh quan điểm này.
Phía ngược lại cho rằng con người cũng không giải thích được chính xác quyết định của mình, và đòi hỏi máy minh bạch hơn người là tiêu chuẩn kép. Đáp lại, người ta chỉ ra rằng quyết định của con người nằm trong hệ thống trách nhiệm có sẵn (phúc thẩm, kỷ luật nghề nghiệp), còn quyết định của máy thì chưa.
Ai chịu trách nhiệm khi AI gây hại
Năm 2004, Andreas Matthias đặt tên cho vấn đề khoảng trống trách nhiệm (responsibility gap): với những hệ thống học và thay đổi hành vi sau khi triển khai, người thiết kế không thể dự đoán đầy đủ, người vận hành không kiểm soát đầy đủ, còn bản thân cỗ máy thì không phải chủ thể đạo đức để quy trách nhiệm. Khi một hệ thống chẩn đoán bỏ sót khối u hay một xe tự lái gây tai nạn, trách nhiệm có nguy cơ rơi vào khoảng trống giữa nhà phát triển, bệnh viện hoặc hãng xe, và người dùng cuối.
Có ba hướng trả lời. Hướng thứ nhất phủ nhận khoảng trống: trách nhiệm luôn thuộc về những người quyết định triển khai một hệ thống họ không hiểu đủ, giống như chủ nuôi chịu trách nhiệm về con vật. Hướng thứ hai lấp khoảng trống bằng thể chế: trách nhiệm pháp lý nghiêm ngặt cho nhà cung cấp, bảo hiểm bắt buộc, yêu cầu có người giám sát với quyền can thiệp thật. Hướng thứ ba, ít được ủng hộ hơn, bàn tới tư cách pháp lý hạn chế cho chính hệ thống AI.
Một cạm bẫy thực tế là "người trong vòng lặp" chỉ trên danh nghĩa: một nhân viên phải duyệt hàng trăm đề xuất của máy mỗi giờ sẽ có xu hướng chấp nhận gần như tất cả, hiện tượng gọi là thiên kiến tự động hoá. Khi đó con người chỉ đóng vai người nhận lỗi thay cho máy. Giám sát có ý nghĩa đòi hỏi đủ thời gian, đủ thông tin và đủ quyền để nói không.
Dữ liệu, lao động và quyền lực: những vấn đề ở tầng xã hội
Các mô hình ngôn ngữ và mô hình sinh ảnh được huấn luyện trên lượng dữ liệu khổng lồ thu thập từ internet, trong đó có tác phẩm có bản quyền, thông tin cá nhân và nội dung do hàng triệu người tạo ra mà không được hỏi ý kiến. Câu hỏi đạo đức ở đây không chỉ là pháp lý (hiện đang có nhiều vụ kiện ở các nước), mà còn là phân phối: giá trị kinh tế từ công sức tập thể đang tập trung vào một số ít công ty.
Về lao động, chuỗi cung ứng AI phụ thuộc vào một lực lượng lớn người gán nhãn dữ liệu và kiểm duyệt nội dung, nhiều người ở các nước thu nhập thấp, đôi khi phải tiếp xúc với nội dung gây sang chấn với mức thù lao thấp. Về việc làm nói chung, bằng chứng về tác động của AI tạo sinh còn sớm và trái chiều: một số nghiên cứu thực nghiệm cho thấy công cụ hỗ trợ nâng năng suất nhiều nhất cho người mới vào nghề, trong khi những lo ngại về thay thế việc làm trung cấp vẫn chưa có dữ liệu dài hạn để kết luận.
Về quyền lực, năng lực huấn luyện mô hình lớn đòi hỏi vốn, dữ liệu và hạ tầng tính toán mà rất ít tổ chức có. Một số học giả lập luận rằng câu hỏi đạo đức quan trọng nhất không phải "AI có thiên lệch không" mà là "ai quyết định AI được dùng vào việc gì", và rằng các bộ nguyên tắc đạo đức tự nguyện của doanh nghiệp, dù có giá trị, không thay được cơ chế giải trình bên ngoài. Đây là lý do các khung quản trị như Khuyến nghị về đạo đức AI của UNESCO (2021) và Đạo luật AI của Liên minh châu Âu (thông qua năm 2024) chuyển dần từ nguyên tắc sang nghĩa vụ cụ thể theo mức rủi ro.
Đánh giá đạo đức một hệ thống AI: bảng câu hỏi thực hành
Dù bạn là người mua, người triển khai hay người bị ảnh hưởng, các câu hỏi sau giúp biến nguyên tắc chung thành kiểm tra cụ thể:
- Mục đích: hệ thống thay thế hay hỗ trợ quyết định của con người? Sai sót gây hậu quả gì, có đảo ngược được không?
- Dữ liệu: dữ liệu huấn luyện đến từ đâu, có đại diện cho người dùng thật ở Việt Nam không, có được thu thập hợp pháp và có đồng ý không?
- Công bằng: hiệu năng có được đo riêng theo các nhóm (giới, vùng miền, độ tuổi) không? Định nghĩa công bằng nào được chọn và ai chọn?
- Giải thích: người bị từ chối có được biết lý do chính và cách khiếu nại không?
- Giám sát: con người có đủ thời gian, thông tin và quyền để bác đề xuất của máy không? Tỉ lệ bác thực tế là bao nhiêu?
- Trách nhiệm: hợp đồng và quy trình ghi rõ ai chịu trách nhiệm khi sai chưa?
- Theo dõi sau triển khai: có cơ chế phát hiện mô hình xuống cấp hay trôi dạt dữ liệu, và có kế hoạch dừng hệ thống khi cần không?
Một hệ thống không trả lời được phần lớn các câu trên chưa hẳn là xấu, nhưng nghĩa là rủi ro đang được chuyển sang những người không được hỏi. Quy định cụ thể về AI và dữ liệu cá nhân ở Việt Nam đang được hoàn thiện; khi áp dụng, bạn cần kiểm tra văn bản pháp luật hiện hành.
Câu hỏi thường gặp
AI có thể là chủ thể đạo đức, tức là có quyền hoặc có trách nhiệm, không?
Hiện đa số triết gia cho rằng các hệ thống AI hiện nay không phải chủ thể đạo đức theo nghĩa đầy đủ vì thiếu bằng chứng về ý thức và lợi ích tự thân. Tuy nhiên câu hỏi về tư cách đạo đức của các hệ thống tương lai, và về việc làm sao biết một hệ thống có trải nghiệm hay không, đang được nghiên cứu nghiêm túc và chưa có đồng thuận.
Đạo đức AI khác an toàn AI như thế nào?
Hai lĩnh vực chồng lấn nhưng có trọng tâm khác. Đạo đức AI thường tập trung vào tác hại hiện hữu như thiên lệch, quyền riêng tư, trách nhiệm. An toàn AI quan tâm nhiều hơn tới việc bảo đảm hệ thống ngày càng mạnh hành xử đúng ý định của con người và không gây rủi ro quy mô lớn. Giữa hai cộng đồng từng có căng thẳng về ưu tiên, nhưng ngày càng nhiều người cho rằng cần cả hai.
Dùng AI để viết luận văn hay báo cáo có phải gian lận không?
Tuỳ quy định của cơ sở đào tạo và mức độ minh bạch. Về nguyên tắc đạo đức học thuật, vấn đề nằm ở việc trình bày công sức không phải của mình như của mình và ở trách nhiệm với tính chính xác của nội dung. Nhiều trường và tạp chí hiện yêu cầu khai báo việc dùng AI và không chấp nhận AI đứng tên tác giả; bạn nên đọc quy định cụ thể nơi mình học hoặc nộp bài.
Có thể loại bỏ hoàn toàn thiên lệch khỏi một mô hình không?
Không theo nghĩa tuyệt đối. Định lý bất khả cho thấy các tiêu chí công bằng xung đột nhau khi tỉ lệ nền khác nhau, và mọi dữ liệu đều mang dấu vết của cách nó được thu thập. Mục tiêu thực tế là đo được thiên lệch theo các tiêu chí đã chọn có lý do, giảm nó tới mức chấp nhận được, công khai lựa chọn và theo dõi liên tục sau triển khai.
Các bộ nguyên tắc đạo đức AI của doanh nghiệp có tác dụng thật không?
Bằng chứng cho thấy tác dụng hạn chế nếu đứng một mình. Một số phân tích tổng hợp các bộ nguyên tắc cho thấy chúng hội tụ quanh vài khái niệm như minh bạch, công bằng, trách nhiệm nhưng thiếu cơ chế thực thi. Các nhà phê bình gọi hiện tượng dùng nguyên tắc để tránh quy định là rửa đạo đức. Nguyên tắc có hiệu quả hơn khi đi kèm kiểm toán độc lập và trách nhiệm pháp lý.
Doanh nghiệp nhỏ ở Việt Nam dùng AI có cần quan tâm tới đạo đức AI không?
Có, và thường ở dạng rất cụ thể: dữ liệu khách hàng đưa vào công cụ AI có được phép không, nội dung AI tạo ra có sai sự thật hay vi phạm bản quyền không, chatbot có cho khách biết họ đang nói chuyện với máy không. Những câu hỏi này vừa là đạo đức vừa là rủi ro pháp lý và uy tín, đặc biệt khi quy định về bảo vệ dữ liệu cá nhân ngày càng chặt.