Theo Thông điệp Magnifica Humanitas, Trí tuệ nhân tạo (AI) không bao giờ được coi là trung lập về mặt đạo đức, bởi vì mỗi hệ thống AI đều mang theo những lựa chọn và nhãn quan của người thiết kế. Để thực sự phục vụ con người, AI không được phép vi phạm các nguyên tắc đạo đức cốt lõi sau đây của Học thuyết Xã hội của Giáo hội:
1. Phẩm giá bất khả chuyển nhượng của con người Đây là nguyên tắc tối hậu. AI không bao giờ được phép đưa vào các tiêu chuẩn trái ngược với phẩm giá con người. Con người không được phép bị giảm thiểu thành những tập dữ liệu đơn thuần, thành những chiếc răng cưa trong cỗ máy hay bị phân loại theo mức độ "xứng đáng" hay "hữu dụng". Mọi hệ thống đánh giá xem một mạng sống là "ít xứng đáng hơn" hoặc gạt bỏ con người mà không cho họ quyền khiếu nại đều vi phạm nghiêm trọng phẩm giá này.
Trung Khang
2. Không được ủy thác phán xét luân lý và quyết định sinh tử AI không có trải nghiệm sống, không có lương tâm, không biết đến lòng trắc ẩn, sự tha thứ hay khả năng phán xét luân lý. Do đó, nguyên tắc tuyệt đối là không được ủy thác các quyết định gây tử vong (như trong chiến tranh) hoặc các quyết định mang tính bất khả đảo ngược cho AI. Việc sử dụng vũ lực hoặc đưa ra quyết định tước đoạt sự sống phải luôn nằm dưới sự kiểm soát hiệu quả, tự ý thức và có trách nhiệm của con người.
3. Trách nhiệm giải trình và tính minh bạch AI không được phép hoạt động như một "hộp đen" vô trách nhiệm. Các quyết định quan trọng ảnh hưởng đến quyền lợi, việc làm, tín dụng hay danh tiếng của con người không được phép giao phó hoàn toàn cho các hệ thống tự động. Phải luôn có sự minh bạch và phải xác định rõ ràng ai là người chịu trách nhiệm giải trình (từ khâu thiết kế, huấn luyện đến sử dụng) để có thể biện minh, giám sát, khiếu nại và khắc phục những sai lầm hay tác hại do AI gây ra.
4. Công ích chung và sự tiền định phổ quát của của cải AI không được phép chỉ phục vụ cho lợi ích, lợi nhuận hay quyền lực của một nhóm thiểu số. Các tài nguyên như năng lực điện toán, thuật toán và dữ liệu là những tài sản chung mới, không được để cho các tập đoàn công nghệ độc quyền thao túng. Công nghệ phải được định hướng để phục vụ ích chung, đảm bảo sự tiếp cận phổ quát và không được làm nới rộng khoảng cách bất bình đẳng giữa những người được hưởng lợi và những người bị loại trừ.
5. Công bằng xã hội và không tạo ra nô lệ mới AI không được vi phạm công bằng xã hội bằng cách bóc lột sức lao động. Sự hào nhoáng của AI không được phép xây dựng trên "chuỗi bóc lột" vô hình của hàng triệu người lao động được trả lương bèo bọt (như những người dán nhãn dữ liệu, kiểm duyệt nội dung độc hại) hay lao động trẻ em trong các hầm mỏ khai thác đất hiếm. Ngoài ra, AI không được phép trở thành công cụ cho các mạng lưới tội phạm buôn người, tống tiền hay bóc lột tình dục.
6. Bảo vệ sinh thái và ngôi nhà chung Việc phát triển các hệ thống AI (đặc biệt là các mô hình ngôn ngữ lớn) tiêu thụ lượng điện năng và nguồn nước khổng lồ, gây tác động lớn đến môi trường. Việc theo đuổi sức mạnh AI không được phép phớt lờ tác động sinh thái; thay vào đó, bắt buộc phải phát triển các giải pháp công nghệ bền vững để bảo vệ công trình tạo dựng và thế hệ tương lai.
7. Bảo vệ tự do trước sự kiểm soát và thao túng AI không được phép vi phạm tự do nội tâm của con người. Các nền tảng kỹ thuật số không được sử dụng AI để thao túng thông tin, thiết kế các mô hình gây nghiện nhằm "bắt giữ" sự chú ý, hay thu thập dữ liệu khổng lồ để thiết lập hệ thống giám sát và kiểm soát xã hội xâm nhập. Tự do và tư duy phản biện của con người phải luôn được bảo vệ trước mọi hình thức thao túng.
Author
Chuyên viết tin tức và bài phân tích về Giáo hội Công giáo và các vấn đề tôn giáo – xã hội quốc tế.
