Ética trong việc sử dụng công nghệ số: những thách thức mới và nguyên tắc

Giới thiệu: từ công cụ đến môi trường sống

Công nghệ số đã không còn là công cụ trung lập, mà đã trở thành môi trường hình thành hành vi, nhận thức và mối quan hệ xã hội. Điều này đòi hỏi sự chuyển đổi từ đạo đức chuyên nghiệp hẹp của các chuyên gia IT đến đạo đức số tổng hợp - hệ thống nguyên tắc đạo đức điều chỉnh việc phát triển, triển khai và sử dụng công nghệ. Phe paradoks của hiện đại là sự phát triển công nghệ vượt trước sự phản ánh đạo đức, tạo ra «vùng trống quy định» xung quanh các hiện tượng như quyết định bằng thuật toán, AI sinh thành và các giao diện não.

Các vấn đề đạo đức chính trong thời kỳ số hóa

1. Trách nhiệm của các thuật toán và chủ quan dữ liệu

trí tuệ nhân tạo và các thuật toán ngày càng thường xuyên đưa ra các quyết định ảnh hưởng đến cuộc sống của con người: từ việc phê duyệt tín dụng và chọn lọc ứng viên đến việc xác định thời gian giam giữ. Tuy nhiên, các thuật toán không khách quan - chúng phản ánh những предjudge đặt trong dữ liệu đào tạo. Một ví dụ điển hình là hệ thống COMPAS được sử dụng tại Hoa Kỳ để đánh giá nguy cơ tái phạm của tội phạm. Nghiên cứu của ProPublica vào năm 2016 đã cho thấy rằng thuật toán này đã tăng cường nguy cơ cho người da đen và giảm cho người da trắng, tái tạo sự bất bình đẳng xã hội lịch sử.

Thực tế thú vị: vào năm 2018, Amazon đã buộc phải từ bỏ thuật toán chọn nhân viên do nó phân biệt đối xử với phụ nữ. Hệ thống này đã được đào tạo trên các hồ sơ nhân viên của công ty trong 10 năm, nơi đa số là nam giới, và đã học được «phạt» những từ ngữ đặc trưng cho hồ sơ phụ nữ (ví dụ: «kapitan đội cờ vua phụ nữ»).

2. Bất bình đẳng số và khả năng truy cập

Đạo đức công nghệ số phải xem xét sự chênh lệch số - bất bình đẳng trong việc truy cập vào công nghệ và kỹ năng số. Đại dịch COVID-19 đã bộc lộ vấn đề này: trong khi một số người có thể làm việc và học trực tuyến, những người khác lại bị loại ra khỏi cuộc sống xã hội - kinh tế. Ngoài việc truy cập kỹ thuật, còn có vấn đề về không đủ kiến thức chức năng - không thể đánh giá thông tin một cách khách quan, bảo vệ quyền riêng tư và hiểu logic của các thuật toán.

3. Mánh khóe chiếm lấy sự chú ý và thiết kế dopamine

Mạng xã hội và các nền tảng được xây dựng có chủ đích để duy trì sự chú ý tối đa, sử dụng kiến thức của khoa học thần kinh. Dòng tin tức vô tận, thông báo, các thuật toán hiển thị nội dung gây ra cảm xúc mạnh - tất cả đều tạo ra kinh tế sự chú ý, nơi người dùng trở thành sản phẩm. Đạo đức đòi hỏi sự minh bạch trong các thực hành này và cung cấp cho người dùng sự lựa chọn thực tế,而不是 ảo ảnh về quyền kiểm soát.

Ví dụ: vào năm 2021, Facebook (Meta) đã trở thành tâm điểm của một scandal sau khi bị Phranics Haugen tiết lộ. Cựu nhân viên này đã chứng minh rằng công ty có chủ đích sử dụng các thuật toán tăng cường sự giận dữ và phân cực, mặc dù nội dung này tăng cường sự tham gia, nhưng gây hại cho đối thoại công cộng và sức khỏe tinh thần của thanh thiếu niên.

4. Tự do cá nhân vs. tự động hóa

Tự động hóa và hệ thống đề xuất dần dần hạn chế tự do cá nhân, thu hẹp lĩnh vực lựa chọn. Các thuật toán của YouTube hoặc TikTok xác định thông tin chúng ta sẽ thấy; các hướng dẫn - tuyến đường nào sẽ chọn; các hệ thống thông minh - khí hậu nào sẽ có trong căn hộ. Nhiệm vụ đạo đức là giữ quyền không đồng ý của con người với thuật toán và khả năng chọn lựa không tiêu chuẩn.

Nguyên tắc đạo đức số

Để đối phó với những thách thức này, các nguyên tắc đạo đức mới đang được hình thành:

Nguyên tắc minh bạch (giải thích). Hệ thống thuật toán nên dễ hiểu đối với người dùng. Tại EU, «Quyền giải thích» trong GDPR đã được thực thi, cho phép yêu cầu giải thích các quyết định được thực hiện tự động. Đối với các mạng thần kinh phức tạp, điều này vẫn là một vấn đề kỹ thuật, tạo ra một hướng đi riêng - AI giải thích (XAI).

Nguyên tắc công bằng và không phân biệt đối xử. Yêu cầu phát hiện và loại bỏ sự lệch lạc trong dữ liệu và các thuật toán. Trong thực tế, điều này có nghĩa là đa dạng hóa đội ngũ phát triển, kiểm tra thuật toán và sử dụng dữ liệu cạnh tranh để kiểm tra khả năng chịu đựng của hệ thống đối với phân biệt đối xử.

Nguyên tắc bảo mật mặc định (Privacy by Design). Bảo vệ quyền riêng tư nên được tích hợp vào kiến trúc hệ thống từ đầu,而不是 thêm như một miếng vá. Điều này bao gồm việc giảm thiểu thu thập dữ liệu, mã hóa và ẩn danh hóa dữ liệu.

Nguyên tắc hướng đến con người. Công nghệ nên phục vụ lợi ích và phát triển của con người,而不是 ngược lại. Nhóm đạo đức về khoa học và công nghệ châu Âu định nghĩa điều này là cần thiết để duy trì «quyền kiểm soát của con người» đối với các hệ thống tự động.

Thực tế thú vị: vào năm 2019, OECD đã thông qua các Nguyên tắc đầu tiên về trí tuệ nhân tạo giữa các nhà quản lý, nhằm đảm bảo việc sử dụng sáng tạo và đáng tin cậy. Trong số năm nguyên tắc: tăng trưởng bao trùm, công bằng, minh bạch, an toàn và trách nhiệm. Dựa trên các nguyên tắc này, nhiều chiến lược quốc gia được xây dựng.

Các phản hồi tổ chức

Các tổ chức mới đang được hình thành để giải quyết các dilemmas đạo đức:

Hội đồng đạo đức và hội đồng trí tuệ nhân tạo tại các công ty và chính phủ.

Kiểm tra thuật toán bởi các tổ chức độc lập, giống như kiểm toán tài chính.

Giáo dục số, bao gồm cả kiến thức đạo đức.

Kết luận: đạo đức là điều kiện cho sự phát triển bền vững

Đạo đức số không phải là một thứ xa xỉ, mà là điều kiện cần thiết để ngăn chặn sự gây hại của công nghệ và xây dựng hệ sinh thái số đáng tin cậy. Trong thế giới mà công nghệ ngày càng xâm nhập sâu vào thể xác và tâm hồn con người (giao diện não, chỉnh sửa gen), các khung đạo đức cũ đã không đủ. Cần có cuộc đối thoại đa ngành liên tục giữa các kỹ sư, triết gia, luật sư, tâm lý học và xã hội. Người thành công không phải là người tạo ra công nghệ mạnh nhất, mà là người có thể tích hợp nó vào bối cảnh xã hội, giảm thiểu rủi ro và tối đa hóa lợi ích cho nhân loại. Tương lai không chỉ được định hình bởi những gì chúng ta có thể tạo ra, mà còn bởi những gì chúng ta quyết định không tạo ra theo lý do đạo đức.

Permanent link to this publication: