OASI, công cụ tìm kiếm đầu tiên tìm ra các thuật toán mà chính phủ và công ty sử dụng đối với công dân

• Được tạo bởi Eticas Foundation, Đài quan sát các thuật toán có tác động xã hội, OASI, thu thập thông tin từ hàng chục thuật toán được sử dụng bởi các Cơ quan quản lý nhà nước và các công ty trên khắp thế giới để tìm hiểu thêm về tác động xã hội của chúng.
  
• Mục tiêu là cung cấp cho công chúng quyền truy cập vào thông tin của cả chính phủ và các thuật toán của công ty, đồng thời biết ai sử dụng chúng, ai phát triển chúng, chúng đại diện cho những mối đe dọa nào và liệu chúng đã được kiểm toán chưa, trong số các đặc điểm khác.

• Sự thiên vị và phân biệt đối xử trong thuật toán thường xảy ra dựa trên độ tuổi, giới tính, chủng tộc hoặc khuyết tật, trong số các giá trị khác, nhưng do sự thiếu minh bạch nói chung, nên vẫn không thể biết tất cả các hậu quả của nó đối với các nhóm bị ảnh hưởng.

Eticas Foundation, một tổ chức phi lợi nhuận thúc đẩy việc sử dụng có trách nhiệm các thuật toán và hệ thống Trí tuệ nhân tạo (AI), đã tạo ra Đài quan sát thuật toán có tác động xã hội (OASI). Đài quan sát này giới thiệu một công cụ tìm kiếm để biết thêm về các công cụ đưa ra các quyết định tự động quan trọng đối với công dân, người tiêu dùng và người dùng trên khắp thế giới.

Hiện tại, cả công ty và Cơ quan hành chính công đều tự động hóa các quyết định nhờ các thuật toán. Tuy vậy, sự phát triển và vận hành của nó không tuân theo các biện pháp kiểm soát chất lượng bên ngoài, cũng không phải là minh bạch như lẽ ra phải có, điều này khiến người dân không được bảo vệ. Với công cụ tìm kiếm này, bất kỳ ai cũng có thể tìm hiểu thêm về các thuật toán này: ai đã phát triển chúng, ai sử dụng chúng, phạm vi ứng dụng của chúng, liệu chúng đã được kiểm toán chưa, mục tiêu hoặc tác động xã hội của chúng và các mối đe dọa mà chúng đại diện.

Tại thời điểm này, OASI thu thập 57 thuật toán, nhưng dự kiến ​​sẽ đạt con số 100 trong những tháng tiếp theo. Trong số đó, 24 công ty đang được áp dụng tại Hoa Kỳ bởi Chính phủ và các công ty Big Tech. Ví dụ: ShotSpotter, một công cụ thuật toán được Sở Cảnh sát Oakland triển khai để chống lại và giảm bạo lực súng thông qua micrô giám sát âm thanh và một thuật toán để dự đoán khả năng lạm dụng và bỏ bê trẻ em được sử dụng bởi Hạt Allegheny, Pennsylvania. Một ví dụ khác từ một công ty là Rekognition, hệ thống nhận dạng khuôn mặt của Amazon, đã được MIT Media Lab kiểm tra vào đầu năm 2019 và được phát hiện là hoạt động tồi tệ hơn đáng kể khi xác định giới tính của một cá nhân nếu họ là nữ hoặc da ngăm đen.

Sự phân biệt đối xử phổ biến nhất là dựa trên tuổi tác, giới tính, chủng tộc hoặc khuyết tật, được tạo ra một cách vô ý bởi các nhà phát triển thiếu kỹ năng kinh tế xã hội để hiểu tác động của công nghệ này. Theo nghĩa này, các kỹ sư này thiết kế các thuật toán chỉ dựa trên các kỹ năng kỹ thuật và vì không có điều khiển bên ngoài và nó dường như đang hoạt động như mong đợi, thuật toán tiếp tục học hỏi từ dữ liệu bị thiếu.

Do sự thiếu minh bạch về hoạt động của một số thuật toán này, Eticas Foundation, ngoài việc ra mắt OASI, còn đang phát triển một dự án kiểm toán bên ngoài. Đầu tiên là VioGén, thuật toán được Bộ Nội vụ Tây Ban Nha sử dụng để gán rủi ro cho những phụ nữ tìm kiếm sự bảo vệ sau khi bị bạo lực gia đình. Eticas sẽ tiến hành đánh giá bên ngoài thông qua thiết kế ngược và dữ liệu quản trị, các cuộc phỏng vấn, báo cáo hoặc kịch bản thiết kế, để thu thập kết quả trên quy mô lớn. Tất cả điều này với mục tiêu phát hiện các cơ hội cải thiện việc bảo vệ những phụ nữ này.

Gemma Galdon, người sáng lập Quỹ Eticas tuyên bố: “Bất chấp sự tồn tại của các phương pháp kiểm soát và kiểm toán theo thuật toán để đảm bảo rằng công nghệ tôn trọng các quy định hiện hành và các quyền cơ bản, Cơ quan quản lý và nhiều công ty vẫn tiếp tục làm ngơ trước các yêu cầu về tính minh bạch từ các công dân và tổ chức”. . “Ngoài OASI, sau vài năm chúng tôi đã phát triển hơn một chục cuộc kiểm toán cho các công ty như Alpha Telefónica, Liên Hợp Quốc, Koa Health hoặc Ngân hàng Phát triển Liên Mỹ, chúng tôi cũng đã xuất bản Hướng dẫn Kiểm toán Thuật toán. mà bất kỳ ai cũng có thể thực hiện chúng. Mục tiêu luôn là nâng cao nhận thức, cung cấp tính minh bạch và khôi phục niềm tin vào công nghệ, bản thân nó không có hại ”.

Theo nghĩa này, các thuật toán được đào tạo bằng công nghệ máy học sử dụng một lượng lớn dữ liệu lịch sử để "dạy" chúng lựa chọn dựa trên các quyết định trong quá khứ. Thông thường, những dữ liệu này không đại diện cho thực tế kinh tế xã hội và văn hóa mà chúng được áp dụng, nhưng trong nhiều trường hợp, chúng phản ánh một tình huống không công bằng không nhằm mục đích kéo dài. Bằng cách này, về mặt kỹ thuật, thuật toán sẽ đưa ra các quyết định "đúng" theo sự đào tạo của nó, mặc dù thực tế là các khuyến nghị hoặc dự đoán của nó là thiên vị hoặc phân biệt đối xử.

quảng cáo

Giới thiệu về Quỹ Eticas

Eticas Foundation làm việc để chuyển thành các đặc tả kỹ thuật các nguyên tắc hướng dẫn xã hội, chẳng hạn như cơ hội bình đẳng, tính minh bạch và không phân biệt đối xử trong các công nghệ đưa ra quyết định tự động về cuộc sống của chúng ta. Nó tìm kiếm sự cân bằng giữa các giá trị xã hội đang thay đổi, khả năng kỹ thuật của những tiến bộ mới nhất và khuôn khổ pháp lý. Để đạt được mục tiêu này, nó kiểm tra các thuật toán, xác minh rằng các đảm bảo pháp lý được áp dụng cho thế giới kỹ thuật số, đặc biệt là cho Trí tuệ nhân tạo và thực hiện công việc tích cực nhằm nâng cao nhận thức và phổ biến nhu cầu về công nghệ chất lượng, có trách nhiệm.

Chia sẻ bài viết này: