#Arti ArtificialIntelligence - Luật Liên minh Châu Âu nên đặt ra ranh giới an toàn cho các ứng dụng có rủi ro cao, #EESC nói

Nhận dạng sinh trắc học để theo dõi, giám sát và phát hiện cảm xúc không nên có vị trí trong cách tiếp cận lấy con người làm trung tâm đối với Trí tuệ nhân tạo (AI) của châu Âu, Ủy ban Kinh tế và Xã hội Châu Âu (EESC) phản ứng với Sách trắng của Ủy ban Châu Âu về AI, được thông qua bởi toàn thể EESC vào tháng Bảy.

Ủy ban Châu Âu đã đề xuất rằng một ứng dụng AI nên được coi là có rủi ro cao nếu nó liên quan đến cả lĩnh vực rủi ro cao (chăm sóc sức khỏe, giao thông, năng lượng và các bộ phận của khu vực công) và sử dụng rủi ro cao, với một vài trường hợp ngoại lệ vẫn được xác định. Chỉ khi hai điều kiện này được đáp ứng, đề nghị Ủy ban, chúng ta mới nên nói về AI có nguy cơ cao, sẽ thuộc các quy định và cấu trúc quản trị cụ thể.

EESC tin rằng định nghĩa này có nguy cơ tạo ra những kẽ hở nguy hiểm tiềm tàng. Ủy ban cho biết quảng cáo chính trị của Facebook cung cấp một ví dụ điển hình.

Báo cáo viên Catelijne Muller lập luận: "Quảng cáo là một lĩnh vực có rủi ro thấp và chức năng tổng hợp tin tức của Facebook có thể được coi là một hoạt động sử dụng có rủi ro thấp. với sự trợ giúp của AI có thể có nhiều tác động tiêu cực và ảnh hưởng đến cách mọi người bỏ phiếu, với sự can thiệp ngay cả từ bên ngoài châu Âu. "

Có nên miễn trừ điều này không, và có bao nhiêu nên có? Thay vì lập danh sách các trường hợp miễn trừ, EESC tin rằng sẽ tốt hơn nếu lập danh sách các đặc điểm chung được coi là có rủi ro cao, bất kể lĩnh vực nào.

Nhiều ứng dụng có tác động mạnh mẽ đến các quyền cơ bản, nhấn mạnh Muller, không chỉ về quyền riêng tư của mọi người, mà còn về quyền của họ để biểu tình hoặc tham gia công đoàn, chẳng hạn.

Mặt tối của nhận dạng sinh trắc học

quảng cáo

Nhận dạng khuôn mặt và sinh trắc học là một trong những lĩnh vực quan trọng mà AI đề cập đến các quyền cơ bản. Việc sử dụng nó có thể được phép cho mục đích nhận dạng cá nhân - và thực sự được quy định bởi Quy định chung về bảo vệ dữ liệu.

Nhưng việc sử dụng rộng rãi nhận dạng sinh trắc học do AI điều khiển để giám sát hoặc theo dõi, đánh giá hoặc phân loại hành vi hoặc cảm xúc của con người nên bị cấm. Hơn nữa, vì không có bằng chứng khoa học nào cho thấy chúng ta có thể phân biệt cảm xúc của một người dựa trên sinh trắc học của họ, Muller nhấn mạnh.

Ứng dụng theo dõi và truy tìm COVID-19

EESC cũng cảnh báo chống lại sự gia tăng không kiểm soát của công nghệ theo dõi và truy tìm nguồn gốc vào xã hội của chúng ta nhanh hơn nhiều và với sự giám sát ít hơn trước đây, trong nỗ lực chống lại sự bùng phát của coronavirus.

Báo cáo viên của EESC cho biết: “Các kỹ thuật và phương pháp tiếp cận của AI để chống lại đại dịch phải mạnh mẽ, hiệu quả, minh bạch và có thể giải thích được như bất kỳ kỹ thuật AI nào khác trong bất kỳ tình huống nào khác”. "Họ nên đề cao nhân quyền, các nguyên tắc đạo đức và luật pháp. Họ cũng nên tự nguyện, bởi vì, dù chúng tôi muốn hay không, nhiều kỹ thuật được đưa ra trong cuộc khủng hoảng sẽ trở thành vĩnh viễn."

EESC hy vọng rằng Ủy ban sẽ đảm nhận đầu vào của mình, như đã thực hiện với các khuyến nghị mà EESC đã đưa ra kể từ khi ý kiến ​​đột phá về AI năm 2017, công ty đầu tiên vô địch về cách tiếp cận "con người chỉ huy" đối với AI ở châu Âu.

Tiểu sử

Sản phẩm Sách trắng về AI, một phần của gói các biện pháp đa dạng về AI được công bố trong Truyền thông Định hình tương lai kỹ thuật số của Ủy ban Châu Âu, đưa ra:

• Các biện pháp hợp lý hóa nghiên cứu, thúc đẩy hợp tác giữa các quốc gia thành viên và tăng cường đầu tư vào AI, và;
• các lựa chọn chính sách cho khung pháp lý tương lai của EU về AI, tập trung mạnh vào các ứng dụng có rủi ro cao.

Vào tháng 2020 năm 14, Ủy ban đã đưa ra một cuộc tham vấn cộng đồng về Sách trắng kéo dài đến ngày 1 tháng 200 và đã thu hút hơn 700 câu trả lời cho các câu hỏi và khoảng XNUMX bài nộp bằng văn bản. Ủy ban hiện đang xử lý đầu vào đó và sẽ sớm công bố một báo cáo.

Định hình tương lai kỹ thuật số của châu Âu phác thảo các hành động mà Ủy ban châu Âu có kế hoạch thực hiện để đảm bảo một châu Âu phù hợp với thời đại kỹ thuật số, một trong những ưu tiên hàng đầu của Ursula von der Leyen trong thời gian bà làm chủ tịch điều hành châu Âu. Nó dựa trên ba trụ cột chính:

• Công nghệ làm việc cho người dân;
• một nền kinh tế kỹ thuật số công bằng và cạnh tranh, và;
• một xã hội cởi mở, dân chủ và bền vững.

EESC đã cung cấp lời khuyên về "Định hình tương lai kỹ thuật số của Châu Âu" trong a, cũng được thông qua tại hội nghị toàn thể tháng XNUMX của EESC, với một khuyến nghị chính:

"Tốc độ tuyệt đối của quá trình chuyển đổi kỹ thuật số có nghĩa là chúng ta không biết những phát triển mới nào sẽ đến trong tháng tới. Do đó, chúng ta phải linh hoạt và thích ứng. Điều này đòi hỏi đối thoại liên tục giữa tất cả các bên liên quan. EESC, như tiếng nói của tổ chức dân sự báo cáo viên Ulrich Samm cho biết xã hội nên là một phần của nó, và chúng tôi yêu cầu Ủy ban thiết lập một cuộc đối thoại thường trực như vậy.

Chia sẻ bài viết này: