Chiến lược #AI thông minh có thể thuyết phục EU rằng kiểm duyệt nội dung #Facebook có thể bị bóp nghẹt không?

Vào ngày 17 tháng XNUMX, trong cuộc gặp với các nhà hoạch định chính sách châu Âu tại Brussels, Giám đốc điều hành Facebook Mark Zuckerberg (Ảnh) đã phát hành sách trắng nêu rõ chiến lược xử lý nội dung có hại trên các nền tảng truyền thông xã hội. Để đáp lại mong muốn của Liên minh Châu Âu trong việc tăng cường giám sát lĩnh vực công nghệ, tỷ phú này đã đưa ra quan điểm rằng ngành này nên được quản lý ở cấp độ toàn cầu, thay vì ở cấp độ địa phương.

Ông cũng lập luận rằng nên hạn chế trách nhiệm giải trình của các công ty công nghệ đối với nội dung có hại trên nền tảng của họ - miễn là họ có hệ thống kiểm duyệt nội dung hiệu quả. Tuy nhiên, đề xuất của Zuckerberg đã nhận được sự đón nhận khá lạnh lùng ở Brussels. Ngay cả sau khi gặp Zuckerberg, EU vẫn khẳng định rằng đề xuất kiểm duyệt nội dung mới của Facebook đã thiếu sót trên nhiều mặt, đặc biệt là không vạch ra các bước cụ thể mà nền tảng này sẽ thực hiện để chống lại nội dung bất hợp pháp trực tuyến. "Như thế chưa đủ. Nó quá chậm, quá thấp về mặt trách nhiệm và quy định,” ủy viên chiến lược dữ liệu Thierry Breton phát biểu sau cuộc gặp với giám đốc điều hành hàng đầu của Facebook.

Hệ thống hiện tại của Facebook đang thiếu sót ở đâu?

Những gã khổng lồ công nghệ có một cơ hội khá hẹp để thuyết phục các nhà hoạch định chính sách châu Âu rằng nỗ lực của chính họ nhằm hạn chế nội dung có vấn đề là đủ. Đạo luật Dịch vụ Kỹ thuật số của Ủy ban, bản sửa đổi được chờ đợi từ lâu của chỉ thị thương mại điện tử 20 năm tuổi của EU, dự kiến ​​sẽ được triển khai vào cuối năm nay. Như Breton đã lưu ý, “nếu chúng tôi thấy rằng [quy trình kiểm duyệt nội dung của chính Facebook] không phải là điều chúng tôi cần liên quan đến các tiêu chuẩn của riêng mình, thì chúng tôi sẽ phải điều chỉnh và đưa điều này vào [Đạo luật dịch vụ kỹ thuật số] của mình”.

Facebook xác định rằng họ có thể tự giải quyết vấn đề kiểm duyệt nội dung—bằng cách sử dụng những tiến bộ trong Trí tuệ nhân tạo (AI) và học máy để thúc đẩy hệ thống hiện tại của mình. Nhiệm vụ khó khăn trong việc xác định và loại bỏ tài liệu có vấn đề hiện được giao cho các chuyên gia bên thứ ba, những người sử dụng quyền quyết định của mình để xác định lý do tại sao một hình ảnh hoặc video bị phản đối.

Sự phụ thuộc vào sự giám sát của con người như vậy là vấn đề do tính chất khủng khiếp của một số người kiểm duyệt nội dung buộc phải sàng lọc — thực tế là các nhân viên kiểm duyệt nội dung cho Facebook ở Lisbon, Dublin và Warsaw đã chứng thực rằng công việc của họ đã khiến họ bị PTSD chắc chắn sẽ giương cao cờ đỏ trong các tổ chức châu Âu. Ngoài ra, tính hiệu quả trong việc kiểm duyệt của con người đã bị đặt dấu hỏi sau khi Facebook liên tục thất bại trong việc xóa nhanh các nội dung có hại, chẳng hạn như buổi phát trực tiếp năm 2019 về vụ tấn công nhà thờ Hồi giáo ở Christchurch.

AI có thể khắc phục một số điểm mù của Facebook

quảng cáo

Trí tuệ nhân tạo có khả năng làm giảm đáng kể sự phụ thuộc vào sự điều tiết của con người. Các thuật toán được đào tạo bằng máy học có thể hỗ trợ người kiểm duyệt bằng cách không chỉ giảm mức độ tiếp xúc với nội dung trực tuyến có hại mà còn bằng cách tăng năng suất và độ chính xác của họ. Facebook tuyên bố cho đến nay đã đạt được kết quả đầy hứa hẹn trong các thử nghiệm của mình với AI—theo nền tảng này, trong nửa cuối năm 2019, nền tảng này đã gắn cờ 99.8% nội dung đồ họa và 99.5% nội dung khỏa thân và bóc lột trẻ em ngay cả trước khi người dùng ra hiệu cho chúng. . Tất nhiên, công nghệ vẫn cần được hoàn thiện – chẳng hạn như các thuật toán kiểm duyệt nội dung dựa trên AI vẫn đặc biệt gặp khó khăn trong việc nhận ra các sắc thái của ngôn từ kích động thù địch – một vấn đề mà Liên minh Châu Âu đặc biệt quan tâm.

Hơn nữa, Liên minh châu Âu cảnh giác khi cho phép Facebook tự do khai thác một công nghệ nhạy cảm như AI. Những mối lo ngại này chủ yếu xuất phát từ thành tích kém cỏi của Facebook trong việc đáp ứng các tiêu chuẩn minh bạch của Châu Âu — làm dấy lên mối lo ngại rằng công ty có thể phát triển 'thuật toán hộp đen' ngăn chặn hoạt động kiểm tra của bên thứ ba hoặc chính phủ trên nền tảng này.

Trọng tâm của chính sách kỹ thuật số—được Margrethe Vestager, giám đốc cạnh tranh và giám đốc kỹ thuật số của EU công bố vào tuần trước—là quy định cách các công ty sử dụng trí tuệ nhân tạo. Trong khi EU muốn các chính phủ giám sát các khía cạnh rủi ro hơn của nó, chẳng hạn như việc sử dụng công nghệ nhận dạng khuôn mặt, thì nhiều ứng dụng ở sân sau của Châu Âu đang chứng minh cách sử dụng nó một cách an toàn và hiệu quả. Facebook có thể lấy một gợi ý từ họ?

Các ứng dụng truyền thông xã hội thế hệ tiếp theo tạo dấu ấn bằng cách sử dụng AI một cách sáng tạo

Đặc biệt, một ứng dụng ở Châu Âu đã khai thác trí tuệ nhân tạo một cách sáng tạo để mang đến cho người dùng trẻ trải nghiệm an toàn và thú vị hơn. Yubo, một ứng dụng phát trực tiếp dành cho lứa tuổi 13-25, dựa vào sự cân bằng giữa các thuật toán phức tạp và giáo dục giới trẻ về tác hại trực tuyến để giữ an toàn cho 20 triệu người dùng trên nền tảng này. Một thuật toán được đào tạo cẩn thận sẽ phát hiện nội dung có vấn đề, chẳng hạn như ảnh khỏa thân hoặc ai đó chỉ mặc đồ lót trong luồng trực tiếp—đó là khi hệ thống can thiệp thời gian thực của Yubo khởi động, gửi thông báo cảnh báo tới người dùng giải thích lý do hành vi đó bị phản đối. Nếu người dùng không sửa hành vi của mình, luồng có thể bị tắt từ xa.

Trong khi đó, để đảm bảo rằng ứng dụng này dành riêng cho thanh thiếu niên và thanh niên, Yubo đã hợp tác với nhà cung cấp nhận dạng kỹ thuật số nổi tiếng có trụ sở tại Vương quốc Anh, Yoti, để khớp các tài liệu nhận dạng đã tải lên với ảnh tự chụp của người dùng bằng phần mềm nhận dạng khuôn mặt. Công nghệ của Yoti—cũng đang được triển khai trong các siêu thị để đảm bảo rằng những người dưới 18 tuổi không mua những mặt hàng bị hạn chế như thuốc lá hoặc rượu— có thể được các ứng dụng truyền thông xã hội khác sử dụng để “giới hạn độ tuổi” trong cộng đồng của họ hoặc để đảm bảo rằng người dùng họ nói họ là ai.

Những nỗ lực của Yubo nhằm ngăn chặn nội dung trực tuyến có vấn đề ngay từ đầu—bằng cách kết hợp kiểm duyệt có sự hỗ trợ của máy tính với việc nâng cao nhận thức cho người dùng trẻ về những điều nên và không nên làm của giao thức trực tuyến tốt—đã gây được tiếng vang lớn trong lĩnh vực công nghệ. Họ cũng nên đưa ra một ví dụ đáng khích lệ cho cả những gã khổng lồ công nghệ như Facebook và các cơ quan quản lý như Liên minh Châu Âu rằng các nền tảng truyền thông xã hội có thể đạt được sự cân bằng lành mạnh giữa việc phụ thuộc quá mức vào AI hoặc sự giám sát của con người.

Trí tuệ nhân tạo không phải là liều thuốc chữa bách bệnh cho những thách thức mà các nền tảng truyền thông xã hội phải đối mặt. Tuy nhiên, khi Facebook tìm cách thuyết phục EU rằng họ có thể kiểm duyệt nội dung của chính mình, thì điều này sẽ được thực hiện tốt bằng cách học theo các ứng dụng thế hệ mới đã cố gắng phát triển một chiến lược toàn diện, kết hợp AI, để giữ an toàn cho người dùng của họ. .

Chia sẻ bài viết này: