TQ phát triển thiết bị giúp kiểm duyệt nội dung "người lớn" trên mạng

20/06/2022 13:30

Trung Quốc vừa phát triển một thiết bị có thể phát hiện những nội dung khiêu dâm, nhạy cảm trên mạng và các nền tảng xã hội.

Tờ Bưu điện Hoa Nam (SCMP) dẫn lời một đội nghiên cứu tại Bắc Kinh thực hiện dự án cho biết, thiết bị này có thể “đọc suy nghĩ” phát hiện người đang xem phim "người lớn" và mục đích chính là để hỗ trợ đẩy nhanh tốc độ kiểm duyệt, phát hiện những hình ảnh khiêu dâm, đồi trụy trên mạng xã hội.

Cuộc thử nghiệm thiết bị có sự tham gia của 15 sinh viên đại học từ 20-25 tuổi. Tất cả đều được đeo thiết bị này trên đầu trong khi ngồi trước màn hình máy tính. Mỗi lần có bức ảnh nhạy cảm xuất hiện, thiết bị có thể bắt được tín hiệu sóng não bị tác động bởi những nội dung đó và phát cảnh báo.

Thiết bị này đã được chứng minh là hoàn toàn hiệu quả trong việc phát hiện nội dung xấu – ông Xu Jianjun – Giám đốc trung tâm thử nghiệm kỹ thuật điện tử tại Đại học Giao thông Bắc Kinh chia sẻ trong bài viết đăng trên tạp chí Journal of Electronc Measurement and Instrumentation ngày 13/6.

tq phát triển thiết bị giúp kiểm duyệt nội dung "người lớn" trên mạng

Trung Quốc đã phải xây dựng hẳn một đội kiểm duyệt viên chuyên nghiệp để giám sát video, hình ảnh nhạy cảm được đăng tải trên mạng hoặc trên các nền tảng mạng xã hội.

Tại một số quốc gia như Trung Quốc, hành vi xem phim người lớn là phạm tội. Cơ quan chức năng và các công ty Trung Quốc không chỉ sử dụng trí tuệ nhân tạo để đánh dấu những nội dung nhạy cảm mà còn thành lập đội kiểm duyệt viên chuyên nghiệp để giám sát video, hình ảnh nhạy cảm được đăng tải trên mạng hoặc trên các nền tảng mạng xã hội.

Tuy nhiên, đôi khi AI vẫn mắc lỗi vì còn nhiều hạn chế trong thuật toán còn lực lượng nhân sự lại không thể kiểm duyệt xuể các nội dung trên mạng.

Do đó, thiết bị mới sẽ là sự kết hợp giữa sức mạnh của con người và máy móc để có thể kiểm duyệt chính xác và hiệu quả hơn – ông Xu và đồng nghiệp cho biết.

Dù thời gian gần đây, trí tuệ nhân tạo đã rất phát triển nhưng mắt và não của con người vẫn vượt trội hơn máy móc trong việc phát hiện các nội dung nhạy cảm, đặc biệt là những hình ảnh nằm trên nền phức tạp. Chẳng hạn, các nhà nghiên cứu phát hiện ra, mắt con người có thể phát hiện một bức ảnh khỏa thân ẩn trong một loạt các bức ảnh bình thường chỉ trong nửa giây.

Các nhà phát triển khẳng định, thiết bị mới có thể tự động chấp nhận sóng não của người kiểm duyệt và có thể phát hiện những xung động trong tín hiệu thần kinh do cảm xúc, sự nhận thức và các suy nghĩ khác.

Tuy nhiên, theo các nhà nghiên cứu, công nghệ này còn cần phải phát triển rất nhiều.

Bởi dù nó có thể phát hiện gần như tất cả nội dung khiêu dâm nhưng vẫn còn đôi lần phát tín hiệu sai.

Để đáp ứng được yêu cầu kiểm duyệt và xử phạt tại Trung Quốc, đội ngũ của ông Xu phải bao quát hết tất cả các phần nhạy cảm của một bức ảnh mẫu. Song, họ gặp rất nhiều khó khăn trong quá trình tìm kiếm chất liệu, phục vụ cho quá trình xây dựng thuật toán.

Bên cạnh đó, tất cả những người tham gia thử nghiệm đều là nam, không có nữ nên vẫn còn lỗ hổng về việc liệu giới tính có ảnh hưởng tới hiệu suất của thiết bị này hay không.

Trong bài viết kể trên, các nhà nghiên cứu cho rằng, sẽ cần phải "đào tạo" trí tuệ nhân tạo thêm để có thể nâng cao hiệu suất của thiết bị.

Một nhà nghiên cứu về tương tác học máy tại Đại học Khoa học và Kỹ thuật Trung Quốc ở An Hội chỉ ra công nghệ này có thể kéo theo những vấn đề về đạo đức như xâm phạm quyền riêng tư.

“Hiện chưa có luật để quản lý việc sử dụng các thiết bị như vậy hay để bảo vệ dữ liệu do các thiết bị này thu thập” – một nhà nghiên cứu giấu tên cho biết.

Trang Trần (SCMP)