Những kẻ lừa đảo thích tạo ra những tên giả “vui nhộn”, vì vậy các trang web cố gắng lọc các từ nhất định cho các tài khoản mới. Điều gì sẽ xảy ra nếu tên thật của bạn chứa một trong những từ đó?
Natalie Weiner, một nhà văn của SB Nation, gần đây đã bị lọc bởi một hệ thống như vậy.
Đây chắc chắn là điều tuyệt vời nhất từng xảy ra với tôi pic.twitter.com/rnVkmhB2dy
– Natalie Weiner (@natalieweiner) 28 tháng 8, 2018
Các câu trả lời cho thấy một vấn đề rất thực tế. Đây là Daniel Oberhaus, viết cho Bo mạch chủ:
Ngay sau đó, những lời đề cập của Weiner đã nhận được hàng trăm bình luận từ những người đồng cảm với hoàn cảnh của cô. Kyle Medick nói: “Tôi nhận được rất nhiều điều này, thật đáng ngạc nhiên. James Butts “biết những vấn đề này” và Matt Cummings đã “ở đó”. Arun Dikshit cho biết thiên vị thuật toán đã gần như trở thành chuyện thường ngày. Clark Aycock cho biết: “Tại một trong những công việc của tôi, CNTT đã phải tạo ra một quy tắc trên máy chủ email để ngăn email của tôi bị từ chối là thư rác khiêu dâm.
Các trang web này chỉ đang cố gắng ngăn một số từ trong tên giả trở nên phổ biến trên trang web, nhưng các biện pháp tự động cuối cùng lại khiến cuộc sống của những người vô tội trở nên khó khăn hơn. Đó là một vấn đề.
Oberhaus vạch ra rằng điều này không phải là mới: hồi năm 1996, một bộ lọc AOL đã cấm toàn bộ thành phố Scunthorpe của Vương quốc Anh đăng ký tài khoản vì có một từ gồm bốn chữ cái được nhúng. Hơn 20 năm sau, với rất nhiều tiến bộ trong AI, vấn đề tương tự vẫn tồn tại.
Điều này khiến mọi người phải bực bội. Họ của tôi, Pot, đã gây ra những trò đùa từ những người xa lạ trong suốt cuộc đời tôi. Điều này đủ gây khó chịu, vì vậy tôi chỉ có thể tưởng tượng nó sẽ tồi tệ như thế nào khi máy móc thêm vào nó bằng cách từ chối chấp nhận tên thật của bạn.