Không chỉ Carballo, hiện nay, rất nhiều người xin việc cũng rơi vào cảnh ngộ tương tự mà nguyên nhân chủ yếu là do nhà tuyển dụng dùng thuật toán, các hệ thống có công nghệ trí tuệ nhân tạo (AI), để tự động sàng lọc ứng viên.
Công cụ hỗ trợ tuyển dụng có yếu tố AI ngày càng phổ biến nhờ tốc độ xử lý hồ sơ nhanh và chi phí thấp, đặc biệt phát triển trong giai đoạn đại dịch Covid-19.
Theo nhà khoa học máy tính Manish Raghavan thuộc Đại học Cornell (Mỹ), việc sử dụng hệ thống AI sẽ giúp tránh được những tình huống thiên vị xuất phát từ cảm tính của người tuyển dụng với ứng viên, không bị chi phối bởi giới tính hay màu da của các ứng viên. Thế nhưng, cách mà hệ thống này tự động sàng lọc ứng viên qua các chương trình nhận diện khuôn mặt, đánh giá biểu cảm ứng viên trong phỏng vấn video, hay các nền tảng sàng lọc hồ sơ để lựa chọn những ứng viên phù hợp với mô tả công việc… lại mang nhiều cảm tính, theo nhiều cách khác.
Trên thực tế, các ứng dụng tuyển dụng không hoàn toàn khách quan và rất khó phát hiện yếu tố thiên vị. Ví dụ, các hệ thống xử lý ngôn ngữ tự động thường được “cài” những tên gọi của nhóm người chiếm đa số trong một xã hội, dẫn tới nguy cơ thiệt thòi cho những người đến từ nhóm thiểu số, với những tên gọi hiếm, như trường hợp của Carballo, một cái tên Latinh ít gặp. Tên gọi này có nguy cơ bị loại cao khi các hệ thống máy chưa được cung cấp dữ liệu đầu vào.
Ngoài ra, quy trình nhận diện khuôn mặt của hệ thống đều tự động loại bỏ tất cả những người có nhận diện khuôn mặt thuộc nhóm thiểu số. Thêm nữa, các ứng viên gần như không có cơ hội để thể hiện trực tiếp với nhà tuyển dụng khi hồ sơ bị loại. Họ không thể hiểu rõ hồ sơ của họ vì sao không đáp ứng và luôn thắc mắc rằng liệu họ có bị phân biệt đối xử. Năm 2017, tập đoàn thương mại điện tử hàng đầu thế giới Amazon đã phải dỡ bỏ hệ thống sàng lọc hồ sơ tuyển dụng có sự hỗ trợ của công nghệ AI sau một thời gian đưa vào sử dụng, vì phát hiện lỗi phân biệt đối xử với nữ giới.
Không thể phủ nhận số hóa đã có những bước đi đầu tiên trong lĩnh vực trí tuệ nhân tạo và nó đang mang lại một tương lai đầy hứa hẹn cho việc tuyển dụng hiệu quả. Tuy nhiên, nguy cơ phân biệt đối xử cũng là điều gây nhiều tranh cãi nhất, khi các nghị sĩ thảo luận về điều luật để quản lý sử dụng công nghệ AI trong các lĩnh vực, đặc biệt là trong quản trị nhân lực.
Trên thực tế, các nhà quản lý của Liên minh châu Âu đã nhiều lần thảo luận về vấn đề này và chuẩn bị đưa ra quy định về sử dụng AI trong tuyển dụng. Trong khi chờ AI có thể hoạt động như một nhà tuyển dụng độc lập trong tương lai, các nghị sĩ Mỹ đã cân nhắc điều luật liên bang để loại bỏ nguy cơ thiên vị khi dùng các thuật toán trong lĩnh vực này.
