Những công ty lớn nhất tham gia cuộc đua phát triển AI hiện sử dụng lượng dữ liệu khổng lồ từ internet để huấn luyện các thuật toán, hay còn gọi là những mô hình ngôn ngữ lớn (LLM). UNESCO đã kiểm tra thuật toán Llama 2 của Meta và GPT-2, GPT-3,5 của OpenAI được dùng trong ứng dụng trò chuyện nổi tiếng ChatGPT. Kết quả kiểm tra chỉ ra mỗi thuật toán này đều cho thấy những bằng chứng rõ ràng về định kiến đối với nữ giới.
Kết quả cho thấy, trong văn bản liên quan tên nữ giới mà các công cụ này tạo ra thường có những từ ngữ như “nhà cửa”, “gia đình” hoặc “con cái”, trong khi văn bản liên quan tên nam giới thường có những từ “kinh doanh”, “lương” hoặc “nghề nghiệp”; nam giới thường được mô tả với những công việc như giáo viên, luật sư, bác sĩ; còn nữ giới thường được gắn với những công việc như nấu ăn, nội trợ….
