Ở cấp độ thấp nhất, các công cụ AI tạo sinh, chẳng hạn các công cụ trò chuyện (chatbot) có thể tạo ra thư điện tử hoặc tài liệu có tính thuyết phục và những tài liệu này lại được dùng trong lừa đảo trực tuyến. Ở cấp độ cao hơn, tin tặc có thể tận dụng tiềm năng của AI để tấn công mạng nhằm vào các hệ thống cơ quan, tổ chức và cá nhân.
Sự phát triển mạnh mẽ của các mô hình ngôn ngữ lớn, chẳng hạn như ChatGPT của OpenAI, nhờ thuật toán và dữ liệu đầu vào khổng lồ, có thể tạo văn bản và thực hiện các tác vụ xử lý ngôn ngữ khác nhau giống như con người tạo ra. Các cơ quan chức năng của Anh, Mỹ và Canada cho biết đã ghi nhận các trường hợp tin tặc lợi dụng công nghệ AI mới nói trên.
