Rủi ro từ “nền kinh tế ý định”

Nền kinh tế ý định tập trung vào việc tiếp cận dự định của người mua, từ đó sản xuất hàng hóa đáp ứng nhu cầu cụ thể của họ. Nghiên cứu lập luận rằng với những tín hiệu số từ ý định của người dùng, trong tương lai gần, thị trường có khả năng sinh lời này có thể ảnh hưởng đến mọi thứ, từ việc mua vé xem phim đến bỏ phiếu cho các ứng viên chính trị.

Việc con người ngày càng quen thuộc với các chatbot, gia sư kỹ thuật số và các trợ lý AI khác đang củng cố “công nghệ thuyết phục” mới này. AI sẽ kết hợp thông tin về thói quen trực tuyến của người dùng với khả năng hiểu và dự đoán mong muốn của họ, từ đó xây dựng mức độ tin cậy và hiểu biết mới.

Tuy nhiên, nếu không được kiểm soát, điều đó có thể sẽ dẫn đến tình trạng thao túng xã hội ở quy mô công nghiệp. Trong nền kinh tế ý định, AI sẽ lập hồ sơ về mối quan tâm và phong cách giao tiếp của người dùng, kết nối họ với các mô hình hành vi và lựa chọn phù hợp.

Theo tác giả nghiên cứu Yaqub Chaudhary, các công cụ AI đã được phát triển để lấy thông tin, suy luận, thu thập, ghi lại, hiểu, dự báo, cuối cùng là thao túng, biến các kế hoạch và mục đích của con người thành hàng hóa. Cũng theo nghiên cứu, AI mới sẽ dựa vào mô hình ngôn ngữ lớn (LLM) để nhắm mục tiêu vào giọng điệu, quan điểm chính trị, vốn từ vựng, độ tuổi, giới tính, lịch sử trực tuyến và thậm chí là sở thích được khen của người dùng.

Những thông tin này sẽ được liên kết với các công nghệ AI mới nổi nhằm đạt được mục tiêu nhất định, chẳng hạn như bán vé xem phim hoặc chuyển hướng những cuộc trò chuyện đến các nền tảng, nhà quảng cáo, doanh nghiệp, các tổ chức chính trị cụ thể.

Đồng tác giả Jonnie Penn cảnh báo, nếu không được quản lý, nền kinh tế mới sẽ coi ý định của người mua là công cụ kiếm lời. Đây sẽ là “cơn sốt vàng” đối với những người nhắm mục tiêu thao túng và mua bán ý định của người khác.

Do đó, nhà nghiên cứu Jonnie Penn nêu bật tầm quan trọng của việc bắt đầu xem xét tác động tiềm tàng của một thị trường như vậy đối với nguyện vọng của con người, bao gồm các cuộc bầu cử tự do và công bằng, cạnh tranh thị trường công bằng, trước khi con người trở thành nạn nhân của những hậu quả không mong muốn. Ông lưu ý rằng nhận thức của công chúng về vấn đề này là chìa khóa để đảm bảo chúng ta không đi sai đường.