Các công nghệ trí tuệ nhân tạo (AI) có thể sớm định hình và thao túng việc đưa ra quyết định của con người trong thị trường kỹ thuật số mới có tên gọi “nền kinh tế ý định”. Sự phát triển này, làm dấy lên mối lo ngại những tác động về mặt đạo đức và xã hội của việc biến ý định của con người thành hàng hóa.
Nghiên cứu của Đại học Cambridge (Anh) được công bố gần đây trên Tạp chí khoa học dữ liệu Harvard cho thấy mô hình mới bao gồm công cụ AI dự đoán và định hình ý định của người dùng, từ quyết định mua hàng đến sở thích chính trị cũng như kiếm tiền từ bán dữ liệu đó cho người trả giá cao nhất. “Nền kinh tế ý định” đại diện cho sự thay đổi từ “nền kinh tế chú ý” hiện nay, nơi các nền tảng truyền thông xã hội kiếm tiền từ việc thu hút sự chú ý của người dùng thông qua quảng cáo có mục tiêu. Trong khi đó, mô hình mới sẽ chứng kiến công cụ AI dự báo và tác động ý định của người dùng.
“Nền kinh tế ý định” có thể đánh dấu bước tiến đáng kể, coi động cơ của con người là loại hàng hóa mới, có lợi nhuận cao. Bằng cách tận dụng dữ liệu về hành vi và tâm lý của người dùng, các hệ thống này có thể dự đoán, điều hướng và thậm chí biến ý định của con người thành hàng hóa. Chẳng hạn, trợ lý AI có thể gợi ý các hoạt động dựa trên mong muốn được suy ra, chẳng hạn như đặt vé xem phim sau khi phát hiện ra cảm giác căng thẳng của người dùng.
Nghiên cứu cũng cảnh báo khả năng công nghệ mới này bị sử dụng sai mục đích, với các mô hình AI tự động tạo ra các gợi ý được cá nhân hóa dựa trên các yếu tố như khuynh hướng chính trị, sở thích hoặc hồ sơ tâm lý của người dùng. AI có thể khéo léo thúc đẩy người dùng đưa ra quyết định hoặc nền tảng cụ thể bằng cách khai thác dữ liệu cá nhân thu thập được từ các tương tác hằng ngày. AFP dẫn lời Jonnie Penn, tác giả của nghiên cứu, cảnh báo nếu không có quy định chặt chẽ, công nghệ này có thể dẫn đến sự thao túng lan rộng, ảnh hưởng đến các quy trình dân chủ, quyền tự do báo chí và sự công bằng của thị trường.
GIA NGHI
