Khi các video do AI tạo ra trở thành vũ khí trong chiến tranh chính trị, chúng ta đang chứng kiến một mặt tối hơn của tiến bộ công nghệ.

Một bộ máy quân sự của một quốc gia Nam Á được cho là đã triển khai truyền thông tổng hợp—bao gồm cả các mối đe dọa bịa đặt và các cuộc tấn công phối hợp—nhắm vào các nhân vật đối lập. Những gì bắt đầu là chiến thuật đe dọa đã biến thành một thứ gì đó mang tính phản địa đàng hơn: tuyên truyền được tạo dựng bằng thuật toán kết hợp với việc đàn áp nội dung có hệ thống.

Các thành viên trong gia đình mô tả sự chuyển biến từ đáng báo động sang lố bịch. Tuy nhiên, điều này đánh dấu một điểm ngoặt quan trọng: các quyền lực tập trung đang biến AI tổng hợp thành vũ khí đồng thời bóp nghẹt tiếng nói bất đồng.

Đối với những người xây dựng hệ thống phi tập trung, kịch bản này nhấn mạnh lý do tại sao cơ sở hạ tầng chống kiểm duyệt lại quan trọng. Khi nhà chức trách kiểm soát cả công cụ tạo dựng câu chuyện lẫn các kênh phân phối, sự thật trở nên dễ bị thao túng.