Người mẫu phát hiện hình ảnh của họ bị sử dụng trong video tuyên truyền AI
18/10/24
Công nghệ của Synthesia, công ty ở London, bị sử dụng để tạo ra video deepfake cho chế độ độc tài.
Một người đàn ông trẻ mặc áo sơ mi xanh nói tiếng Anh giọng Mỹ xuất hiện trong video ủng hộ nhà lãnh đạo quân sự của Burkina Faso. Video lan truyền vào đầu năm 2023, chỉ vài tháng sau khi nhà độc tài lên nắm quyền qua cuộc đảo chính.
Video khác với người khác cũng lặp lại cùng một kịch bản, xuất hiện cùng thời điểm, tất cả đều được tạo ra bằng công nghệ AI từ Synthesia.
Người mẫu trong video không biết gì về việc hình ảnh của họ bị sử dụng. Synthesia cấm tài khoản tạo ra video này và tăng cường kiểm tra nội dung. Tuy nhiên, người mẫu vẫn không được thông báo cho đến khi họ được tờ Guardian liên hệ.
Công ty trở thành "kỳ lân" (công ty trị giá trên 1 tỷ đô la) nhờ công nghệ tạo avatar kỹ thuật số, nhưng lại bị lợi dụng để tạo video tuyên truyền và gây hiểu lầm. Video gây ảnh hưởng tiêu cực đến tâm lý và sự nghiệp của những người mẫu có hình ảnh bị sử dụng mà không biết.
shared via manisha ganguly,