Công nghệ tạo giọng nói AI của ElevenLabs “rất có thể” được sử dụng trong một chiến dịch tác động của Nga
AI tạo giọng nói, đặc biệt là công nghệ của ElevenLabs bị lạm dụng trong một chiến dịch tác động của Nga nhằm làm suy yếu sự ủng hộ của châu Âu đối với Ukraine. Chiến dịch này có tên “Operation Undercut”, sử dụng các video tin tức giả mạo với giọng nói AI tạo ra để công kích các chính trị gia Ukraine và làm suy yếu viện trợ quân sự cho quốc gia này. Báo cáo từ Recorded Future cho biết, các đoạn video này sử dụng giọng nói AI trong nhiều ngôn ngữ châu Âu như tiếng Anh, Đức, Pháp và Ba Lan, không có âm điệu nước ngoài, khiến chúng hợp pháp hơn.
Để xác minh, các nhà nghiên cứu sử dụng công cụ AI Speech Classifier của ElevenLabs và phát hiện các đoạn âm thanh này rất có thể được tạo ra bằng công nghệ của ElevenLabs. Điều này cho thấy công nghệ giọng nói AI có thể được sử dụng trong các chiến dịch thông tin sai lệch quy mô lớn, giúp phát hành nội dung một cách nhanh chóng và hiệu quả bằng nhiều ngôn ngữ. Hơn nữa, các video giả mạo cũng cho thấy sự khác biệt rõ rệt giữa giọng nói AI và giọng nói thật, khi những video có giọng thật lại có thể nhận ra âm điệu Nga.
Bên cạnh đó, đây không phải lần đầu tiên ElevenLabs bị chỉ trích vì bị lạm dụng công nghệ của mình. Trước đó, công ty cũng liên quan đến một vụ việc giả mạo Tổng thống Joe Biden trong cuộc bầu cử sơ bộ tại Mỹ vào tháng 1/2024. ElevenLabs đưa ra các biện pháp bảo mật mới để ngăn chặn những hành vi gian lận như vậy, đồng thời khẳng định họ cấm mọi hình thức mô phỏng không được phép và gây hại.
shared via techcrunch,
