Các kẻ gian ác thường tận dụng công nghệ giọng nói AI để lừa đảo và chiếm đoạt tiền của nạn nhân, bằng cách giả danh là thành viên trong gia đình của họ. Theo một khảo sát, tới 25% số người được hỏi từng bị lừa đảo hoặc nghe về các trường hợp tương tự sử dụng nhân bản giọng nói AI. Trong số đó, 70% khẳng định không tự tin phân biệt được giọng nói của con người thật và giọng nói được tạo ra bởi AI.
Kể từ tháng ba năm nay, chính quyền Mỹ đã cảnh báo về tình trạng lừa đảo ông bà đang được gia tăng, đặc biệt là các đối tượng giả danh người cháu đang gặp khó khăn và cần tiền gấp. Một trong những chiêu lừa được phát hiện là lừa đảo bằng cách quảng cáo một buổi ăn tối với siêu sao bóng đá Lionel Messi với giá 42.000 USD tại Trung Quốc.