Lùm xùm lừa đảo AI ở Trung Quốc
Vụ lừa đảo bằng trí tuệ nhân tạo tại Trung Quốc đã gây chấn động dư luận khi kẻ gian giả danh là người quen nhắn tin, lừa đảo hàng chục triệu NDT từ các nạn nhân tại Khu Phát triển kinh tế An Khánh (tỉnh An Huy) Hành động này đang khiến cho cộng đồng mạng Trung Quốc lo sợ về an ninh thông tin và cảnh giác hơn với các cuộc trò chuyện trực tuyến
Ứng dụng AI hoán đổi khuôn mặt đang ngày càng được sử dụng rộng rãi, tuy nhiên, việc lạm dụng và lợi dụng công nghệ này để phạm tội ngày càng trở nên phổ biến. Có những người sử dụng AI để làm giả video nội dung thô tục hoặc thay đổi khuôn mặt để lừa đảo.
Theo thông tin từ cảnh sát An Huy, gần đây đã xảy ra một vụ lừa đảo "giả danh người quen" tại Khu phát triển kinh tế An Khánh. Sau khi điều tra, cảnh sát phát hiện rằng kẻ lừa đảo đã sử dụng công nghệ AI để tạo video giả mạo người quen trong suốt 9 giây, nhằm đánh lừa nạn nhân và chiếm đoạt tiền của họ.
Theo báo cáo, vào ngày 22/5, ông Hà X. ở An Khánh, An Huy đã nhận được một cuộc gọi video từ một người quen và bị yêu cầu chuyển tiền. Tuy nhiên, chỉ sau 9 giây, người đó đã cúp máy với lý do "đang họp" và yêu cầu ông Hà chuyển tiền qua QQ thay vì WeChat và điện thoại. Vì tin tưởng vào người quen và sự thân thiết của họ, ông Hà đã chuyển tiền mà không suy nghĩ nhiều.
Sau khi phát hiện bị lừa, ông Hà đã ngay lập tức báo cảnh sát. Cảnh sát đặc nhiệm đã phong tỏa tài khoản liên quan và đến Bắc Kinh trong đêm để bắt giữ 3 nghi phạm liên quan đến vụ lừa đảo. Họ cũng đã thu hồi số tiền 1,32 triệu NDT mà ông Hà đã bị lừa. Đáng chú ý, công nghệ AI hiện nay có thể thay thế khuôn mặt trong video.
Trước đó, trên tài khoản WeChat công khai "Ping An Baotou" (Bình an Bao Đầu), Cục Điều tra Tội phạm mạng Viễn thông của Cục Công an thành phố Bao Đầu (Nội Mông) đã thông báo về việc phá vỡ một vụ án gian lận viễn thông sử dụng công nghệ AI để lừa đảo. Ông Quách Y, đại diện pháp nhân của một công ty công nghệ ở Phúc Châu, đã bị lừa 4,3 triệu NDT trong vòng 10 phút.
Vào tháng 4 năm nay, một người bạn thân của Quách đã liên lạc với ông qua video WeChat và yêu cầu ông đặt cọc 4,3 triệu NDT để đấu thầu công trình ở một nơi khác. Người này cũng muốn mượn tài khoản của công ty Quách để chuyển tiền. Quách đã tin tưởng và xác minh người bạn của mình thông qua cuộc gọi video rồi chuyển 4,3 triệu NDT vào tài khoản ngân hàng do "bạn" cung cấp trong vòng 10 phút. Sau đó, ông Quách mới phát hiện ra mình bị lừa khi gọi điện cho người bạn thân.
Công nghệ AI thay đổi khuôn mặt cũng được áp dụng trong các chương trình livestream bán hàng. Trước đây, một số phòng phát sóng trực tiếp thương mại điện tử đã sử dụng công nghệ AI thay đổi khuôn mặt trong các chương trình livestream, thu hút được sự chú ý của dư luận.
Trên một video cho thấy hiệu quả của việc livestream thay đổi khuôn mặt, sau khi người dùng tải mô hình có tên "Thành Long" vào phần mềm liên quan, người đứng trước máy quay có thể trông giống hệt Thành Long với các đặc điểm của ngũ quan được tạo ra trên màn hình livestream.
Trên các kho ứng dụng hiện nay, người dùng có thể dễ dàng tìm thấy nhiều loại phần mềm hoán đổi khuôn mặt AI với chất lượng gần như hoàn hảo. Thậm chí, một nền tảng video ngắn đã tung ra trò chơi "AI thay tùy ý", cho phép người dùng đổi khuôn mặt của mình vào thân những người nổi tiếng và chia sẻ lên mạng xã hội.
Tuy nhiên, trước những thủ đoạn lừa đảo khó lường này, có cách nào để phân biệt khuôn mặt AI giả mạo và thật sự? Các chuyên gia cho biết, những khuôn mặt giả mạo thường có nhiều sai sót trong các đặc điểm kết cấu, như mắt, hàm răng, màu sắc, chi tiết phản chiếu... Bên cạnh đó, chúng cũng có thể không phù hợp với các đặc điểm sinh lý của người bình thường, gây ra sự khác biệt về tần suất chớp mắt, cử động miệng không chân thực và chính xác.
Theo Hiệp hội Internet Trung Quốc, từ đầu năm nay, các công nghệ như ChatGPT và GPT-4 đã trở thành điểm nóng trong lĩnh vực công nghệ thông tin, thu hút sự chú ý và nhiệt tình rộng rãi của công chúng đối với công nghệ AI.
Tuy nhiên, với sự phát triển của công nghệ tổng hợp sâu, các sản phẩm và dịch vụ liên quan đang ngày càng phổ biến và việc sử dụng âm thanh và video giả mạo như “Hoán đổi khuôn mặt AI” và “Thay đổi giọng nói AI” để thực hiện hành vi lừa đảo và phỉ báng cũng không phải là điều hiếm gặp. Điều đáng lưu ý là trong những trường hợp này, các kẻ lừa đảo không chỉ sử dụng công nghệ để bẫy lừa mà còn sắp xếp kế hoạch tinh vi hơn để nhắm đến những mục tiêu dễ bị lừa.
Để đảm bảo sự phát triển đúng đắn của trí tuệ nhân tạo, Trung Quốc đã phát hành "Quy định quản lý tổng hợp sâu dịch vụ thông tin Internet" vào tháng 12 năm trước, điều chỉnh các quy phạm quản lý công nghệ và dữ liệu tổng hợp. Hiệp hội Internet Trung Quốc khuyến khích người dùng internet chịu trách nhiệm đầu tiên về bảo mật thông tin cá nhân của mình, tăng cường nhận thức về bảo vệ thông tin cá nhân và ngăn chặn rò rỉ thông tin. Trong các trường hợp chuyển khoản từ xa hoặc trao đổi vốn, cần xác minh và xác nhận thông qua các phương thức liên lạc bổ sung như gọi lại số điện thoại di động của đối tác. Không nên chuyển tiền chỉ thông qua một kênh liên lạc duy nhất mà không cần xác minh. Nếu bị mất tiền, cần báo cảnh sát ngay lập tức.
