Theo Forbes, đầu năm 2020, quản lý một ngân hàng ở UAE nhận được cuộc gọi từ một giám đốc công ty khác. Vị giám đốc này thông báo sắp thực hiện thương vụ mua lại nên cần ngân hàng ủy quyền chuyển khoản 35 triệu USD. Sau đó, quản lý ngân hàng trao đổi email với vị giám đốc nọ và một luật sư tên Martin Zelner vừa được thuê để điều phối các thủ tục, xác nhận số tiền sẽ được chuyển đến đâu.

Tin rằng mọi thứ đều hợp pháp, quản lý ngân hàng bắt đầu thực hiện giao dịch chuyển tiền.

Tội phạm dùng deepfake để thực hiện các phi vụ lừa đảo

Cứ thế, ông vô tình trở thành nạn nhân của một kế hoạch lừa đảo tinh vi. Theo tài liệu tòa án mà Forbes thu thập được gần đây, kẻ xấu đã sử dụng công nghệ "deep voice" (hay nói cách khác là deepfake - một kỹ thuật tạo ra hình ảnh, âm thanh, video giả mạo bằng trí tuệ nhân tạo) để lừa nạn nhân. Hiện UAE phải nhờ đến những nhà điều tra Mỹ để truy tìm 400.000 USD được chuyển đến các tài khoản của ngân hàng Centennial tại Mỹ. Cảnh sát UAE tin rằng có ít nhất 17 người tham gia vào kế hoạch này, sau đó chúng chia nhỏ số tiền gửi vào các tài khoản khác.

Trước vụ án của UAE, từng có trường hợp kẻ xấu sử dụng công cụ giả mạo giọng nói để thực hiện vụ trộm ở Anh. Đó là vào năm 2019, chúng mạo danh CEO của một công ty năng lượng với mục đích đánh cắp 240.000 USD nhưng bất thành, theo Wall Street Journal.

"Tội phạm đang chuyển sang tận dụng những công nghệ mới nhất để thao túng những người không có kiến thức về deepfake, thậm chí không biết gì về sự tồn tại của chúng", Jake Moore - một cựu cảnh sát từng làm việc tại Sở Cảnh sát Dorsei (Anh) nhận định. Người này đang là chuyên gia an ninh mạng tại công ty bảo mật ESET.

Jake Moore cho rằng việc chỉnh sửa âm thanh dễ hơn tạo video deepfake, nếu không có nhận thức về phương pháp tấn công mới này, nhiều doanh nghiệp sẽ dễ trở thành nạn nhân của bọn tội phạm.

Giả mạo giọng nói từng là một công nghệ tưởng chừng chỉ có trong phim giả tưởng nhưng giờ đây đã phổ biến rộng rãi. Nhiều công ty khởi nghiệp như Aflorithmic (Anh), Respeecher (Ukraine), Resemble.AI (Canada) đang tạo ra giọng nói AI ngày càng chân thật. Trong khi đó, nhận ra mặt trái của giọng nói AI, một số công ty như Pindrop công bố dịch vụ phát hiện giọng nói giả mạo.

Cách nay không lâu, nhà sản xuất bộ phim tài liệu về cố đầu bếp Anthony Bourdain cũng tiết lộ họ đã sử dụng công nghệ tổng hợp giọng nói để tái tạo giọng của người đã khuất.