Một nhân viên tài chính tại công ty kỹ thuật toàn cầu Arup đã chuyển gần 25 triệu đô la sau khi tham gia một cuộc họp video có vẻ hợp pháp với giám đốc tài chính của công ty và các đồng nghiệp, chỉ để phát hiện sau đó rằng hầu hết các người tham gia đều đã được tạo ra bằng AI. Vụ việc thành công vì kẻ tấn công đã vượt qua các kiểm soát kỹ thuật bằng cách khai thác lòng tin của con người thông qua giọng nói và khuôn mặt tổng hợp thuyết phục trong cuộc gọi video. Theo một hướng dẫn mới do Resemble AI công bố, vụ việc này đã trở thành ví dụ tiêu biểu về cách deepfake đã tiến hóa từ các màn trình diễn riêng lẻ thành một rủi ro an ninh chính thống ảnh hưởng đến doanh nghiệp, tổ chức tài chính và cơ quan chính phủ, với các nghiên cứu từ Gartner, FBI và Diễn đàn Kinh tế Thế giới phác họa bối cảnh mối đe dọa ngày càng gia tăng.
Nhân viên Arup ủy quyền chuyển 25 triệu đô la trong cuộc họp video do AI tạo ra
Vụ việc của Arup đã trở thành nghiên cứu điển hình của ngành về gian lận deepfake AI. Một nhân viên tài chính ban đầu nghi ngờ email lừa đảo yêu cầu thực hiện giao dịch bí mật. Thay vì hành động ngay lập tức, nhân viên này đã tham gia một cuộc họp video có vẻ như với giám đốc tài chính của công ty và một số đồng nghiệp. Mọi người trông chân thực và nghe có vẻ chân thực, và cuộc họp dường như hoàn toàn hợp lệ. Theo hướng dẫn trong cuộc gọi, nhân viên đã ủy quyền nhiều chuyển khoản qua ngân hàng tổng cộng khoảng 25 triệu đô la. Chỉ sau đó, các nhà điều tra mới xác định rằng hầu hết các người tham gia trong cuộc gọi đều đã được tạo ra bằng AI. Cuộc tấn công thành công vì nó đã vượt qua các kiểm soát kỹ thuật mà các tổ chức đã dành nhiều thập kỷ để cải thiện, không có phần mềm độc hại, điểm cuối bị xâm phạm hay tệp đính kèm độc hại. Nhân viên đã nhận diện chính xác email đáng ngờ, nhưng phán đoán đó bị vượt qua bởi sự xác nhận rõ ràng từ các khuôn mặt và giọng nói quen thuộc trong cuộc họp video.
Gartner báo cáo 62% tổ chức gặp phải các cuộc tấn công deepfake
Theo nghiên cứu của Gartner trích trong báo cáo của Resemble AI, 62% tổ chức đã trải qua một cuộc tấn công deepfake trong 12 tháng trước đó. Gần bảy trên mười cuộc tấn công nhắm vào hệ thống video, trong khi 67% nhắm vào các liên lạc dựa trên giọng nói. Báo cáo của Trung tâm Khiếu nại Tội phạm Mạng Internet FBI năm 2025 ước tính các trò lừa đảo dựa trên AI đã gây thiệt hại khoảng 893 triệu đô la đã báo cáo. Các nhà nghiên cứu cũng ước tính rằng trong năm 2025, có khoảng tám triệu tác phẩm truyền thông tổng hợp đang lưu hành trực tuyến, thể hiện sự bùng nổ so với vài năm trước đó. Mặc dù các ước tính khác nhau tùy theo phương pháp, tất cả các nghiên cứu lớn đều chỉ ra xu hướng chung: lừa đảo do AI tạo ra đang mở rộng với tốc độ mà các kiểm soát an ninh hiện tại chưa từng được thiết kế để xử lý. Đối với các tổ chức tài chính, các tác động vượt xa thông tin sai lệch trên mạng xã hội, vì mọi quy trình dựa trên nhận diện giọng nói, xác minh video hoặc tin tưởng vào danh tính kỹ thuật số đều trở thành các bề mặt tấn công tiềm năng.
Công nghệ sao chép giọng nói chỉ cần vài giây âm thanh
Báo cáo của Resemble AI cho rằng các tổ chức nên xem deepfake không chỉ là các sự kiện an ninh mạng riêng lẻ mà còn như một vấn đề về danh tính. Công nghệ sao chép giọng nói hiện chỉ cần vài giây âm thanh công khai để tạo ra các bản sao thuyết phục. Các bài thuyết trình hội nghị, cuộc gọi tài chính, podcast và phỏng vấn trở thành tài liệu huấn luyện cho kẻ tấn công muốn mạo danh các lãnh đạo. Việc tạo video cũng đã có những cải tiến tương tự, với những gì từng yêu cầu hiệu ứng hình ảnh đắt tiền giờ đây có thể được tạo ra bằng các công cụ AI tiêu dùng có khả năng tạo ra các biểu cảm khuôn mặt thuyết phục, lời nói đồng bộ và cuộc gọi video chân thực. Gartner đã dự đoán rằng đến năm 2026, 30% doanh nghiệp sẽ không còn coi việc xác minh danh tính dựa trên chính nó là đáng tin cậy nữa vì deepfake do AI tạo ra, dự báo này ngày càng trở nên phù hợp khi các cuộc tấn công ngày càng tinh vi hơn.
Dịch vụ tài chính đối mặt với mạo danh lãnh đạo và lừa đảo đầu tư
Mặc dù các cuộc tấn công deepfake ảnh hưởng đến nhiều ngành, dịch vụ tài chính đối mặt với rủi ro đặc biệt vì nhiều quyết định giá trị cao dựa vào các liên lạc tin cậy. Phê duyệt thanh toán, khôi phục tài khoản, onboarding từ xa, tư vấn quản lý tài sản và hỗ trợ khách hàng ngày càng diễn ra qua các kênh kỹ thuật số, nơi danh tính thường được xác lập qua hình ảnh hoặc nhận diện giọng nói. Hướng dẫn này xác định một số mẫu tấn công lặp lại đã ảnh hưởng đến các tổ chức. Mạo danh lãnh đạo vẫn là loại có giá trị cao nhất, sử dụng các lãnh đạo sao chép để ủy quyền các khoản thanh toán gian lận. Các vụ lừa đảo đầu tư tiếp tục sử dụng video do AI tạo ra của các chính trị gia, người nổi tiếng và nhân vật tài chính để quảng bá các nền tảng giao dịch hoặc tiền điện tử giả mạo. Gian lận tuyển dụng cũng nổi lên như một mối quan tâm ngày càng tăng, với danh tính tổng hợp và ứng viên do AI tạo ra cố gắng thâm nhập vào tổ chức để truy cập hệ thống hoặc thông tin nhạy cảm. Gian lận tiêu dùng tiếp tục phát triển qua các giọng nói do AI tạo ra bắt chước các thành viên gia đình trong các vụ bắt cóc ảo hoặc tấn công mạo danh dịch vụ khách hàng.
Các công cụ an ninh truyền thống không phát hiện được các cuộc tấn công dựa trên cảm nhận
Báo cáo cho rằng phần lớn các khoản đầu tư an ninh mạng tập trung vào phát hiện phần mềm độc hại, email đáng ngờ hoặc thiết bị bị xâm phạm, nhưng deepfake hoạt động khác biệt bằng cách tấn công cảm nhận chứ không phải mạng lưới. Khi một nhân viên hợp lệ ủy quyền thanh toán qua laptop tin cậy trong một cuộc họp video bình thường, các kiểm soát an ninh truyền thống thường không phát hiện điều gì bất thường. Không có tệp đính kèm độc hại để cách ly và không có thiết bị bị xâm phạm, chỉ có một con người đưa ra quyết định kinh doanh hợp pháp dựa trên bằng chứng hình ảnh và âm thanh giả mạo. Sự khác biệt này giải thích tại sao các doanh nghiệp ngày càng xem phát hiện deepfake như một lĩnh vực an ninh riêng biệt thay vì mở rộng các công nghệ chống lừa đảo hiện có.
Hướng dẫn của Resemble AI đề xuất chiến lược phòng thủ bốn lớp
Thay vì dựa vào một giải pháp duy nhất, báo cáo đề xuất một phương pháp nhiều lớp kết hợp bốn khả năng bổ sung. Lớp đầu tập trung vào xác minh danh tính qua phát hiện sống động và xác thực liên tục. Lớp thứ hai thiết lập nguồn gốc nội dung bằng các công nghệ như Content Credentials và watermark kỹ thuật số để xác minh nơi nội dung bắt nguồn. Lớp thứ ba sử dụng hệ thống phát hiện AI có khả năng phân tích âm thanh, video và hình ảnh để tìm ra các dấu hiệu của tổng hợp, đồng thời cung cấp kết quả có thể giải thích để các nhóm an ninh điều tra. Lớp cuối mở rộng ra ngoài việc phát hiện để theo dõi liên tục, giúp tổ chức phát hiện mạo danh lãnh đạo, sử dụng thương hiệu giả mạo và các deepfake khác đang lưu hành công khai trước khi chúng gây ảnh hưởng. Theo báo cáo, không một lớp nào có thể loại bỏ hoàn toàn mối đe dọa, và các tổ chức nên giả định rằng kẻ tấn công cuối cùng cũng sẽ vượt qua các kiểm soát riêng lẻ và thiết kế các chương trình an ninh phù hợp.
