Google đã nộp đơn kiện chống lại Outsider Enterprise, một mạng lưới tội phạm mạng có trụ sở tại Trung Quốc, bị cáo buộc vận hành một hoạt động lừa đảo qua phishing được hỗ trợ bởi AI nhằm nhắm vào người dùng Android thông qua tin nhắn văn bản và các trang web giả mạo. Công ty cho biết nhóm này đã sử dụng AI Gemini của Google để xây dựng các trang web gian lận giả mạo Google, YouTube và các cơ quan chính phủ, vận hành mô hình phishing-as-a-service thông qua Telegram. Google cho biết mạng lưới này có liên hệ tới 9.000 trang web giả mạo, hơn 1 triệu URL gian lận và 2,5 triệu tin nhắn văn bản được gửi tới người dùng Android, với khoảng 55.000 tin nhắn rác bị gắn cờ trong giai đoạn hai tuần vào tháng Năm. Đây là vụ việc đầu tiên trong đó Google thực hiện hành động pháp lý trực tiếp đối với một nhóm bị cáo buộc sử dụng Gemini như một phần trong quy trình lừa đảo. Vụ kiện cho thấy sự chuyển dịch từ các lo ngại chung về lạm dụng AI sang các hoạt động gian lận được ghi nhận rõ ràng, khi các công cụ AI tạo sinh làm giảm rào cản kỹ thuật cho tội phạm muốn mở rộng quy mô các chiến dịch phishing.
Outsider Enterprise Operated Phishing-as-a-Service via Telegram
Google cho biết nhóm này hoạt động thông qua Telegram và cung cấp các công cụ phishing-as-a-service cho tội phạm mà không cần kỹ năng kỹ thuật nâng cao. Nhóm bị cáo buộc đã cung cấp hướng dẫn sử dụng AI Gemini của Google để tạo các trang web gian lận bắt chước Google, YouTube và các cơ quan chính phủ, bao gồm hệ thống E-ZPass của New York.
Google cho biết nhóm này cung cấp gần 300 mẫu lừa đảo và có liên hệ tới 9.000 trang web giả mạo cùng hơn 1 triệu URL gian lận. Chiến dịch dẫn tới việc gửi hơn 2,5 triệu tin nhắn văn bản tới người dùng Android, trong đó có khoảng 55.000 tin nhắn rác bị gắn cờ trong giai đoạn hai tuần vào tháng Năm.
Các tin nhắn thường cảnh báo người dùng về sự cố tài khoản, vấn đề gói hàng, thanh toán phí cầu đường hoặc các yêu cầu khẩn cấp khác. Nạn nhân nhấp vào các liên kết sẽ được chuyển tới các trang web giả mạo được thiết kế trông có vẻ hợp pháp, nơi kẻ tấn công tìm cách đánh cắp thông tin cá nhân, chi tiết ngân hàng và thông tin thanh toán.
Gemini AI Allegedly Used to Generate Fraudulent Websites at Scale
Việc sử dụng AI tạo sinh được cho là đã thay đổi “kinh tế học” của phishing. Các trang lừa đảo trước đây cần công đoạn thiết kế thủ công giờ có thể được tạo nhanh hơn, điều chỉnh trên nhiều thương hiệu và triển khai qua các mẫu sẵn có. Điều này làm giảm rào cản đối với các đối tượng tội phạm ít kỹ thuật và cho phép các mạng lừa đảo mở rộng chiến dịch trên hàng nghìn URL.
Đối với các công ty công nghệ, vụ việc cũng nêu bật một mâu thuẫn sản phẩm khó khăn. Hệ thống AI được xây dựng để làm theo hướng dẫn và tạo ra đầu ra được “làm bóng” cẩn thận, nhưng chính những năng lực đó lại có thể bị lạm dụng để tạo các trang web giả mạo thuyết phục, tin nhắn dịch vụ khách hàng và trang mạo danh thương hiệu. Các hàng rào kiểm soát mạnh hơn có thể giảm tình trạng lạm dụng, nhưng kẻ tấn công thường tìm cách dùng các lời nhắc gián tiếp, tái sử dụng mẫu hoặc quy trình bên ngoài để vượt qua phát hiện.
Google Coordinates with FBI and Telecom Carriers to Block Malicious Messages
Google cho biết họ đang phối hợp với Cục Tội phạm mạng của FBI trong một cuộc điều tra hình sự song song và cũng đã phối hợp với AT&T, Verizon và T-Mobile để chặn các tin nhắn văn bản độc hại gắn với chiến dịch.
Công ty cũng chỉ ra các biện pháp bảo vệ sản phẩm của chính mình. Google cho biết các công cụ nhắn tin của họ chặn hơn 10 tỷ tin nhắn độc hại mỗi tháng, trong khi tính năng phát hiện lừa đảo trên Android có thể gắn cờ các cuộc gọi và danh bạ đáng ngờ theo thời gian thực. Những biện pháp này có thể đã hạn chế số lượng các lần phishing thành công, dù Google không ước tính số tiền bị đánh cắp thông qua các chiến dịch của Outsider Enterprise.
Thách thức là các điều hành của nhóm vẫn chưa được xác định. Dù cuối cùng có thể thiết lập danh tính, việc thực thi sẽ khó hơn khi các thủ phạm bị cáo buộc nằm ngoài Hoa Kỳ. Google có thể theo đuổi các tên miền gian lận, tài khoản Telegram, hạ tầng lưu trữ và các tài sản liên quan, nhưng hoạt động cốt lõi có thể chuyển sang các thương hiệu mới, tên miền mới hoặc kênh phân phối mới.
“Các tội phạm ngày càng sử dụng AI để làm cho hành vi lừa đảo như thế này trở nên thuyết phục hơn và khó phát hiện hơn,” Brett Leatherman của Cục Tội phạm mạng thuộc FBI cho biết.
Google Backs Federal Legislation Targeting AI-Assisted Scams
Google đang dùng vụ kiện để gia hạn sự ủng hộ đối với các dự luật liên bang nhắm vào các vụ lừa đảo được hỗ trợ bởi AI, thao túng thị trường và nâng cao nhận thức cộng đồng. Công ty đã ủng hộ một số đề xuất lưỡng đảng, bao gồm National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act và Stop SCAMS Against Seniors Act.
Phần lớn dự luật được đề xuất sẽ yêu cầu các cơ quan liên bang phối hợp chặt chẽ hơn về gian lận có hỗ trợ AI, thành lập các lực lượng đặc nhiệm hoặc cải thiện giáo dục công chúng về các hành vi sử dụng AI độc hại. Cách tiếp cận này phản ánh quan điểm ngày càng tăng rằng phòng chống gian lận không thể chỉ dựa vào kiểm duyệt nền tảng tư nhân hoặc các vụ kiện sau khi sự việc xảy ra.
Vấn đề chính sách lớn hơn là các trò lừa đảo do AI tạo ra sẽ ngày càng khó nhận diện khi các mô hình ngày càng cải thiện. Các chiến dịch nâng cao nhận thức có thể giúp người dùng nhận ra các thủ thuật phổ biến, nhưng kẻ tấn công có khả năng tiếp tục tinh chỉnh tin nhắn, trang web và kỹ thuật mạo danh. Điều đó khiến các tập đoàn công nghệ lớn phải đối mặt với gánh nặng kép: vừa xây dựng sản phẩm AI mà người dùng muốn sử dụng, vừa ngăn các công cụ đó trở thành hạ tầng cho các hoạt động gian lận quy mô công nghiệp.
FAQ
Google đã cáo buộc Outsider Enterprise làm gì?
Google cáo buộc Outsider Enterprise, một mạng lưới tội phạm mạng có trụ sở tại Trung Quốc, đã vận hành một hoạt động phishing được hỗ trợ bởi AI, sử dụng AI Gemini của Google để tạo ra các trang web giả mạo nhằm mạo danh Google, YouTube và các cơ quan chính phủ. Nhóm bị cáo buộc vận hành mô hình phishing-as-a-service thông qua Telegram, cung cấp gần 300 mẫu lừa đảo cho tội phạm. Google cho biết mạng lưới này có liên hệ tới 9.000 trang web giả mạo, hơn 1 triệu URL gian lận và 2,5 triệu tin nhắn văn bản gửi tới người dùng Android.
Google đang làm gì để phá vỡ hoạt động phishing?
Google cho biết họ đang phối hợp với Cục Tội phạm mạng của FBI trong một cuộc điều tra hình sự song song và đã phối hợp với AT&T, Verizon và T-Mobile để chặn các tin nhắn văn bản độc hại gắn với chiến dịch. Công ty cũng nêu rằng các công cụ nhắn tin của họ chặn hơn 10 tỷ tin nhắn độc hại mỗi tháng, và tính năng phát hiện lừa đảo trên Android có thể gắn cờ các cuộc gọi và danh bạ đáng ngờ theo thời gian thực. Google đang theo đuổi các tên miền gian lận, tài khoản Telegram và hạ tầng lưu trữ liên quan tới mạng lưới này.
Google hỗ trợ dự luật liên bang nào để chống các vụ lừa đảo có hỗ trợ AI?
Google đã ủng hộ một số đề xuất lưỡng đảng, bao gồm National Strategy for Combating Scams Act, Strategic Task Force on Scam Prevention Act, AI Plan Act và Stop SCAMS Against Seniors Act. Phần lớn dự luật được đề xuất sẽ yêu cầu các cơ quan liên bang phối hợp chặt chẽ hơn về gian lận có hỗ trợ AI, thành lập các lực lượng đặc nhiệm hoặc cải thiện giáo dục công chúng về các hành vi sử dụng AI độc hại.
