Sự trỗi dậy của công nghệ deepfake đã dẫn đến sự gia tăng các vụ lừa đảo ở Trung Quốc trong năm qua. Nhưng một công cụ phát hiện dấu vết của AI có thể giúp ngăn chặn tình trạng này.
Năm 2024, Trung Quốc đã chứng kiến sự gia tăng các vụ lừa đảo liên quan đến AI, khi những kẻ lừa đảo sử dụng các công cụ tạo nội dung mới để lừa đảo người tiêu dùng.
Công ty khởi nghiệp RealAI có trụ sở tại Bắc Kinh tin rằng họ đã tìm ra giải pháp giúp bảo vệ người tiêu dùng khỏi các trò lừa đảo “hoán đổi khuôn mặt”: một phần mềm bổ sung được cài đặt sẵn trong trình duyệt giúp phát hiện nội dung do AI tạo ra trong thời gian thực.
RealAI đã bắt đầu thử nghiệm phiên bản beta của phần mềm được đặt tên là RealBelieve. Công ty vẫn chưa xác nhận khi nào nó sẽ được phát hành ra công chúng.
Công cụ này hoạt động tương tự như chương trình chống virus, quét văn bản, hình ảnh và video trong thời gian thực trong khi người dùng lướt web hoặc trò chuyện trong cuộc gọi Zoom. RealBelieve sau đó gửi cảnh báo nếu phát hiện bất kỳ nội dung nào do AI tạo. Nó sẽ có sẵn dưới dạng chương trình phần mềm và phần mềm tích hợp trong trình duyệt.
Theo công ty, RealBelieve sẽ là công cụ phát hiện AI theo thời gian thực đầu tiên được phát hành tại Trung Quốc.
Công cụ này là một khởi đầu mới cho RealAI. Công ty này chuyên về công nghệ bảo mật AI kể từ khi thành lập vào năm 2018, nhưng trước đó họ tập trung vào việc cung cấp giải pháp cho doanh nghiệp hơn là người tiêu dùng.
Theo RealAI, các sản phẩm đầu tiên của nó tập trung vào việc giúp các công ty trong các ngành khác nhau, bao gồm các ngân hàng lớn, mạng di động và công ty công nghệ của Trung Quốc, nhằm bảo vệ nền tảng và hệ thống nhận dạng khuôn mặt của họ khỏi deepfake.
Ông Xiao Zihao, người đồng sáng lập công ty, cho biết RealAI quyết định chuyển hướng sang các sản phẩm hướng tới người tiêu dùng khi chứng kiến sự ra mắt của công cụ tạo video Sora của OpenAI vào tháng 2.
Sau khi nghiên cứu về gian lận AI trong nhiều năm, RealAI ngay lập tức nhận ra rằng một công cụ video AI mạnh mẽ như Sora có thể thay đổi cuộc chơi cho những kẻ lừa đảo.
“Lừa đảo do AI cung cấp không có gì mới, nhưng sự ra mắt của Sora vào dịp Tết khiến tôi cảm thấy rằng sẽ có sự gia tăng các mối đe dọa mới”, ông Xiao chỉ ra.
RealAI chỉ mất 3 tháng để phát triển RealBelieve. Hầu hết công việc tập trung vào việc nén và hợp lý hóa các công cụ phát hiện AI của họ, cho phép chúng chạy trong thời gian thực trên máy tính thông thường.
“Chúng tôi dành thời gian để giải quyết thách thức thu gọn mô hình của mình để nó có thể chạy nhanh hơn và sử dụng ít tài nguyên hơn đáng kể mà không ảnh hưởng đến hiệu suất”, ông Xiao nói.
RealBelieve được cho là có thể phát hiện 90% nội dung được AI tạo ra trong vòng một phần nghìn giây.
Theo RealAI, các vụ việc liên quan đến lừa đảo có dính dáng tới AI đã gây ra thiệt hại 16,7 triệu nhân dân tệ (2,3 triệu USD) vào năm 2023. Năm nay, con số đó đã tăng lên 185,7 triệu nhân dân tệ.
Các công ty công nghệ khác của Trung Quốc cũng đang nghiên cứu các giải pháp chống deepfake. ZOLOZ Deeper, một công cụ được phát triển bởi gã khổng lồ Ant Group, được thiết kế để ngăn chặn mọi người sử dụng deepfake để hack vào hệ thống nhận dạng khuôn mặt.
Nhưng tính năng phát hiện theo thời gian thực do RealBelieve cung cấp là một bước tiến của ngành, giáo sư Xiao Yanghua từ Đại học Phục Đán ở Thượng Hải, nhận định.
“Việc sử dụng các công cụ phát hiện truyền thống có thể mất tới một phút, nhưng hiện tại có thể chỉ mất vài giây hoặc một phần nghìn giây”, vị này cho biết.
Đối với Xiao Zihao, người đồng sáng lập RealAI, việc theo kịp sự phát triển của lừa đảo AI là điều không hề dễ dàng. Thách thức lớn nhất của công ty hiện nay là tội phạm đang ngày càng kết hợp nội dung do con người và AI tạo ra, điều này khiến các thuật toán phát hiện khó phát hiện hoạt động gian lận hơn nhiều.
“Nó đang phát triển với tốc độ rất nhanh”, ông Xiao nói. “Đôi khi nó vượt xa sự mong đợi của bạn”.
