Vn-Z.vn Ngày 06 tháng 02 năm 2024, Theo scmpMột nhân viên của công ty đa quốc gia tại Hong Kong đã bị kẻ lừa đảo mời tham gia vào một "cuộc họp video của các nhà quản lý" được tạo ra bằng công nghệ Deepfake. Sau đó, anh ta bị chỉ đạo chuyển 200 triệu đô la Hong Kong vào một tài khoản không rõ danh tính , anh ta phát hiện bị lừa sau 5 ngày.
Trong những ngày gần cuối năm , ứng dụng AI cổ điển - "AI đổi khuôn mặt" ( Deepfake) đã nhiều lần thu hút sự chú ý và trở thành đề tài nóng trên mạng. Đầu tiên, là sự xuất hiện liên tục của "ảnh nóng AI của Taylor Swift" trên mạng, buộc X ( Twitter) phải cấm toàn bộ tìm kiếm liên quan đến "Taylor Swift".
Mới đây nhất , cảnh sát Hong Kong đã công bố một vụ lừa đảo gây thiệt hại lớn nhất tại Hong Kong.
Văn phòng chi nhánh tại Hong Kong thuộc một tập đoàn quốc tế có trụ sở tại Anh đã bị kẻ lừa đảo sử dụng công nghệ Deepfake , nội dung video được tạo ra thông qua "AI đổi khuôn mặt" và tổ hợp âm thanh AI tiến hành giả mạo là CFO từ tập đoàn mẹ , kẻ lừa đảo đã trực tiếp lừa đảo chiếm đoạt 200 triệu đô la Hong Kong!
Trò lừa đảo tiên tiến nhất bằng công nghệ AI đơn giản nhất
Trên trang web scmp, nhân viên chi nhánh Hồng Kông của tập đoàn đa quốc gia có trụ sở tại Anh đã nhận được email từ giám đốc tài chính từ trụ sở chính. Nội dung email nói rằng trụ sở chính đang lên kế hoạch cho một "giao dịch bí mật" và cần chuyển tiền của công ty sang một số tài khoản địa phương ở Hồng Kông để sử dụng sau này.
Nhân viên ban đầu không tin vào nội dung email và cho rằng đó là email lừa đảo. Nhưng kẻ lừa đảo liên tục gửi email cho anh ta để thảo luận về sự cần thiết của thỏa thuận bí mật, và cuối cùng, gọi điện video cho anh ta.
Qua điện thoại, nhân viên này nhìn thấy giám đốc tài chính của công ty và “một số đồng nghiệp khác” mà anh ta biết, tất cả đều đang họp. Kẻ lừa đảo cũng yêu cầu nhân viên giới thiệu bản thân trong cuộc họp video.
Sau đó, "nhà lãnh đạo người Anh" (được tạo bằng Deepfake ) trong cuộc họp video yêu cầu anh chuyển tiền nhanh chóng, sau đó video đột ngột bị gián đoạn. Nhưng nhân viên tin rằng đó là sự thật đã chuyển 200 triệu đô la Hồng Kông tới 5 tài khoản địa phương ở Hồng Kông trong 15 lần.
Chỉ sau khi toàn bộ sự việc kéo dài 5 ngày, anh mới tỉnh táo lại và tìm kiếm sự xác nhận từ công ty Anh, rồi cuối cùng anh ta mới biết mình đã bị lừa.
Cảnh sát Hồng Kông tuyên bố trong báo cáo rằng các vụ lừa đảo "thay đổi khuôn mặt AI" trước đây thường là các vụ lừa đảo trực tiếp. Lần này, kẻ lừa đảo đã sử dụng cuộc gọi họp hội nghị video tạo ra một "đội ngũ quản lý cấp cao" giả mạo, phương pháp này đã làm tăng độ tin cậy lên rất nhiều.
Những kẻ lừa đảo đã sử dụng công nghệ deepfake để giả mạo thành công hình ảnh và giọng nói của các giám đốc điều hành công ty Anh thông qua các video trên Youtube của công ty cũng như các tài liệu truyền thông đại chúng khác.
Tất cả những người tham gia hội nghị video đều là người thật, được "AI" được sử dụng để thay đổi khuôn mặt, thay thế khuôn mặt và giọng nói của kẻ lừa đảo bằng khuôn mặt và giọng nói của từng người quản lý , giám đốc điều hành tương ứng, sau đó đưa ra hướng dẫn chuyển tiền.
Ngoài nhân viên bị lừa, nhóm lừa đảo còn liên hệ với một số nhân viên khác thuộc chi nhánh Hong Kong của tập đoàn. Cảnh sát cho biết toàn bộ vụ án vẫn đang được điều tra thêm và chưa có nghi phạm nào bị bắt giữ, họ hy vọng sẽ có đủ thông tin cung cấp tới công chúng nhằm ngăn chặn những kẻ lừa đảo tiếp tục thành công bằng các phương thức tương tự.
Cảnh sát Hong Kong đã cung cấp một số biện pháp phòng tránh Deepfake , giúp xác định xem liệu đây có phải là một vụ lừa đảo "thay đổi khuôn mặt AI" hay không.
Trước hết, nếu đối phương nhắc đến tiền trong video thì bạn phải cảnh giác. Bạn có thể yêu cầu người đối diện di chuyển nhanh đầu và mặt, đồng thời chú ý xem trong bức ảnh có biến dạng gì lạ không. Sau đó hỏi một số câu hỏi mà chỉ cả hai bên mới biết để xác minh danh tính thực sự của đối phương. Các ngân hàng cũng đang triển khai hệ thống cảnh báo sớm đối với loại lừa đảo này và sẽ đưa ra lời nhắc sau khi phát hiện người dùng đã thực hiện giao dịch bằng tài khoản đáng ngờ.
Nguồn gốc của deepfake
Deepfake là công nghệ deep learning đặc biệt. Công nghệ này có nguồn gốc từ một người dùng Reddit tên là "deepfakes". Người dùng này đã đăng một video hoán đổi khuôn mặt của các nữ diễn viên như Scarlett Johansson lên trang mạng xã hội Reddit vào tháng 12 năm 2017, khiến "Deepfake" đồng nghĩa với AI "hoán đổi khuôn mặt AI".
Hiện tại, Deepfake vẫn chưa có định nghĩa chung được công nhận. Trong "Đạo luật cấm tạo nên thông điệp giả mạo 2018" được Mỹ công bố, "deep fake" được định nghĩa là "cách tạo hoặc sửa đổi hình âm ghi chép bằng cách nào đó khiến người quan sát có hiểu lầm và hiểu nhầm đó là hình ảnh hoặc hành động thực sự của cá nhân," trong đó "hình âm ghi chép" bao gồm nội dung số như hình ảnh, video và giọng nói.
Deepfake hoạt động dựa trên nguyên lý cơ bản là sử dụng các thuật toán như mạng tạo đối nghịch (GAN) hoặc mạng nơ-ron tích chập (CNN) để "ghép" khuôn mặt của đối tượng mục tiêu lên khuôn mặt của đối tượng được mô phỏng. Do video được tạo thành từ một loạt hình ảnh liên tục, chỉ cần thay thế khuôn mặt trong từng hình ảnh để tạo ra một video mới với gương mặt thay đổi.
Đầu tiên, video của đối tượng được mô phỏng được chuyển đổi thành hàng loạt hình ảnh. Sau đó, khuôn mặt của đối tượng mô phỏng được thay thế bằng khuôn mặt của đối tượng mục tiêu.
Cuối cùng, hình ảnh đã được thay thế được tái tạo lại thành video giả mạo, và công nghệ học sâu có thể tự động hóa quá trình này.
Theo sự phát triển của công nghệ học sâu, các công nghệ như bộ mã hóa tự động, mạng tạo đối nghịch và các kỹ thuật khác ngày càng được áp dụng vào lĩnh vực deepfake. Deepfake phụ thuộc vào một loại mạng nơ-ron gọi là bộ mã hóa tự động, bao gồm bộ mã hóa và giải mã, trong đó bộ mã hóa giảm kích thước hình ảnh xuống không gian tiềm ẩn có chiều thấp hơn và bộ giải mã xây dựng lại hình ảnh từ biểu diễn tiềm ẩn.
Đối với sự gia tăng nhanh chóng nội dung sử dụng công nghệ Deepfake, ngày càng có nhiều nghiên cứu tập trung vào công nghệ nhận dạng và phát hiện Deepfake.
Năm 2022, một nhóm các nhà khoa học máy tính tại Trường Đại học California, Riverside đã phát triển một phương pháp mới để phát hiện các biểu hiện khuôn mặt đã bị thao túng trong video deepfake. Phương pháp này có thể phát hiện các video giả mạo với độ chính xác lên đến 99%.
Phương pháp này chia nhiệm vụ phát hiện video giả mạo thành hai phần trong mạng nơ-ron sâu. Phần đầu tiên nhận diện biểu hiện khuôn mặt và đồng thời cung cấp thông tin về khu vực chứa biểu hiện đó. Những khu vực này có thể bao gồm miệng, mắt, trán và các vùng khác.
Sau đó, thông tin này được đưa vào phần thứ hai, là một kiến trúc mã hóa-giải mã, chịu trách nhiệm về quá trình phát hiện và định vị. Nhóm nghiên cứu đặt tên cho khung này là "Phát hiện Manipulation Biểu hiện" (EMD), có khả năng phát hiện và định vị các vùng cụ thể trong hình ảnh đã được thay đổi.
Theo tác giả Ghazal Mazaheri: "Học đa tác vụ có thể khai thác các tính năng nổi bật được học bởi hệ thống nhận dạng nét mặt để mang lại lợi ích cho việc đào tạo các hệ thống phát hiện thao tác truyền thống. Cách tiếp cận này đạt được hiệu suất ấn tượng trong việc phát hiện thao tác biểu cảm khuôn mặt."
Các nhà nghiên cứu đã tiến hành thí nghiệm trên hai bộ dữ liệu thao tác khuôn mặt đầy thử thách và họ đã chứng minh rằng EMD hoạt động tốt hơn trong việc thao tác biểu cảm khuôn mặt và trao đổi danh tính, phát hiện chính xác 99% video được chỉnh sửa.
Trong tương lai, bằng nỗ lực ở cả cấp độ kỹ thuật và chính sách thì mới có thể kiểm soát được tác động tiêu cực của công nghệ Deepfake trong phạm vi hợp lý
Trong những ngày gần cuối năm , ứng dụng AI cổ điển - "AI đổi khuôn mặt" ( Deepfake) đã nhiều lần thu hút sự chú ý và trở thành đề tài nóng trên mạng. Đầu tiên, là sự xuất hiện liên tục của "ảnh nóng AI của Taylor Swift" trên mạng, buộc X ( Twitter) phải cấm toàn bộ tìm kiếm liên quan đến "Taylor Swift".
Mới đây nhất , cảnh sát Hong Kong đã công bố một vụ lừa đảo gây thiệt hại lớn nhất tại Hong Kong.
Văn phòng chi nhánh tại Hong Kong thuộc một tập đoàn quốc tế có trụ sở tại Anh đã bị kẻ lừa đảo sử dụng công nghệ Deepfake , nội dung video được tạo ra thông qua "AI đổi khuôn mặt" và tổ hợp âm thanh AI tiến hành giả mạo là CFO từ tập đoàn mẹ , kẻ lừa đảo đã trực tiếp lừa đảo chiếm đoạt 200 triệu đô la Hong Kong!
Trò lừa đảo tiên tiến nhất bằng công nghệ AI đơn giản nhất
Trên trang web scmp, nhân viên chi nhánh Hồng Kông của tập đoàn đa quốc gia có trụ sở tại Anh đã nhận được email từ giám đốc tài chính từ trụ sở chính. Nội dung email nói rằng trụ sở chính đang lên kế hoạch cho một "giao dịch bí mật" và cần chuyển tiền của công ty sang một số tài khoản địa phương ở Hồng Kông để sử dụng sau này.
Nhân viên ban đầu không tin vào nội dung email và cho rằng đó là email lừa đảo. Nhưng kẻ lừa đảo liên tục gửi email cho anh ta để thảo luận về sự cần thiết của thỏa thuận bí mật, và cuối cùng, gọi điện video cho anh ta.
Qua điện thoại, nhân viên này nhìn thấy giám đốc tài chính của công ty và “một số đồng nghiệp khác” mà anh ta biết, tất cả đều đang họp. Kẻ lừa đảo cũng yêu cầu nhân viên giới thiệu bản thân trong cuộc họp video.
Sau đó, "nhà lãnh đạo người Anh" (được tạo bằng Deepfake ) trong cuộc họp video yêu cầu anh chuyển tiền nhanh chóng, sau đó video đột ngột bị gián đoạn. Nhưng nhân viên tin rằng đó là sự thật đã chuyển 200 triệu đô la Hồng Kông tới 5 tài khoản địa phương ở Hồng Kông trong 15 lần.
Chỉ sau khi toàn bộ sự việc kéo dài 5 ngày, anh mới tỉnh táo lại và tìm kiếm sự xác nhận từ công ty Anh, rồi cuối cùng anh ta mới biết mình đã bị lừa.
Cảnh sát Hồng Kông tuyên bố trong báo cáo rằng các vụ lừa đảo "thay đổi khuôn mặt AI" trước đây thường là các vụ lừa đảo trực tiếp. Lần này, kẻ lừa đảo đã sử dụng cuộc gọi họp hội nghị video tạo ra một "đội ngũ quản lý cấp cao" giả mạo, phương pháp này đã làm tăng độ tin cậy lên rất nhiều.
Những kẻ lừa đảo đã sử dụng công nghệ deepfake để giả mạo thành công hình ảnh và giọng nói của các giám đốc điều hành công ty Anh thông qua các video trên Youtube của công ty cũng như các tài liệu truyền thông đại chúng khác.
Tất cả những người tham gia hội nghị video đều là người thật, được "AI" được sử dụng để thay đổi khuôn mặt, thay thế khuôn mặt và giọng nói của kẻ lừa đảo bằng khuôn mặt và giọng nói của từng người quản lý , giám đốc điều hành tương ứng, sau đó đưa ra hướng dẫn chuyển tiền.
Ngoài nhân viên bị lừa, nhóm lừa đảo còn liên hệ với một số nhân viên khác thuộc chi nhánh Hong Kong của tập đoàn. Cảnh sát cho biết toàn bộ vụ án vẫn đang được điều tra thêm và chưa có nghi phạm nào bị bắt giữ, họ hy vọng sẽ có đủ thông tin cung cấp tới công chúng nhằm ngăn chặn những kẻ lừa đảo tiếp tục thành công bằng các phương thức tương tự.
Cảnh sát Hong Kong đã cung cấp một số biện pháp phòng tránh Deepfake , giúp xác định xem liệu đây có phải là một vụ lừa đảo "thay đổi khuôn mặt AI" hay không.
Trước hết, nếu đối phương nhắc đến tiền trong video thì bạn phải cảnh giác. Bạn có thể yêu cầu người đối diện di chuyển nhanh đầu và mặt, đồng thời chú ý xem trong bức ảnh có biến dạng gì lạ không. Sau đó hỏi một số câu hỏi mà chỉ cả hai bên mới biết để xác minh danh tính thực sự của đối phương. Các ngân hàng cũng đang triển khai hệ thống cảnh báo sớm đối với loại lừa đảo này và sẽ đưa ra lời nhắc sau khi phát hiện người dùng đã thực hiện giao dịch bằng tài khoản đáng ngờ.
Nguồn gốc của deepfake
Deepfake là công nghệ deep learning đặc biệt. Công nghệ này có nguồn gốc từ một người dùng Reddit tên là "deepfakes". Người dùng này đã đăng một video hoán đổi khuôn mặt của các nữ diễn viên như Scarlett Johansson lên trang mạng xã hội Reddit vào tháng 12 năm 2017, khiến "Deepfake" đồng nghĩa với AI "hoán đổi khuôn mặt AI".
Hiện tại, Deepfake vẫn chưa có định nghĩa chung được công nhận. Trong "Đạo luật cấm tạo nên thông điệp giả mạo 2018" được Mỹ công bố, "deep fake" được định nghĩa là "cách tạo hoặc sửa đổi hình âm ghi chép bằng cách nào đó khiến người quan sát có hiểu lầm và hiểu nhầm đó là hình ảnh hoặc hành động thực sự của cá nhân," trong đó "hình âm ghi chép" bao gồm nội dung số như hình ảnh, video và giọng nói.
Deepfake hoạt động dựa trên nguyên lý cơ bản là sử dụng các thuật toán như mạng tạo đối nghịch (GAN) hoặc mạng nơ-ron tích chập (CNN) để "ghép" khuôn mặt của đối tượng mục tiêu lên khuôn mặt của đối tượng được mô phỏng. Do video được tạo thành từ một loạt hình ảnh liên tục, chỉ cần thay thế khuôn mặt trong từng hình ảnh để tạo ra một video mới với gương mặt thay đổi.
Đầu tiên, video của đối tượng được mô phỏng được chuyển đổi thành hàng loạt hình ảnh. Sau đó, khuôn mặt của đối tượng mô phỏng được thay thế bằng khuôn mặt của đối tượng mục tiêu.
Cuối cùng, hình ảnh đã được thay thế được tái tạo lại thành video giả mạo, và công nghệ học sâu có thể tự động hóa quá trình này.
Theo sự phát triển của công nghệ học sâu, các công nghệ như bộ mã hóa tự động, mạng tạo đối nghịch và các kỹ thuật khác ngày càng được áp dụng vào lĩnh vực deepfake. Deepfake phụ thuộc vào một loại mạng nơ-ron gọi là bộ mã hóa tự động, bao gồm bộ mã hóa và giải mã, trong đó bộ mã hóa giảm kích thước hình ảnh xuống không gian tiềm ẩn có chiều thấp hơn và bộ giải mã xây dựng lại hình ảnh từ biểu diễn tiềm ẩn.
Đối với sự gia tăng nhanh chóng nội dung sử dụng công nghệ Deepfake, ngày càng có nhiều nghiên cứu tập trung vào công nghệ nhận dạng và phát hiện Deepfake.
Năm 2022, một nhóm các nhà khoa học máy tính tại Trường Đại học California, Riverside đã phát triển một phương pháp mới để phát hiện các biểu hiện khuôn mặt đã bị thao túng trong video deepfake. Phương pháp này có thể phát hiện các video giả mạo với độ chính xác lên đến 99%.
Theo tác giả Ghazal Mazaheri: "Học đa tác vụ có thể khai thác các tính năng nổi bật được học bởi hệ thống nhận dạng nét mặt để mang lại lợi ích cho việc đào tạo các hệ thống phát hiện thao tác truyền thống. Cách tiếp cận này đạt được hiệu suất ấn tượng trong việc phát hiện thao tác biểu cảm khuôn mặt."
Các nhà nghiên cứu đã tiến hành thí nghiệm trên hai bộ dữ liệu thao tác khuôn mặt đầy thử thách và họ đã chứng minh rằng EMD hoạt động tốt hơn trong việc thao tác biểu cảm khuôn mặt và trao đổi danh tính, phát hiện chính xác 99% video được chỉnh sửa.
Trong tương lai, bằng nỗ lực ở cả cấp độ kỹ thuật và chính sách thì mới có thể kiểm soát được tác động tiêu cực của công nghệ Deepfake trong phạm vi hợp lý