.jpg "Biểu tượng Bing"){kind=logo}
Các công cụ tìm kiếm Bing, Google và DuckDuckGo đang bị chỉ trích vì đưa nội dung khiêu dâm deepfake AI vô căn cứ lên đầu một số kết quả tìm kiếm cụ thể. Điều này xảy ra sau khi một bài báo của NBC News được xuất bản, nêu bật một số lo ngại liên quan đến khả năng tiếp cận nội dung khiêu dâm do AI điều khiển.
Các video deepfake rõ ràng được tạo bằng cách sử dụng tài liệu khiêu dâm gốc và hoán đổi khuôn mặt của diễn viên hoặc (thường xuyên nhất) nữ diễn viên để có khả năng là một người thật cụ thể – ví dụ: một người nổi tiếng. Việc chuyển đổi được thực hiện tự động bởi trí tuệ nhân tạo, người dùng tạo hình ảnh giả chỉ cần cung cấp cho AI những bức ảnh của nạn nhân.
Theo các thử nghiệm do NBC News thực hiện trên mẫu gồm 36 người nổi tiếng nữ – sử dụng sự kết hợp giữa tên và từ “deepfakes” – Bing và Google trong hầu hết các trường hợp đều hiển thị các video và hình ảnh deepfake vô căn cứ ở đầu kết quả tìm kiếm.
Google đã trả về 34 kết quả được xếp hạng hàng đầu như vậy, trong khi Bing trả về 35. Mặc dù NBC News đề cập rằng DuckDuckGo cũng gặp các vấn đề tương tự nhưng họ không nêu rõ quy mô của vấn đề.
NBC News cũng phàn nàn rằng các bài viết liên quan về vấn đề nội dung khiêu dâm deepfake không có sự đồng thuận chỉ được hiển thị sau nội dung không phù hợp ở trên cùng, khi tìm kiếm cụm từ “khỏa thân giả”.
Điều đáng nói là NBC News thừa nhận lần đầu tiên tắt các tính năng an toàn của Bing và Google nhằm bảo vệ người dùng khỏi bị hiển thị nội dung tục tĩu. Cả hai trình duyệt đều có mức bảo vệ cơ bản được bật theo mặc định trong khi cung cấp mức bảo vệ cao hơn để kích hoạt thủ công.
Các thử nghiệm nhanh do Neowin thực hiện đã chứng minh rằng Bing không hiển thị kết quả hình ảnh rõ ràng trong cài đặt mặc định khi tìm kiếm sự kết hợp giữa tên và từ “deepfakes”. Tuy nhiên, nó thực sự liên kết đến các trang web có nội dung hoặc công cụ không phù hợp để tạo ra các tác phẩm giả mạo AI.
Google hiển thị hình ảnh rõ ràng trong cài đặt mặc định nhưng hình ảnh bị mờ và chỉ hiển thị đầy đủ sau khi người dùng được thông báo về tính chất rõ ràng của hình ảnh. Người dùng phải sẵn sàng nhấn nút để xem hình ảnh gốc.
Kết quả tìm kiếm của Google về các nội dung giả mạo sâu có tính năng Tìm kiếm an toàn được bật theo mặc định. Đồng thời, công bằng mà nói thì việc dễ dàng tiếp cận nội dung khiêu dâm do AI điều khiển là một vấn đề có liên quan và bất kỳ ai tìm kiếm loại nội dung này đều có thể sẽ tắt các tính năng bảo vệ tích hợp sẵn. Nội dung deepfake rõ ràng không có sự đồng thuận về bản chất là bất hợp pháp và do đó thuộc loại nội dung mà Microsoft, Google và các bên khác nên giải quyết.Cách dễ nhất, hoặc bước đầu tiên, có thể là tạm thời trước khi giới thiệu các biện pháp công nghệ tiên tiến hơn, có thể là ngăn chặn các trang web được biết đến với việc xuất bản loại nội dung này khỏi kết quả tìm kiếm hoặc cấm chúng hoàn toàn.
Điều này có thể làm giảm đáng kể tính chất có hại hiện tại của kết quả tìm kiếm vì như NBC News đưa tin, hơn một nửa số kết quả hàng đầu trong các thử nghiệm của họ là liên kết đến một trang web deepfake phổ biến hoặc một đối thủ cạnh tranh.
Microsoft là công ty duy nhất không phản hồi yêu cầu bình luận của NBC News. Người phát ngôn của DuckDuckGo cho biết nguồn chính của các liên kết web và kết quả hình ảnh là Bing. Ngoài ra, DuckDuckGo còn cung cấp cách gửi yêu cầu liên quan đến quyền riêng tư , chẳng hạn như yêu cầu xóa nội dung cụ thể khỏi tìm kiếm.
Google cung cấp một tùy chọn tương tự cho các nạn nhân bị deepfake, nhưng NBC News lập luận – trích dẫn các chuyên gia và nhà hoạt động – rằng điều này là chưa đủ. Ngoài ra, nó có thể gây hại thêm cho những nạn nhân được yêu cầu gửi các URL cụ thể có nội dung nhạy cảm để xem xét.
Mặt khác, Google đã áp dụng ít nhất một số biện pháp công nghệ. Nó tuyên bố với NBC News rằng nó tự động tìm kiếm nội dung trùng lặp để xóa hình ảnh tải lên lại đã bị gắn cờ.
Đây chỉ là một trong nhiều ví dụ tiêu cực về việc AI được sử dụng cho mục đích phi đạo đức hoặc độc hại. Đặc biệt, deepfake cũng là một vấn đề trong nhiều lĩnh vực khác – ví dụ như trong chính trị. Microsoft là một trong những công ty đang cố gắng phát triển công nghệ phát hiện deepfake nhằm ngăn chặn việc lạm dụng công nghệ trước cuộc bầu cử.
kiểu này bài này 1 công đôi việc rồi 
