Khó gỡ video deepfake khỏi các trang web khiêu dâm

Dù hầu hết video deepfake trên các trang web khiêu dâm là bất hợp pháp, để xóa các video giả mạo khỏi các nền tảng trên lại không phải dễ dàng.

Theo dữ liệu từ Deeptrace, một start-up ở Amsterdam chuyên phát hiện nội dung do AI thao túng, từ đầu năm tới nay, trung bình cứ mỗi tháng có khoảng 1.000 video deepfake được đăng tải lên các web “đen”. Video trước kia chỉ được chia sẻ trong các hội nhóm kín nay đã công khai trên Internet.

Các nhà khóa học đều bày tỏ lo ngại về nguy hiểm của deepfake trên môi trường Internet. Ảnh: Biometric Update.

Các nhà khóa học đều bày tỏ lo ngại về nguy hiểm của deepfake trên môi trường Internet. Ảnh: Biometric Update.

Video deepfake hầu hết được đăng trên ba trang web khiêu dâm phổ biến nhất hiện nay (XVideos, Xnxx và xHamster). Các trang này kiếm tiền bằng hàng loạt quảng cáo dày đặc quanh video cùng số lượt xem hàng trăm triệu. XVideos và Xnxx, thuộc sở hữu của công ty WGCZ Holding ở Czechia, lần lượt nắm giữ vị trí trang web khiêu dâm số một và ba thế giới.Thậm chí, hai trang này còn nằm trong top 10 trang web lớn nhất Tnternet. Số lượng người truy cập XVideos vượt xa Wikipedia, Amazon hay Reddit.

Một đoạn video dài nửa phút dùng công nghệ deepfake giả mạo khuôn mặt của diễn viên Emma Watson đã được xem hơn 13 triệu lần trên website Xnxx. Một số video khiêu dâm khác cũng lựa chọn làm giả khuôn mặt của các diễn viên nổi tiếng như Natalie Portman, Billie Eilish, Taylor Swift để thu hút hàng trăm triệu lượt xem trên các trang chia sẻ nội dung khiêu dâm.

“Họ đơn giản không quan tâm những nội dung deepfake này ảnh hưởng thế nào tới người khác”, Giorgio Patrini, Giám đốc điều hành của DeepTrace, nói về cách các trang web khiêu dâm phản ứng với vấn nạn lạm dụng công nghệ deepfake để giả mạo khuôn mặt. “Trừ khi có chế tài đủ mạnh để khiến những nền tảng này buộc phải gỡ bỏ các video deepfake, nếu không, tôi tin rằng sẽ chẳng có gì thay đổi. Người ta vẫn sẽ thoải mái đăng các nội dung giả mạo người khác mà không cần suy nghĩ tới hậu quả”, Patrini nhận xét.

Nhiều kẻ thậm chí còn không thèm che dấu nội dung lừa đảo khi đính kèm chữ “deepfake” lên hẳn tiêu đề video. Ở một số nền tảng, như XVideos và Xnxx, số lượng phim khiêu dâm được gắn tag “deepfake” lên đến cả trăm video. Tuy nhiên, bức tranh toàn cảnh của vấn đề video khiêu dâm sử dụng deepfake vẫn còn là một bí ẩn. Có thể sẽ không thể xác định được số lượng chính xác có bao nhiêu video loại này được đăng lên các web đen.

Alex Hawkins, Phó chủ tịch của xHamster, cho biết công ty hiện chưa có chính sách cụ thể cho các video deepfake, tuy nhiên, nền tảng này luôn coi deepfake giống bất kỳ nội dung bất hợp pháp nào khác. Theo Hawkins, quy trình kiểm duyệt của xHamster sẽ xóa video nếu nó không đáp ứng các quy tắc riêng tư của trang web.

Hawkins nói: “Chúng tôi hoàn toàn hiểu mối lo ngại xung quanh deepfake, vì vậy, xHamster đang cố loại nó nhanh nhất có thể. Những nội dung không có sự cho phép từ người trong khung hình sẽ được cho là vi phạm Điều khoản Sử dụng và bị xóa ngay lập tức”.

Nina Schick, tác giả cuốn sách Deepfakes and the Infocalypse, cho rằng: “Chúng ta không thể đứng nhìn những người phụ nữ bị sỉ nhục, hạ thấp danh dự bởi các video độc hại này. Hành lang pháp lý hiện nay chưa thể bắt kịp tốc độ thay đổi của công nghệ”.

Kể từ khi những deepfake đầu tiên xuất hiện trên Reddit năm 2018, công nghệ AI – nền tảng đằng sau deepfake – đã trở nên ngày một tiên tiến. Một người có thể tạo video deepfake ngày càng dễ dàng hơn. Gần đây, một nhà nghiên cứu bảo mật đã sử dụng phần mềm nguồn mở và chưa tới 100 USD để tạo khuôn mặt và giọng nói của Tom Hanks.

Nữ diễn viên Hollywood Kristen Bell trong một bài phỏng vấn với Vox cho biết cô đã bất ngờ khi lần đầu nhìn thấy đoạn video deepfake được tạo ra từ hình ảnh của mình. “Tôi thực sự bị sốc khi thấy khuôn mặt của mình trong đó. Đúng là gương mặt đó thuộc về tôi, nhưng… thật khó có thể chấp nhận sự thật rằng tôi đang bị lợi dụng”, Bell nói.

AI chỉ cần một bức hình là có thể phát triển một video deepfake có hình ảnh của bạn. Ảnh: Firstpost.

AI chỉ cần một bức hình là có thể phát triển một video deepfake có hình ảnh của bạn. Ảnh: Firstpost.

Số lượng video deepfake xuất hiện trên Internet đang tăng lên chóng mặt. Một báo cáo từ Deeptrace được công bố vào năm ngoái cho thấy có 14.678 video deepfake và 96% trong số này là các video có nội dung 18+. Đến tháng 6 năm nay, số lượng đã tăng lên 49.081 video.

Phần lớn nội dung khiêu dâm deepfake được tìm thấy và tạo ra bởi các cộng đồng lớn trên mạng. Phân tích của Deeptrace cho thấy các video deepfake ở bốn trang web khiêu dâm phổ biến nhất thế giới đã có hơn 134 triệu lượt xem vào năm ngoái. Thậm chí có một trang web có đầy đủ các video khiêu dâm deepfake giả mạo các nữ diễn viên Ấn Độ.

Nhờ có nguồn lực tập trung vào lĩnh vực trí tuệ nhân tạo, công nghệ deepfake đang trên đà phát triển cực nhanh. Tuy nhiên, khi các cá nhân bắt đầu lạm dụng công nghệ này để thực hiện hành vi sai trái, ảnh hướng tới người khác, đã đến lúc các nhà làm luật phải để mắt tới hiện tượng này.

Theo Clare McGlynn, Giáo sư tại Trường Luật Durham, chỉ còn là vấn đề thời gian trước khi không chỉ những nhân vật nổi tiếng mà cả những cá nhân bình thường cũng bị xâm phạm nghiêm trọng quyền riêng tư.

Ở nhiều nơi, luật pháp không được xây dựng cho các kịch bản thế này. Ngay cả ở Mỹ, chỉ có một số tiểu bang có luật tập trung vào các hoạt động kinh doanh nhờ công nghệ deepfake. Anh đang lên kế hoạch cải cách luật nhằm quản lý chặt chẽ việc chia sẻ hình ảnh thân mật lên Internet, trong đó cũng tính đến cả nội dung được tạo ra bởi deepfake. Tuy nhiên, sẽ mất nhiều năm trước khi những thay đổi liên quan được đưa ra và thực hiện.

Trong khi luật pháp vẫn chưa đủ sức để bảo vệ người dùng Internet khỏi deepfake, công nghệ này lại ngày càng trở lên dễ tiếp cận với người dùng. “Sự phát triển của deepfake trong ngành công nghiệp phim khiêu dâm chính là báo hiệu ban đầu cho những vấn đề tự do dân quyền lớn hơn trong tương lai”, Schick nói.

Cô cho biết: “Công nghệ này đang phát triển với tốc độ nhanh hơn nhiều so với mức mà xã hội có thể theo kịp. Chúng ta chưa sẵn sàng cho thời đại của truyền thông tổng hợp, nơi mà ngay cả video cũng trở thành thứ hầu như ai cũng có thể thao túng”. Để chống lại điều này, Schick nói, cần có nhiều bên tham gia, gồm các nhà khoa học, công chúng, các chuyên gia về công nghệ và các nhà lập pháp.

Nguồn : vnexpress.net