Theo hãng phân tích mạng xã hội Graphika, chỉ riêng trong tháng 9, 24 triệu người đã ghé thăm các website chuyên ‘lột đồ’ nữ giới.

Đáng chú ý, rất nhiều dịch vụ như vậy sử dụng các mạng xã hội nổi tiếng để tiếp thị. Chẳng hạn, từ đầu năm nay, số lượng liên kết quảng cáo ứng dụng ‘lột đồ’ đã tăng hơn 2.400% trên mạng xã hội, bao gồm X và Reddit.

Các dịch vụ này sử dụng trí tuệ nhân tạo (AI) để tái tạo hình ảnh khỏa thân của một người. Nhiều dịch vụ chỉ hoạt động với phụ nữ.

Chúng là một phần của xu hướng đáng báo động về nội dung khiêu dâm không có sự đồng thuận đang được phát triển và phát tán vì AI.

Nó gặp phải rào cản về pháp lý và đạo đức nghiêm trọng vì những hình ảnh thường được lấy từ mạng xã hội và phát tán mà không được chủ nhân cho phép, kiểm soát hay biết về điều đó.

Nhiều phụ nữ trở thành nạn nhân của ứng dụng, website “lột đồ” bằng AI mà không hề hay biết. (Ảnh minh họa: NDTV)

Theo Graphika, sự phổ biến của các ứng dụng, website tương ứng với việc xuất hiện của nhiều mô hình khuếch tán nguồn mở – hay AI có thể tạo ra hình ảnh ưu việt hơn hẳn vài năm trước. Do là nguồn mở, các mô hình mà nhà phát triển sử dụng đều miễn phí.

Santiago Lakatos, nhà phân tích của Graphika, nhận xét chúng ta có khả năng tạo ra một thứ trông rất giống thật. Ông lưu ý deepfake trước đây thường rất mờ mịt.

Một hình ảnh đăng trên X quảng cáo về ứng dụng “lột đồ” gợi ý khách hàng có thể tạo ảnh khỏa thân của một người rồi gửi ngược lại cho họ để quấy rối.

Một ứng dụng khác lại trả tiền cho nội dung được tài trợ trên YouTube và xuất hiện đầu tiên khi người dùng tìm kiếm từ khóa “nudify” (cởi bỏ quần áo).

Google cho biết công ty cấm những quảng cáo chứa nội dung khiêu dâm. Họ đã xem xét quảng cáo nghi vấn và gỡ bỏ vì vi phạm chính sách.

Người phát ngôn Reddit khẳng định diễn đàn cấm chia sẻ nội dung khiêu dâm khi chưa có sự đồng thuận và đã chặn một số tên miền. X chưa bình luận về điều này.

Không chỉ ghi nhận lượt truy cập tăng, các dịch vụ – một số thu phí 9,99 USD/tháng – tuyên bố trên website rằng họ cũng thu hút nhiều khách hàng.

Từ lâu, hình ảnh khiêu dâm giả mạo của người nổi tiếng, người của công chúng trên Internet đã là một vấn đề nhức nhối nhưng các chuyên gia quyền riêng tư lo ngại những tiến bộ của AI đã khiến phần mềm deepfake ngày càng dễ sử dụng và hiệu quả hơn.

Eva Galperin, Giám đốc An ninh mạng tại tổ chức Electronic Frontier Foundation, nhận xét: “Chúng ta thấy ngày càng nhiều người bình thường thực hiện hành vi này nhắm vào mục tiêu bình thường. Bạn nhìn thấy nó trong các học sinh trung học và đại học”.

Nhiều nạn nhân chưa bao giờ biết về những bức ảnh khỏa thân do AI tạo ra của chính họ. Dù vậy, những người biết được lại rất khó để yêu cầu nhà hành pháp điều tra hay tìm đến những tổ chức để theo đuổi hành động pháp lý.

Tại Mỹ, chưa có luật liên bang cấm tạo ảnh khiêu dâm deepfake, dù Mỹ cấm tạo hình ảnh khiêu dâm của trẻ nhỏ.

Tháng 11/2023, một nhà bác sĩ tâm thần nhi ở Bắc Carolina đã bị phạt tù 40 năm vì dùng ứng dụng “lột đồ” với chính bệnh nhân của hắn. Đây là vụ truy tố đầu tiên liên quan đến tạo nội dung khiêu dâm trẻ em bằng deepfake.

TikTok đã cấm từ khóa “cởi đồ” (undress) trên dịch vụ, cảnh báo bất kỳ ai tìm kiếm từ khóa này “có thể liên quan đến hành vi hay nội dung vi phạm hướng dẫn của chúng tôi”.

Meta cũng đã bắt đầu chặn những từ khóa liên quan đến nội dung tương tự. Người phát ngôn của TikTok và Meta đều từ chối bình luận.

(Theo Bloomberg)

Sử dụng công nghệ AI bảo vệ trẻ em khỏi nội dung khiêu dâm trực tuyếnCơ quan quản lý truyền thông tại Anh đề xuất sử dụng công nghệ AI phân tích khuôn mặt để xác định độ tuổi người dùng trực tuyến, làm cơ sở bảo vệ trẻ em khỏi các nội dung không phù hợp online.