Deepfake khiêu dâm của Taylor Swift tràn ngập mạng xã hội

Theo New York Times, một hình ảnh được chia sẻ trên X đã có tới 47 triệu lượt xem trước khi bị khóa hôm 25/1. X cũng đình chỉ một số tài khoản chia sẻ deepfake của nữ ca sĩ. Tuy nhiên, những hình ảnh này đã nhanh chóng bị lan truyền trên nhiều nền tảng khác, bất chấp nỗ lực ngăn chặn của các mạng xã hội.

X cho biết họ đang tích cực xóa hình ảnh khỏi nền tảng. Trong khi đó, người hâm mộ thể hiện thái độ giận dữ, đăng hình ảnh thật của ca sĩ cùng từ khóa “Protect Taylor Swift” (Bảo vệ Taylor Swift) nhằm át đi những hình ảnh giả mạo về ca sĩ trên nền tảng.

Tuy nhiên, WSJ cho biết những bức ảnh khiêu dâm deepfake vẫn xuất hiện tràn ngập trên X. Nhiều bài đăng tiếp tục nhận về hàng nghìn, thậm chí chục nghìn lượt xem. Theo 404 Media, những ảnh này bắt nguồn từ Telegram, sau đó được lan truyền rộng trên X và các nền tảng truyền thông xã hội khác.

Ben Colman, CEO công ty an ninh mạng Reality Defender, xác nhận 90% hình ảnh giả mạo trên được tạo ra bằng mô hình AI Stable Diffusion. Nền tảng có thể được truy cập thông qua hơn 100.000 ứng dụng và các công cụ online.

Khi ngành công nghiệp AI bùng nổ, các công ty chạy đua để phát hành công cụ cho phép người dùng tạo ảnh, video, văn bản và giọng nói với những câu lệnh đơn giản. Hệ quả là deepfake tràn ngập Internet vì việc tạo ra chúng ngày càng rẻ, đơn giản. Các nhà nghiên cứu hiện lo ngại deepfake dần trở thành nguồn tin sai lệch bị lan truyền mạnh mẽ. Nó cho phép người dùng Internet tạo ảnh khỏa thân, chân dung đáng xấu hổ về các ứng cử viên chính trị, người nổi tiếng. AI thậm chí được dùng trong các cuộc gọi tự động, giả mạo giọng nói Tổng thống Joe Biden trong cuộc bầu cử sơ bộ ở New Hampshire.

Giáo sư Oren Etzioni, chuyên gia nghiên cứu deepfake tại Đại học Washington, nói với New York Times: “Internet luôn là một dòng chảy đen tối, chứa đựng nhiều thể loại nội dung khiêu dâm vô căn cứ. Giờ đây, một ‘biến chủng’ mới đặc biệt độc hại đã xuất hiện – ảnh khiêu dâm do AI tạo ra”.

Theo Bloomberg, điều đáng lo ngại với nội dung deepfake là nó ngày càng hoàn thiện, khó phân biệt được thật giả. Ngoài những rủi ro về kinh tế, chính trị, các chuyên gia cảnh báo công nghệ này có thể tạo thành làn sóng “khiêu dâm trả thù” nhắm đến phụ nữ. Một khi video được lan truyền trên Internet, gần như không có cách nào chặn lại. Hơn nữa, một xu hướng mới xuất hiện là nhiều người đang cố gắng đổ lỗi cho deepfake khi bào chữ cho mình trước tòa.

Một số công ty khởi nghiệp như Sensity AI có trụ sở tại Hà Lan và Sentinel có trụ sở tại Estonia đang phát triển công nghệ nhận dạng deepfake. Công nghệ FakeCatcher được Intel ra mắt vào tháng 11/2022 có thể phát hiện video giả mạo với độ chính xác 96%, bằng cách quan sát những thay đổi nhỏ trên da của đối tượng dựa trên việc lưu thông mạch máu.

Nhiều bang tại Mỹ đã hành động trước khi luật pháp bắt kịp được công nghệ. Trước khi có những quy định rõ ràng về tác động của AI, một số bang đã ra lệnh cấm deepfake, chủ yếu liên quan đến nội dung khiêu dâm và bầu cử. Trong khi đó Liên minh châu Âu cũng đã đề xuất một đạo luật liên quan đến AI, yêu cầu các nền tảng phải gắn nhãn cho những nội dung được tạo ra bởi trí tuệ nhân tạo.

Theo WSJ, tốc độ lan truyền của các hình ảnh, video khiêu dâm được làm từ deepfake đang trở thành vấn đề cấp bách trong bối cảnh AI bùng nổ. Mọi người từ học sinh trung học đến người nổi tiếng đều có thể trở thành nạn nhân của công nghệ này.

Khương Nha