Hiểm họa phim khiêu dâm từ công nghệ AI

Việc mạng xã hội toàn cầu xôn xao về các bức ảnh khiêu dâm của siêu sao Taylor Swift do AI tạo ra mới chỉ là phần nổi của tảng băng chìm. Các nội dung khiêu dâm do AI tạo ra đang nhắm mục tiêu đến phụ nữ và trẻ em trên toàn thế giới.

30/01/2024 10:48

Trong tuần qua, mạng xã hội X đã lan truyền bức ảnh có nội dung khiêu dâm liên quan tới nữ danh ca Taylor Swift đã khiến cộng đồng gây sốc. Bức ảnh dù bị xóa không lâu sau đó, nhưng đã làm sáng tỏ khả năng của trí tuệ nhân tạo trong việc tạo ra những hình ảnh chân thực, gây tổn hại và giả mạo một cách đầy thuyết phục.

Với sự mở rộng khả năng tiếp cận các công cụ AI, các chuyên gia bày tỏ quan ngại tình trạng sản xuất các nội dung khiêu dâm bằng AI sẽ còn nở rộ.

Đã có không ít trường hợp học sinh trung học tại Mỹ và Tây Ban Nha báo cáo tình trạng nhân dạng của mình đã bị bạn bè đưa lên mạng.

Một nữ streamer game nổi tiếng tại Pháp mới đây đã tá hỏa nhận ra chân dung của cô xuất hiện trong một bộ phim khiêu dâm và được chia sẻ nhiệt tình bởi cộng đồng mạng.

Giáo sư Danielle Citron từ Trường Luật Đại học Virginia (Mỹ), cho biết: “Không chỉ những người nổi tiếng bị xâm phạm, mà còn cả những người bình thường. Họ là y tá, sinh viên, giáo viên và phóng viên. Tình trạng này ảnh hưởng đến tất cả mọi người'.

Dù Taylor Swift chỉ là nạn nhân tiếp theo của AI, nhưng nhiều chuyên gia cho rằng việc một siêu sao toàn cầu bị nhắm mục tiêu sẽ có tác dụng giúp cộng đồng thay đổi quan điểm về vấn nạn khiêu dâm AI.

Tuần qua, cộng đồng người hâm mộ Swift đã chia sẻ nhiều quan điểm phản đối vấn nạn giả mạo nhân dạng người nổi tiếng và phụ nữ cho mục đích khiêu dâm. Dù vậy, không phải ai cũng may mắn như Taylor Swift khi có một cộng đồng lớn bảo vệ mình.

Theo giáo sư Citron, có rất nhiều nạn nhân cố gắng xóa bỏ hình ảnh bị giả mạo của họ trên mạng, 'nhưng hầu hết nạn nhân chỉ có một mình”.

Theo Ben Decker, người điều hành Memetica, một cơ quan điều tra kỹ thuật số, các công ty truyền thông xã hội “không thực sự có sẵn kế hoạch hiệu quả để giám sát nội dung”.

Giống như hầu hết các nền tảng truyền thông xã hội lớn, chính sách của X cấm chia sẻ “phương tiện truyền thông tổng hợp, bị thao túng hoặc ngoài ngữ cảnh có thể đánh lừa hoặc khiến mọi người nhầm lẫn và dẫn đến tổn hại”.

Nhưng đồng thời, X đã loại bỏ phần lớn nhóm kiểm duyệt nội dung của mình và dựa vào hệ thống tự động và báo cáo của người dùng.

Các công ty truyền thông xã hội khác cũng đã giảm bớt đội ngũ kiểm duyệt nội dung của họ. Meta, công ty mẹ của Facebook, đã cắt giảm các nhóm giải quyết thông tin sai lệch cũng như điều phối các chiến dịch quấy rối trên nền tảng của mình.

Xu hướng đáng báo động

Bình luận về sự việc của Taylor Swift, thư ký báo chí Nhà Trắng Karine Jean-Pierre nói: “Thật đáng báo động. Chúng tôi rất lo lắng trước những báo cáo về việc lưu hành những những hình ảnh sai lệch'.

Năm ngoái, Francesca Mani, nữ sinh trung học ở bang New Jersey (Mỹ) đã phát động một chiến dịch xây dựng luật liên bang nhằm giải quyết các hình ảnh khiêu dâm do AI tạo ra sau khi nhân dạng của chính nữ sinh này và 30 bạn học khác đã bị đưa lên mạng.

Mani đã bày tỏ sự thất vọng trước việc thiếu cơ sở pháp lý để bảo vệ nạn nhân của nội dung khiêu dâm do AI tạo ra.

“Tất cả các trường học đang phải vật lộn với những thách thức và tác động của trí tuệ nhân tạo và công nghệ khác dành cho học sinh mọi lúc, mọi nơi', Tiến sĩ Raymond González, Giám đốc Học khu Westfield (New Jersey), cho biết.

Theo chuyên gia Decker, khả năng tiếp cận dễ dàng các công nghệ AI có mã nguồn mở đang tạo ra những lỗ hổng cho những kẻ xấu lợi dụng.

Hiện 9 tiểu bang của Mỹ đã ban hành luật cấm sáng tạo hoặc chia sẻ ảnh sử dụng công nghệ deepfake mà không có sự đồng thuận của chủ nhân dạng, nhưng chưa có luật nào tồn tại ở cấp liên bang.

“Không thể trừng phạt hành vi đó theo luật khiêu dâm trẻ em vì nó khác ở chỗ không có hành vi lạm dụng tình dục trẻ em nào xảy ra”, giáo sư Citron chỉ ra. “Nhưng cảm giác bị sỉ nhục và cảm giác bị biến thành một đồ vật thực sự gây tổn hại khủng khiếp đến lòng tự trọng xã hội của các nạn nhân”.

TIN LIÊN QUAN