Hiểm họa ảnh khiêu dâm được tạo ra bằng AI

Thời gian gần đây ở nhiều quốc gia, các đối tượng sử dụng công nghệ AI với mục đích xấu đã bị phát giác khiến dư luận xôn xao.

08/10/2023 06:27

Trí tuệ nhân tạo (AI) là lĩnh vực mới mẻ và có nhiều ứng dụng hữu ích cho cuộc sống. Tuy nhiên bên cạnh đó, một số đối tượng đã sử dụng công nghệ mới này để phục vụ cho các mục đích xấu. Trong đó, hình ảnh gương mặt các nạn nhân, bị kẻ gian đưa vào các ứng dụng AI để cắt ghép và tạo nên các nội dung khiêu dâm.

Các công tố viên Ecuador đã mở cuộc điều tra việc phát tán các video có nội dung khiêu dâm do trí tuệ nhân tạo dàn dựng. Vụ việc xảy ra ở thủ đô Quito, các đối tượng xấu đã sử dụng công nghệ AI cắt ghép hình ảnh khuôn mặt của các sinh viên vào phần cơ thể khỏa thân để dựng các video và ảnh khiêu dâm. Khoảng 20-24 sinh viên bị sử dụng hình ảnh để cắt ghép và dàn dựng khoảng 700 video với nội dung khiêu dâm. Đây là vụ việc tiếp theo cho thấy hiểm họa từ các ảnh khiêu dâm do AI tạo ra.

Tháng 9 vừa qua tại Tây Ban Nha, trở lại trường sau kỳ nghỉ hè, khoảng 20 nữ sinh ở một thị trấn phía Tây Nam bất ngờ nhận được những bức ảnh khỏa thân của mình trên điện thoại di động. Các em không hề chụp những bức ảnh này, nhưng kẻ xấu đã lấy cắp ảnh mà các em đăng trên tài khoản Instagram cá nhân, sau đó dùng các ứng dụng AI chỉnh sửa ảnh. Kết quả là ảnh các em có mặc trang phục biến thành ảnh khỏa thân. Vụ việc gây ra những tác động tâm lý rất lớn đến các em bé gái.

Bà Miriam Al Adib - Phụ huynh nạn nhân: 'Các con vô cùng sợ hãi, bị khủng hoảng lo âu tột độ vì phải chịu đựng những điều kinh khủng này. Các con không dám nói bất cứ điều gì và sợ bị đổ lỗi'.

Văn phòng công tố Tây Ban Nha đang điều tra vụ việc sau khi nhận đơn khiếu nại từ các gia đình. Cảnh sát cũng đã gửi hồ sơ dày 200 trang sang bên công tố.

Ông Miguel Hernandez - Chuyên gia cố vấn Hội đồng châu Âu về trí tuệ nhân tạo: 'Tôi cho rằng cần xem xét trách nhiệm pháp lý của những người tạo ra công cụ AI. Chúng tôi đang chờ hoàn thiện luật AI của châu Âu cũng như Công ước từ Hội đồng châu Âu. Đây là những công cụ cần thiết để điều chỉnh các hành vi liên quan đến sử dụng AI'.

Cục Điều tra Liên bang Mỹ cũng phát đi cảnh báo, tội phạm sử dụng AI tạo hình ảnh khiêu dâm nhằm đe dọa và tống tiền nạn nhân đang có xu hướng gia tăng. Giới chức Mỹ cũng yêu cầu các nền tảng cung cấp ứng dụng tạo ảnh AI, tăng cường các giải pháp, ngăn chặn tội phạm lợi dụng tính năng công nghệ để thực hiện hành vi phạm tội.