Mặt tối AI: Hàng loạt vụ giết trẻ em được tái tạo bởi Deepfake

Những người dùng TikTok đã bắt đầu một xu hướng mới đáng lo ngại là sử dụng trí tuệ nhân tạo để mô tả những vụ giết người ghê rợn và những tội ác thực sự ghê tởm khác đối với trẻ em.

02/06/2023 10:32

Các video clip thu được đã được sửa đổi, vì chúng không thay đổi hình ảnh hiện có mà thay vào đó tạo ra những hình ảnh mới cho thấy những nhiều trẻ em trong bộ dạng bầm tím, kể lại những trải nghiệm thực tế lạnh lùng của chúng bằng giọng nói do máy tính tạo ra.

Những vụ giết người đáng chú ý được nói đến, ở ngôi thứ nhất, bởi những đứa trẻ CGI bao gồm vụ giết người của Elisa Izquierdo, một đứa trẻ 6 tuổi bị mẹ mình sát hại.

Một video khác kể về câu chuyện của Carl Newton Mahan, cậu bé 6 tuổi người Kentucky đã bắn chết một đứa trẻ 8 tuổi vào năm 1929. Một số video đã thu được gần 3 triệu lượt xem. Nhiều clip cho rằng AI được sử dụng thay cho ảnh thật như một cách 'tôn trọng gia đình' người đã khuất.

Một nạn nhân là trẻ em được mô phỏng bởi Deepfake.

Tên cũng được sửa đổi một chút trong một số trường hợp. Rolling Stone đưa tin những hình ảnh tái tạo về những cái chết nổi tiếng chẳng hạn như của Tổng thống John F. Kennedy và George Floyd cũng đã gây xôn xao trên mạng xã hội.

Hiện tại, những video đó đã bị gỡ xuống. Một tài khoản có gần 50.000 người theo dõi và được biết đến với việc đăng những video này, @truestorynow, đã bị TikTok cấm vì vi phạm nguyên tắc cộng đồng, theo Rolling Stone.

Paul Bleakley, trợ lý giáo sư về tư pháp hình sự tại Đại học New Haven, nói với ấn phẩm: 'Chúng khá kỳ lạ và đáng sợ. Chúng dường như được thiết kế để kích hoạt các phản ứng cảm xúc mạnh mẽ, bởi vì đó là cách chắc chắn nhất để có được nhấp chuột và lượt thích. Thật khó chịu khi xem, nhưng tôi nghĩ đó có thể là vấn đề'.

Ông ấy nói: 'Hãy tưởng tượng bạn là cha mẹ hoặc người thân của một trong những đứa trẻ này trong các video AI này, đồng thời cho biết thêm rằng các lựa chọn pháp lý để chống lại các clip thể hiện một 'khu vực xám xịt, rất khó hiểu'.

'Bạn truy cập trực tuyến và bằng giọng nói the thé, kỳ lạ này, đây là hình ảnh AI dựa trên đứa con đã qua đời của bạn, đi vào chi tiết rất đẫm máu về những gì đã xảy ra với chúng', ông cảnh báo.

>> Xem thêm: Hình ảnh do AI tạo ra gây khó cho nỗ lực chống thông tin sai lệch

TIN LIÊN QUAN