Tuần qua, một tài khoản Twitter đăng tải 3 ảnh trong đó Tổng thống Pháp Emmanuel Macron mắc kẹt trong cuộc đụng độ giữa cảnh sát và người biểu tình ở Paris. Những bức ảnh này thực chất là giả, do AI tạo ra, nhưng đã thu hút hàng triệu lượt xem, theo Channel News Asia.

Nạn nhân kế tiếp của AI

Các bức ảnh deepfake về Tổng thống Macron được lan truyền bởi tài khoản Twitter có tên No Context French, trong bối cảnh nước Pháp đang chìm trong biểu tình và bạo loạn bởi tranh cãi về cải cách tuổi nghỉ hưu. Bài đăng không kèm tiêu đề hay lời giải thích chúng là ảnh giả.

Với người ít theo dõi những ồn ào về ảnh deepfake mà AI tạo ra thời gian qua, không có gì bất ngờ khi họ tin rằng ảnh về ông Macron là thật. Nhiều người đã chia sẻ những tấm hình tới bạn bè, người thân.

Nhiều năm qua, mạng xã hội đã lan truyền những hình ảnh, đoạn video bị chỉnh sửa. Các chuyên gia cảnh báo bất cứ ai với phần mềm chỉnh sửa đều có thể tạo ra những hình ảnh gây tranh cãi liên quan tới những người nổi tiếng, mà phổ biến là các chính trị gia.

Tuy nhiên thời gian gần đây, sự phát triển của các công cụ AI đã biến ảnh deepfake trở thành một vấn đề nhức nhối ở mức độ và quy mô mới.

Trước đây, cần từ 30 phút tới một giờ để có thể tạo ra những bức ảnh giả sử dụng các phần mềm photoshop. Nhưng giờ đây, những công cụ như Midjourney hay Stable Diffusion có thể cho ra đời những bức ảnh như thật trong vòng 5 phút. Cả hai công cụ này đều không giới hạn chế tạo ảnh về người nổi tiếng.

Stable Diffusion và Midjourney đã xuất hiện từ lâu. Tuy nhiên chỉ trong thời gian ngắn, các công cụ này đã có đột phá lớn về chất lượng ảnh mà chúng tạo ra. Phiên bản mới nhất của Midjourney có thể tạo ra những bức hình khó có thể phân biệt đâu là thật, đâu là giả.

Những bức ảnh deepfake về Tổng thống Macron mà tài khoản No Context French đăng trên Twitter được tạo ra bởi Midjourney. Cũng chính phần mềm này đã tạo ra ảnh deepfake cảnh ông Trump bị bắt.

Người đứng sau No Context French cho biết lý do không ghi rõ những ảnh là giả bởi bất cứ ai cũng có thể "phóng to ảnh và đọc bình luận để biết đây là những bức ảnh không có thật".

"Chúng ta biết những bức ảnh này không phải thật bởi chúng có những khiếm khuyết", chủ tài khoản No Context French nói.

Tuy nhiên, khi được hỏi về thiểu số những người không quá chú ý tới tiểu tiết nên không nhận ra ảnh là giả, chủ tài khoản No Context French không hồi âm.

Eliot Higgins, đồng sáng lập tổ chức điều tra độc lập Bellingcat, trước đó cũng sử dụng Midjourney để tạo ra ảnh deepfake ông Trump bị bắt. Khác biệt ở chỗ Higgins nói rõ trong bài đăng những bức hình là giả, theo Reuters.

Dù vậy, những bức ảnh giả về ông Trump vẫn gây xôn xao mạng xã hội và thu hút hàng triệu lượt xem. Higgins cuối cùng bị Midjourney cấm sử dụng phần mềm tạo ảnh.

Thách thức cho các mạng xã hội

Các chuyên gia chỉ ra rằng ảnh giả do AI chế tạo thường có một số khiếm khuyết như khuôn mặt kỳ lạ, bàn tay cong bất thường. Tuy nhiên, nhiều người sử dụng mạng xã hội vẫn có thể bị nhầm lẫn.

Tháng 10/2022, những thông tin sai sự thật về tính minh bạch trong cuộc bầu cử ở Brazil tràn ngập WhatsApp khiến nhiều người tham gia cuộc bạo loạn đường phố nhằm ủng hộ cựu Tổng thống Jair Bolsonaro.

"Việc nhiều người tin vào bài đăng (của Higgins và No Context French) thực sự cho thấy quy mô thách thức ngày càng lớn hơn (mà ảnh giả do AI tạo ra) với xã hội", Channel News Asia bình luận.

Trước sự xuất hiện đột ngột của làn sóng ảnh deepfake do AI tạo ra, các mạng xã hội đang loay hoay tìm cách đối phó.

Hôm 28/3, TikTok đã cập nhật chính sách nhằm cấm các tư liệu do AI chế tạo có thể gây hiểu lầm. Trước đó, lần cuối cùng chính sách về các công cụ tổng hợp được TikTok cập nhật là năm 2020, trong đó TikTok cảnh báo người dùng không chia sẻ ảnh giả có thể gây nhầm lẫn cho người khác.

Khi được hỏi vì sao chưa dán nhãn ảnh giả với các bức hình của ông Trump và Macron, Twitter đã giữ im lặng.

Một số tài khoản Twitter lan truyền ảnh của cựu Tổng thống Trump đã bị mạng xã hội này gắn cờ cảnh báo. Tuy nhiên, chính sách giảm thiểu kiểm duyệt hiện nay của Twitter tạo điều kiện cho ảnh giả lan truyền nhiều hơn so với trước đây.

Trong khi đó, Meta năm 2020 từng tuyên bố sẽ gỡ bỏ triệt để nội dung do AI tạo ra nhằm thao túng người dùng. Tuy nhiên đến nay, Facebook chưa xóa bất cứ ảnh deepfake nào liên quan việc ông Trump bị bắt giữ.

×