Thay đổi của YouTube là một phần trong quy trình bảo vệ quyền riêng tư được cập nhật mới khi trao nhiều quyền hơn cho người dùng để chống nạn giả mạo bằng AI. Bản thân người bị giả mạo có thể khiếu nại trực tiếp hoặc khiếu nại thay thế cho người khác nếu người đó là trẻ vị thành niên, đã chết hoặc không có khả năng truy cập vào máy tính.

Tuy nhiên, YouTube sẽ vẫn là bên quyết định cuối cùng về việc một video có bị coi là giả mạo và bị xóa hay không. Nền tảng video trực tuyến này sẽ quyết định dựa theo các yêu tố như nội dung đó tạo bằng AI hay tổng hợp từ các video có sẵn, nội dung đó có mang ý nghĩa châm biếm, nhại lại hay có giá trị với công chúng hay không...

Theo các chuyên gia, một trong các lý do khiến YouTube mạnh tay với các video giả mạo bằng AI năm nay là do sắp đến bầu cử tổng thống Mỹ. Các thống kê cho thấy video AI mô phỏng giọng nói và hình ảnh của ông Donald Trump gia tăng nhanh chóng trên các nền tảng mạng xã hội. Với trường hợp cụ thể này, cựu tổng thống Mỹ có thể yêu cầu trực tiếp YouTube xóa các video nói trên. Người tải lên sẽ có 48 giờ để giải quyết khiếu nại trước khi video thực sự bị xóa.

Đầu năm 2024 là quãng thời gian bùng nổ của các mô hình AI tạo video chỉ từ nội dung văn bản. Sora của OpenAI, Lumier của Google, Emu Video của Meta gây kinh ngạc với các đoạn video như thật được tạo ra bởi hệ thống máy tính. Tuy nhiên, điều này cũng gây lo ngại khi chúng có thể được sử dụng để tạo ra các video giả mạo để tung tin giả cho các mục đích, ý đồ xấu.

Theo vnexpress.net