AI của các ông lớn công nghệ bị lợi dụng để tạo ảnh phản cảm
Các công ty công nghệ lớn đang đầu tư tài chính và nhân lực để chạy đua phát triển AI tạo sinh, trong đó có tính năng vẽ tranh. Tuy nhiên, theo Motherboard, những công cụ này chưa được kiểm soát đúng mức nên dễ bị kẻ xấu lợi dụng để lan truyền chủ đề độc hại trên không gian mạng.
Tuần trước, người dùng Bing Image Creator của Microsoft cho biết không khó vượt qua hàng rào kiểm duyệt. Ví dụ, khi kết hợp từ khóa về bộ phim thiếu nhi Spongebob và World Trade Center, AI sẽ cho ra những bức ảnh mô tả nhân vật hoạt hình lái máy bay hướng tới tòa tháp đôi, gợi nhớ vụ khủng bố 11/9/2001 tại Mỹ. Bằng cách tương tự, người dùng cũng tạo ảnh chuột Mickey cầm con dao đẫm máu hay Super Mario sử dụng vũ khí thực hiện hành động bạo lực.
Một số người cũng tạo ảnh phản cảm bằng các công cụ như Dall-E của OpenAI hay Stable Diffusion của Stability AI, sau đó lan truyền lên mạng xã hội để lôi kéo thêm nhiều người tham gia. Chúng thường có nội dung phân biệt chủng tộc, bài Do Thái hoặc tuyên truyền sai lệch về vắc-xin Covid-19.
Đầu tháng 10, một số người dùng thử Messenger tích hợp AI phản ánh công cụ cũng tạo các biểu tượng cảm xúc kỳ quái. Khi kết hợp từ khóa đơn lẻ, Meta AI sẽ cung cấp những bức ảnh như trẻ em cầm súng, nhân vật hoạt hình khỏa thân. Người dùng có thể sử dụng chúng như sticker để gửi tới các tài khoản khác.
Một số chuyên gia lo ngại các ông lớn công nghệ như đang cố gắng chiến thắng cuộc đua AI bằng mọi giá. "Họ nhanh chóng tung ra sản phẩm để theo kịp xu hướng, từ đó gây hậu quả xấu", Pier-Olivier Desbiens, nghệ sĩ số tại Sonderlust Studios, nói. Ông cho rằng các lãnh đạo công nghệ như Mark Zuckerberg phải chịu trách nhiệm cho "sự cố quy mô toàn cầu" này.
Trả lời Motherboard, đại diện Meta xác nhận ứng dụng Messenger tích hợp AI có thể cho kết quả đầu ra không phù hợp trong giai đoạn đầu thử nghiệm. Sau khi nhận phản hồi từ người dùng, công ty sẽ cập nhật để cải thiện tính năng.
Tương tự, Microsoft thừa nhận sự cố khiến AI tạo nội dung phản cảm. "AI tạo ảnh là công nghệ mới và đang bị một số cá nhân dùng theo cách không đúng. Vì vậy, chúng tôi sẽ triển khai bộ lọc để biến Bing Image Creator thành ứng dụng hữu ích hơn", đại diện Microsoft nói.
Hiện Microsoft có khoảng 350 nhân viên thuộc Văn phòng AI có trách nhiệm (ORA) nhưng chỉ một phần ba làm toàn thời gian. Hồi tháng 3, công ty cũng sa thải toàn bộ đội ngũ phụ trách đạo đức và xã hội dành cho AI.
Theo vnexpress.net
Tin cùng chuyên mục
- Nokia chuẩn bị triển khai 5G tại Việt Nam 24.09.2024 | 13:58 PM
- Sinh động các chương trình trực tiếp tại Fanpage Báo Tuyên Quang online 03.01.2023 | 08:16 AM
- Thực hiện quy định về chuẩn hóa thông tin thuê bao di động 31.03.2023 | 16:13 PM
- Hưởng ứng ngày Chuyển đổi số quốc gia 10/10Chuyển đổi số vì một cuộc sống tốt đẹp hơn 09.10.2022 | 21:42 PM
- Sở Thông tin và Truyền thông: Diễn tập ứng phó sự cố an toàn thông tin mạng năm 2022 04.10.2022 | 17:30 PM
- Hướng dẫn trẻ em sử dụng mạng internet an toàn và hiệu quả 05.08.2022 | 08:27 AM
- Người dùng nên cập nhật Chrome 92 ngay để vá 9 lỗ hổng nghiêm trọng 21.08.2021 | 15:47 PM
- UBND tỉnh nghe báo cáo dự thảo đề án chuyển đổi số tỉnh Thái Bình giai đoạn 2021 - 2025, định hướng đến năm 2030 21.07.2021 | 19:16 PM
- Thiết bị đầu tiên chuyển suy nghĩ thành câu nói 19.07.2021 | 09:47 AM
- Tại sao không gộp các ứng dụng chống dịch thành một 'super app' 19.07.2021 | 09:48 AM
Xem tin theo ngày
- Công bố quyết định của Bộ trưởng Bộ Xây dựng công nhận thị trấn Tiền Hải mở rộng đạt tiêu chí đô thị loại IV
- Thống nhất nội dung, chương trình kỳ họp để giải quyết công việc phát sinh đột xuất HĐND tỉnh khóa XVII, nhiệm kỳ 2021 - 2026
- Gặp mặt cán bộ, hội viên Câu lạc bộ Lê Quý Đôn
- Khen thưởng 12 tập thể, cá nhân có thành tích xuất sắc trong công tác văn phòng cấp ủy
- Công bố quyết định của Ban Bí thư Trung ương Đảng về công tác cán bộ
- Hội nghị Chính phủ với chính quyền địa phương
- Không ngừng nghỉ trong công tác phòng, chống tham nhũng, lãng phí, tiêu cực
- Họp Tiểu ban Nhân sự Đại hội đại biểu Đảng bộ tỉnh lần thứ XXI
- Chính thức khởi động cuộc thi trắc nghiệm trên internet tìm hiểu “Lịch sử Đảng bộ, lịch sử tỉnh Thái Bình”
- An Ninh: Khánh thành Trung tâm giáo dục cộng đồng