AI của các ông lớn công nghệ bị lợi dụng để tạo ảnh phản cảm
Các công ty công nghệ lớn đang đầu tư tài chính và nhân lực để chạy đua phát triển AI tạo sinh, trong đó có tính năng vẽ tranh. Tuy nhiên, theo Motherboard, những công cụ này chưa được kiểm soát đúng mức nên dễ bị kẻ xấu lợi dụng để lan truyền chủ đề độc hại trên không gian mạng.
Tuần trước, người dùng Bing Image Creator của Microsoft cho biết không khó vượt qua hàng rào kiểm duyệt. Ví dụ, khi kết hợp từ khóa về bộ phim thiếu nhi Spongebob và World Trade Center, AI sẽ cho ra những bức ảnh mô tả nhân vật hoạt hình lái máy bay hướng tới tòa tháp đôi, gợi nhớ vụ khủng bố 11/9/2001 tại Mỹ. Bằng cách tương tự, người dùng cũng tạo ảnh chuột Mickey cầm con dao đẫm máu hay Super Mario sử dụng vũ khí thực hiện hành động bạo lực.
Một số người cũng tạo ảnh phản cảm bằng các công cụ như Dall-E của OpenAI hay Stable Diffusion của Stability AI, sau đó lan truyền lên mạng xã hội để lôi kéo thêm nhiều người tham gia. Chúng thường có nội dung phân biệt chủng tộc, bài Do Thái hoặc tuyên truyền sai lệch về vắc-xin Covid-19.
Đầu tháng 10, một số người dùng thử Messenger tích hợp AI phản ánh công cụ cũng tạo các biểu tượng cảm xúc kỳ quái. Khi kết hợp từ khóa đơn lẻ, Meta AI sẽ cung cấp những bức ảnh như trẻ em cầm súng, nhân vật hoạt hình khỏa thân. Người dùng có thể sử dụng chúng như sticker để gửi tới các tài khoản khác.
Một số chuyên gia lo ngại các ông lớn công nghệ như đang cố gắng chiến thắng cuộc đua AI bằng mọi giá. "Họ nhanh chóng tung ra sản phẩm để theo kịp xu hướng, từ đó gây hậu quả xấu", Pier-Olivier Desbiens, nghệ sĩ số tại Sonderlust Studios, nói. Ông cho rằng các lãnh đạo công nghệ như Mark Zuckerberg phải chịu trách nhiệm cho "sự cố quy mô toàn cầu" này.
Trả lời Motherboard, đại diện Meta xác nhận ứng dụng Messenger tích hợp AI có thể cho kết quả đầu ra không phù hợp trong giai đoạn đầu thử nghiệm. Sau khi nhận phản hồi từ người dùng, công ty sẽ cập nhật để cải thiện tính năng.
Tương tự, Microsoft thừa nhận sự cố khiến AI tạo nội dung phản cảm. "AI tạo ảnh là công nghệ mới và đang bị một số cá nhân dùng theo cách không đúng. Vì vậy, chúng tôi sẽ triển khai bộ lọc để biến Bing Image Creator thành ứng dụng hữu ích hơn", đại diện Microsoft nói.
Hiện Microsoft có khoảng 350 nhân viên thuộc Văn phòng AI có trách nhiệm (ORA) nhưng chỉ một phần ba làm toàn thời gian. Hồi tháng 3, công ty cũng sa thải toàn bộ đội ngũ phụ trách đạo đức và xã hội dành cho AI.
Theo vnexpress.net
Tin cùng chuyên mục
- Nokia chuẩn bị triển khai 5G tại Việt Nam 24.09.2024 | 13:58 PM
- Sinh động các chương trình trực tiếp tại Fanpage Báo Tuyên Quang online 03.01.2023 | 08:16 AM
- Thực hiện quy định về chuẩn hóa thông tin thuê bao di động 31.03.2023 | 16:13 PM
- Hưởng ứng ngày Chuyển đổi số quốc gia 10/10Chuyển đổi số vì một cuộc sống tốt đẹp hơn 09.10.2022 | 21:42 PM
- Sở Thông tin và Truyền thông: Diễn tập ứng phó sự cố an toàn thông tin mạng năm 2022 04.10.2022 | 17:30 PM
- Hướng dẫn trẻ em sử dụng mạng internet an toàn và hiệu quả 05.08.2022 | 08:27 AM
- Người dùng nên cập nhật Chrome 92 ngay để vá 9 lỗ hổng nghiêm trọng 21.08.2021 | 15:47 PM
- UBND tỉnh nghe báo cáo dự thảo đề án chuyển đổi số tỉnh Thái Bình giai đoạn 2021 - 2025, định hướng đến năm 2030 21.07.2021 | 19:16 PM
- Thiết bị đầu tiên chuyển suy nghĩ thành câu nói 19.07.2021 | 09:47 AM
- Tại sao không gộp các ứng dụng chống dịch thành một 'super app' 19.07.2021 | 09:48 AM
Xem tin theo ngày
- UBND tỉnh: Nghe báo cáo tiến độ, kết quả tham mưu ban hành các văn bản quy định chi tiết thi hành một số luật
- Các đồng chí lãnh đạo tỉnh chúc mừng doanh nhân, doanh nghiệp nhân ngày Doanh nhân Việt Nam
- Các đồng chí lãnh đạo tỉnh: Chúc mừng Hiệp hội Doanh nghiệp tỉnh nhân ngày Doanh nhân Việt Nam
- Đồng chí Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh thăm, chúc mừng một số doanh nghiệp, doanh nhân trên địa bàn thành phố Thái Bình
- Ra mắt Câu lạc bộ Nữ trí thức, nữ lãnh đạo, quản lý tỉnh Thái Bình
- Họp Ban Cán sự đảng UBND tỉnh
- Đầu tư trên 9.680 tỷ đồng xây dựng dự án phát triển nhà ở Khu đô thị mới Kiến Giang
- Rà soát, bảo đảm việc điều chỉnh các chỉ tiêu sử dụng đất sát nhu cầu thực tiễn
- Cần đẩy nhanh hơn nữa tiến độ đầu tư một số khu công nghiệp
- Nghị quyết số 1201/NQ-UBTVQH15 ngày 28/9/2024 của Ủy ban Thường vụ Quốc hội về việc sắp xếp đơn vị hành chính cấp xã của tỉnh Thái Bình giai đoạn 2023 – 2025