Dùng chatbot 'bẻ khóa' chatbot khác
Logo ChatGPT hiển thị trên màn hình điện thoại. Ảnh: AFP
Nhóm nghiên cứu Đại học Công nghệ Nanyang (NTU - Singapore), gồm giáo sư Liu Yang, hai nghiên cứu sinh Deng Gelei và Liu Yi, công bố phương pháp Masterkey với khả năng bẻ khóa các AI phổ biến hiện nay như ChatGPT, Google Bard và Copilot (Bing Chat).
Chatbot bị nhắm mục tiêu sẽ tạo phản hồi hợp lệ kể cả với các truy vấn độc hại - cách kiểm tra giới hạn đạo đức của bất kỳ mô hình ngôn ngữ lớn (LLM) nào. Cụ thể, Masterkey gồm hai phần, trong đó kẻ tấn công đảo ngược cơ chế bảo vệ của LLM bằng cách sử dụng một chatbot khác. Thông thường, LLM sẽ được trang bị lớp bảo vệ để chống lại lời nói mang tính tiêu cực, thông qua một danh sách từ khóa bị cấm. Tuy vậy, nhờ khả năng tự học hỏi và thích ứng, nhóm có thể dùng một chatbot khác để "tiêm nhiễm" nội dung xấu vào chatbot mục tiêu.

Nhóm nghiên cứu của NTU. Ảnh: NTU Singapore
Theo giáo sư Yang, cách "đi đường vòng" này đạt hiệu quả gấp ba lần so với các phương pháp đánh lừa khác hiện nay. Với khả năng tự học hỏi, Masterkey khiến mọi bản sửa lỗi mà nhà phát triển áp dụng cho chatbot mục tiêu cuối cùng cũng sẽ trở nên vô dụng theo thời gian.
Có hai phương pháp được nhóm áp dụng để huấn luyện AI tấn công các chatbot khác. Cách đầu tiên liên quan đến việc "hình dung" một nhân vật tạo lời nhắc bằng cách thêm dấu cách sau mỗi ký tự, bỏ qua danh sách các từ bị cấm. Cách thứ hai là khiến chatbot trả lời "với tư cách là người không bị hạn chế về mặt đạo đức".
Giáo sư Yang cho biết nhóm đã liên hệ và gửi kết quả nghiên cứu tới các nhà cung cấp dịch vụ chatbot toàn cầu, gồm OpenAI, Google và Microsoft. Đề tài này cũng được chấp nhận trình bày tại Hội nghị chuyên đề về bảo mật hệ thống phân tán và mạng tổ chức tại San Diego (Mỹ) vào tháng 2.
Theo Tom's Hardware, với làn sóng chatbot đang nở rộ, tấn công nhắm vào LLM đang có xu hướng tăng nhanh chóng. Tuy nhiên, nếu như trước đây, chúng có thể được hạn chế sau một hoặc một vài bản vá, Masterkey đáng lo ngại hơn khi có thể tự học để vượt qua giới hạn bảo mật. Khi bị can thiệp, chúng có thể tạo nội dung tiêu cực, gây hại, tin giả, tin sai lệch và nhiều mục đích xấu khác.
Theo vnexpress.net
Tin cùng chuyên mục
- Nokia chuẩn bị triển khai 5G tại Việt Nam 24.09.2024 | 13:58 PM
- Sinh động các chương trình trực tiếp tại Fanpage Báo Tuyên Quang online 03.01.2023 | 08:16 AM
- Thực hiện quy định về chuẩn hóa thông tin thuê bao di động 31.03.2023 | 16:13 PM
- Hưởng ứng ngày Chuyển đổi số quốc gia 10/10Chuyển đổi số vì một cuộc sống tốt đẹp hơn 09.10.2022 | 21:42 PM
- Sở Thông tin và Truyền thông: Diễn tập ứng phó sự cố an toàn thông tin mạng năm 2022 04.10.2022 | 17:30 PM
- Hướng dẫn trẻ em sử dụng mạng internet an toàn và hiệu quả 05.08.2022 | 08:27 AM
- Người dùng nên cập nhật Chrome 92 ngay để vá 9 lỗ hổng nghiêm trọng 21.08.2021 | 15:47 PM
- UBND tỉnh nghe báo cáo dự thảo đề án chuyển đổi số tỉnh Thái Bình giai đoạn 2021 - 2025, định hướng đến năm 2030 21.07.2021 | 19:16 PM
- Thiết bị đầu tiên chuyển suy nghĩ thành câu nói 19.07.2021 | 09:47 AM
- Tại sao không gộp các ứng dụng chống dịch thành một 'super app' 19.07.2021 | 09:48 AM
Xem tin theo ngày
-
Đặc sắc chương trình nghệ thuật kỷ niệm 110 năm ngày sinh Tổng Bí thư Nguyễn Văn Linh và chào mừng hợp nhất tỉnh Hưng Yên và tỉnh Thái Bình
- Chủ tịch Ủy ban Trung ương MTTQ Việt Nam Đỗ Văn Chiến thăm làm việc tại phường Phố Hiến
- Công bố nghị quyết, quyết định của Trung ương, địa phương về sáp nhập đơn vị hành chính cấp tỉnh, cấp xã và kết thúc hoạt động cấp huyện
- Báo Thái Bình - Một hành trình với những mốc son lịch sử
- Thư tòa soạn
- Công bố quyết định của Bộ trưởng Bộ Công an, Giám đốc Công an tỉnh về công tác tổ chức, cán bộ
- Khởi công dự án nhà máy đốt chất thải rắn phát điện công nghệ hiện đại tại xã Thụy Trình
- Khởi công dự án đầu tư xây dựng sân golf Cồn Vành và dự án đầu tư xây dựng khu bến cảng hàng lỏng Ba Lạt
- Việt Nam nâng tầm vị thế tại Hội nghị quốc tế về biển và đại dương
- Hội thảo khoa học: Đồng chí Nguyễn Văn Linh – Nhà lãnh đạo kiên định, sáng tạo của Đảng và cách mạng Việt Nam