Thứ 7, 15/06/2024, 04:06[GMT+7]

Quản lý AI - vấn đề cấp bách của nhân loại

Thứ 3, 07/11/2023 | 09:19:34
1,732 lượt xem
Tổng Thư ký Liên hợp quốc Antonio Guterres đã thành lập Ban cố vấn phụ trách khuyến nghị trong lĩnh vực trí tuệ nhân tạo (AI), một công nghệ có tiềm năng tạo thay đổi đột phá nhưng cũng đặt ra nhiều rủi ro tiềm tàng.

Ảnh minh họa.

Bên cạnh sự tận hưởng những tiến bộ vượt bậc mà AI đem lại cho nhân loại, việc quản lý và khai thác AI một cách có trách nhiệm cũng là thách thức không nhỏ đối với mỗi quốc gia.

Sự phát triển vượt bậc và rủi ro tiềm tàng

Năm qua, thế giới đã chứng kiến bước tiến vượt bậc về khả năng của AI và việc sử dụng công nghệ này thông qua chatbot, nhân bản giọng nói, ứng dụng video... Công nghệ mang tính đột phá này tập trung ở một số công ty, quốc gia và được sử dụng hữu ích trong các lĩnh vực y tế công, giáo dục, ứng phó biến đổi khí hậu...

Tuy nhiên, tác hại tiềm tàng của AI làm gia tăng những quan ngại nghiêm trọng về thông tin sai lệch, tư tưởng phân biệt đối xử, xâm phạm quyền riêng tư, gian lận và nhiều hành vi vi phạm quyền con người.

Kết quả nghiên cứu cho thấy, mô hình ngôn ngữ AI mã nguồn mở mang tên Llama 2 của Tập đoàn Meta (chủ sở hữu của Facebook và Instagram) có chỉ số minh bạch cao nhất, song chỉ đáp ứng các tiêu chí về minh bạch ở mức 54%.

Các nhà khoa học của Đại học Stanford (Mỹ) đưa ra kết luận rằng, các mô hình AI thường thiếu tính minh bạch khi rất ít thông tin về cách thức thiết lập hoạt động của mô hình. Kết quả nghiên cứu cho thấy, mô hình ngôn ngữ AI mã nguồn mở mang tên Llama 2 của Tập đoàn Meta (chủ sở hữu của Facebook và Instagram) có chỉ số minh bạch cao nhất, song chỉ đáp ứng các tiêu chí về minh bạch ở mức 54%.

Đứng theo sau là mô hình GPT-4 của OpenAI và mô hình PaLM 2 của Google. Theo các nhà nghiên cứu, không tập đoàn công nghệ AI nào cung cấp thông tin về số lượng người dùng phụ thuộc vào mô hình AI mà họ chế tạo. Ngoài ra, phần lớn công ty AI không tiết lộ số lượng tài liệu có bản quyền được sử dụng trong việc thiết lập và vận hành mô hình AI.

Vấn đề minh bạch là ưu tiên hàng đầu trong quá trình hoạch định chính sách quản lý công nghệ AI ở các nước Liên minh châu Âu (EU) cũng như ở Mỹ, Anh, Trung Quốc, Canada cùng nhiều nước khác. Theo nhà nghiên cứu Rishi Bommasani, các công ty AI cần đạt được chỉ số minh bạch cao hơn nữa, đáp ứng các tiêu chí ở mức từ 80-100%.

Các công ty AI cần đạt được chỉ số minh bạch cao hơn nữa, đáp ứng các tiêu chí ở mức từ 80-100%.

Nhà nghiên cứu Rishi Bommasani

Đây là thước đo để các nhà hoạch định chính sách có thể đưa ra chính sách hiệu quả trong nỗ lực quản lý công nghệ AI. Theo đó, chỉ số minh bạch càng thấp thì sẽ càng khó có thể hoạch định chính sách và ngược lại. Tương tự như vậy đối với những lĩnh vực áp dụng khác.

Kể từ khi các mô hình AI tạo sinh của OpenAI ra mắt, các học giả hàng đầu và lãnh đạo các tập đoàn lớn như Tỷ phú Mỹ Elon Musk đã cảnh báo về các rủi ro liên quan AI, thậm chí kêu gọi tạm dừng phát triển các hệ thống AI mạnh trong sáu tháng.

Nhà khoa học Geoffrey Hinton tại Đại học Toronto (Canada), một trong những nhà tiên phong phát triển AI, cảnh báo công nghệ này đặt ra mối đe dọa cấp bách cho nhân loại hơn là biến đổi khí hậu. Ông Hinton cũng hối thúc chính phủ các nước trên thế giới hành động để ngăn chặn viễn cảnh máy móc kiểm soát xã hội loài người.

Đẩy nhanh việc phát triển các công cụ quản lý

Các nhà nghiên cứu đang nỗ lực định hướng giới hoạch định chính sách trên thế giới cách thức thiết lập quy định quản lý công nghệ AI đang phát triển mạnh mẽ. EU đang dẫn đầu nỗ lực quản lý AI và hy vọng vào cuối năm 2023 sẽ đưa ra bộ luật đầu tiên trên thế giới về quản lý AI.

Trong khi đó, với mục tiêu trở thành nước đi đầu thế giới trong lĩnh vực công nghệ AI, Anh sẽ đăng cai Hội nghị cấp cao đầu tiên về an toàn AI trong hai ngày 1 và 2/11 tới. Hội nghị dự kiến thu hút sự tham gia của khoảng 100 khách mời, trong đó có Phó Tổng thống Mỹ Kamala Harris và Giám đốc điều hành Google Demis Hassabis, cùng các học giả, nhà tiên phong trong lĩnh vực AI...

Hội nghị đặt trọng tâm thảo luận về nguy cơ tội phạm và các phần tử khủng bố có thể lợi dụng công nghệ tiên tiến này để chế tạo vũ khí hủy diệt hàng loạt. Chương trình nghị sự của hội nghị cũng tập trung vào các cuộc thảo luận về những tiến bộ khó lường của công nghệ, cũng như khả năng AI vượt khỏi tầm kiểm soát của con người.

Ngay trước thềm hội nghị, Thủ tướng Anh Rishi Sunak thông báo nước này sẽ thành lập Viện an toàn AI đầu tiên trên thế giới. Viện này sẽ kiểm tra, đánh giá và thử nghiệm các loại hình mới của AI để nắm bắt khả năng của từng mô hình mới, xác định tất cả rủi ro từ những tác hại đối với xã hội như quan điểm thiên vị và thông tin sai lệch cho đến những nguy cơ cao nhất.

Theo ông, Chính phủ Anh không vội vã kiểm soát AI mà sẽ xây dựng năng lực hàng đầu thế giới nhằm nắm bắt và đánh giá độ an toàn của các mô hình AI trong phạm vi quốc gia.

Các mô hình AI tiên tiến nhất hiện nay quá mạnh và có sức ảnh hưởng rất lớn, đòi hỏi phải có sự giám sát trong quá trình phát triển.

Ông Yoshua Bengio

Ông Yoshua Bengio, một trong những người đã đặt nền móng cho sự phát triển của AI, nhận định, các mô hình AI tiên tiến nhất hiện nay quá mạnh và có sức ảnh hưởng rất lớn, đòi hỏi phải có sự giám sát trong quá trình phát triển.

Do đó, chính phủ và các doanh nghiệp cần nhanh chóng đầu tư vào an toàn trong AI bởi lĩnh vực này đang phát triển nhanh hơn nhiều so với các biện pháp phòng ngừa hiện nay và chỉ có các chính phủ mới có thể đánh giá đúng nguy cơ của AI đối với an ninh quốc gia. Theo các nhà nghiên cứu hàng đầu về AI, các công ty AI và chính phủ nên dành ít nhất một phần ba ngân sách cho nghiên cứu và phát triển AI để bảo đảm an toàn và sử dụng các hệ thống đúng mục đích.

Trong thư kêu gọi được đưa ra trước Hội nghị cấp cao về an toàn AI tại Anh, các chuyên gia đã đề ra các biện pháp để chính phủ và các doanh nghiệp có thể áp dụng để giải quyết các rủi ro liên quan đến AI. Các chuyên gia nhấn mạnh, các chính phủ cũng nên buộc các công ty phải chịu trách nhiệm pháp lý cho những tổn hại có thể ngăn ngừa và lường trước từ các hệ thống AI của họ.

Ban cố vấn về AI do Tổng Thư ký Liên hợp quốc thành lập gồm khoảng 40 chuyên gia trong các lĩnh vực công nghệ, luật pháp và bảo vệ dữ liệu cá nhân, làm việc tại các học viện, cơ quan chính phủ và khu vực tư nhân.

Trong số các chuyên gia có ông Amandeep Singh Gill, đặc phái viên về công nghệ của Tổng Thư ký Liên hợp quốc; ông James Manyika, Phó Chủ tịch phụ trách AI tại Google và Alphabet; bà Mira Murati, Giám đốc kỹ thuật Công ty OpenAI - nhà phát triển chatbot ChatGPT “đình đám” và Bộ trưởng AI của Các Tiểu vương quốc Arab thống nhất (UAE) Omar al-Olama.

Theo Tổng Thư ký Liên hợp quốc, AI có thể làm suy yếu niềm tin vào các thể chế cũng như sự gắn kết xã hội và đe dọa chính nền dân chủ. Trước những thách thức mà AI tạo ra, ông kêu gọi Ban cố vấn về AI chạy đua với thời gian để kịp thời đưa ra các khuyến nghị về cách thức quản lý việc sử dụng AI vào cuối năm nay, cũng như xác định những rủi ro và cơ hội từ công nghệ này.

Theo Nhân Dân

Tin cùng chuyên mục

Xem tin theo ngày