Trong tập podcast mới nhất của chuỗi chương trình "Beyond The Valley" mới được CNBC phát sóng, giáo sư Max Tegmark của Viện Công nghệ Massachusetts và giáo sư Yoshua Bengio, một trong những người được coi là "cha đẻ của AI", hiện đang giảng dạy tại trường đại học Université de Montréal, đã chia sẻ về mối quan ngại với trí tuệ nhân tạo tổng quát hay còn gọi là AGI. Thuật ngữ này thường dùng để chỉ các hệ thống AI thông minh hơn con người.

Nỗi sợ hãi của nhà khoa học bắt nguồn từ việc các công ty lớn nhất thế giới như Google, Meta đang nói về các "tác nhân AI". Đây được hiểu đơn giản là các ứng dụng phần mềm tự động thực hiện các vai trò chuyên biệt, có thể lập kế hoạch các bước, sử dụng các công cụ, tự sửa lỗi, lý giải các vấn đề với sự giám sát tối thiểu của con người; thay vì việc người dùng phải hướng dẫn mô hình từng bước riêng lẻ.

Giáo sự Yoshua Bengio (trái) và giáo sư Max Tegmark (phải) thảo luận về sự phát triển của trí tuệ nhân tạo trong cuộc trò chuyện với kênh truyền hình CNBC (Ảnh: CNBC)

Theo giáo sư Yoshua Bengio, với các "tác nhân AI", các hệ thống AI có thể thông minh như con người và có suy nghĩ riêng của chúng.

"Các nhà nghiên cứu AI đã lấy cảm hứng từ trí thông minh của con người để xây dựng trí thông minh của máy móc. Ở con người có sự kết hợp của trí thông minh thuần túy và các hành vi tác nhân để hiểu biết thế giới, sử dụng kiến thức để đạt được mục tiêu", giáo sư Bengio chia sẻ với CNBC.

"Hiện tại, đây cũng chính là cách chúng ta đang xây dựng AGI. Chúng ta đã biến chúng trở thành những tác nhân có hiểu biết về thế giới sau đó đánh giá và đưa những hành động phù hợp. Thực tế việc này là một đề xuất vô cùng nguy hiểm", giáo sư Bengio nói thêm.

Giáo sư của đại học Université de Montréal cũng nhấn mạnh, cách tiếp cận này giống với việc "tạo ra một loài mới hoặc một thực thể thông minh mới trên hành tinh này" và nguy hiểm là ở chỗ "không biết liệu chúng có hành xử theo cách phù hợp với nhu cầu của chúng ta hay không".

Cảnh báo thêm một lần nữa, giáo sư Bengio đặt câu hỏi: "Chúng ta có muốn cạnh tranh với những thực thể thông minh hơn mình không? Đây không phải là một canh bạc đáng tin cậy, đúng không? Vì vậy, chúng ta phải hiểu cách tự bảo vệ khi có thể trở thành mục tiêu của AI".

Trong khi đó giáo sư Max Tegmark của MIT cũng cho biết, chìa khóa nằm ở cái gọi là "AI công cụ". Đây là các hệ thống được tạo ra cho một mục đích cụ thể, được xác định hẹp, nhưng không nhất thiết phải là tác nhân. Ví dụ như công cụ AI có thể là một hệ thống giúp tìm ra phương pháp chữa ung thư hay giúp bạn vận hành xe tự hành tới nơi an toàn.

"Tôi nghĩ, theo hướng lạc quan là chúng ta có thể có hầu hết mọi thứ mong đợi với AI nếu chúng ta nhấn mạnh vào những tiêu chuẩn an toàn cơ bản trước khi mọi người bán các hệ thống AI mạnh mẽ nhất", giáo sư Tegmark nói.

"Họ (các công ty công nghệ) phải chứng minh rằng chúng ta có thể kiểm soát chúng. Sau đó, ngành công nghiệp sẽ đổi mới nhanh chóng để tìm ra cách thực hiện điều đó tốt hơn", giáo sư Max Tegmark cho hay.

Viện Future of Life Institute do giáo sư Max Tegmark làm chủ tịch đã kêu gọi tạm dừng phát triển các hệ thống AI có thể cạnh tranh với trí thông minh ở cấp độ con người. Cũng theo giáo sư Tegmark, bây giờ đã đến lúc hành động để kiểm soát AGI.

"Rõ ràng là con người đang điên rồ khi xây dựng một thứ gì đó thông minh hơn chúng ta rất nhiều trước khi chúng ta tìm ra cách kiểm soát nó".

Giám đốc điều hành của OpenAI, công ty khởi nghiệp về trí tuệ nhân tạo, Sam Altman cho biết OpenAI đang xây dựng AGI và cho biết nó sẽ xuất hiện sớm hơn mọi người nghĩ.

"Tôi đoán là chúng ta sẽ đạt được AGI sớm hơn hầu hết mọi người trên thế giới nghĩ. Tuy nhiên, điều đó sẽ ít quan trọng hơn với thế giới", Altman cho biết vào tháng 12.

Theo vtv.vn