Phương pháp mới giúp AI học nhanh hơn 100 lần
Quá trình đào tạo AI thường đòi hỏi mức năng lượng khổng lồ. Ảnh: SciTechDaily
Các công nghệ trí tuệ nhân tạo (AI), bao gồm các mô hình ngôn ngữ lớn (LLM), đang trở thành một phần quan trọng trong cuộc sống hàng ngày. Tuy nhiên, trung tâm dữ liệu hỗ trợ chúng tiêu tốn mức năng lượng khổng lồ. Chỉ riêng tại Đức, các trung tâm dữ liệu đã sử dụng khoảng 16 tỷ kWh điện trong năm 2020, chiếm khoảng 1% tổng năng lượng tiêu thụ của cả nước. Đến năm 2025, con số này dự kiến tăng lên 22 tỷ kWh.
Khi các ứng dụng AI trở nên phức tạp hơn, nhu cầu năng lượng của chúng sẽ tiếp tục tăng, đặc biệt là trong quá trình đào tạo mạng thần kinh nhân tạo. Để giải quyết thách thức này, Felix Dietrich, giáo sư về học máy tăng cường vật lý tại Đại học Kỹ thuật Munchen, Đức, cùng đồng nghiệp phát triển phương pháp đào tạo mới nhanh gấp 100 lần các phương pháp truyền thống mà vẫn duy trì độ chính xác tương tự. Đột phá này có tiềm năng giúp giảm đáng kể mức năng lượng cần thiết để đào tạo AI, SciTechDaily hôm 10/3 đưa tin.
Mạng thần kinh nhân tạo, cung cấp sức mạnh cho các nhiệm vụ AI như nhận dạng hình ảnh và xử lý ngôn ngữ, được mô phỏng theo não người. Chúng gồm nhiều nút thần kinh (hay neuron nhân tạo) kết nối với nhau, xử lý thông tin bằng cách gán các giá trị cho tín hiệu đầu vào. Khi đạt đến một ngưỡng nhất định, tín hiệu được chuyển đến lớp nút tiếp theo.
Quá trình đào tạo mạng thần kinh nhân tạo đòi hỏi lượng tính toán khổng lồ nên tiêu tốn rất nhiều điện. Ban đầu, các giá trị tham số được gán ngẫu nhiên. Hệ thống sau đó liên tục điều chỉnh các giá trị này qua nhiều lần lặp để cải thiện độ chính xác của dự đoán.
Trong nghiên cứu mới, thay vì lặp đi lặp lại việc xác định tham số giữa các nút, nhóm của Dietrich sử dụng xác suất. Phương pháp xác suất này dựa trên việc sử dụng các giá trị tại những vị trí quan trọng trong dữ liệu đào tạo, nơi các giá trị thay đổi mạnh và nhanh.
Mục tiêu của nghiên cứu mới là dùng phương pháp này để thu được những hệ thống động lực học tiết kiệm năng lượng từ dữ liệu. Những hệ thống như vậy thay đổi theo một số quy tắc nhất định qua thời gian, có thể hiện diện trong các mô hình khí hậu và thị trường tài chính.
"Phương pháp của chúng tôi cho phép xác định những tham số cần thiết với năng lượng tính toán tối thiểu. Điều này có thể giúp việc đào tạo mạng thần kinh nhân tạo trở nên nhanh hơn nhiều và tiết kiệm năng lượng hơn. Ngoài ra, chúng tôi nhận thấy rằng độ chính xác của phương pháp mới cũng tương đương với các mạng được đào tạo theo kiểu lặp đi lặp lại", Dietrich cho biết.
Theo vnexpress.net
Tin cùng chuyên mục
- Nokia chuẩn bị triển khai 5G tại Việt Nam 24.09.2024 | 13:58 PM
- Sinh động các chương trình trực tiếp tại Fanpage Báo Tuyên Quang online 03.01.2023 | 08:16 AM
- Thực hiện quy định về chuẩn hóa thông tin thuê bao di động 31.03.2023 | 16:13 PM
- Hưởng ứng ngày Chuyển đổi số quốc gia 10/10Chuyển đổi số vì một cuộc sống tốt đẹp hơn 09.10.2022 | 21:42 PM
- Sở Thông tin và Truyền thông: Diễn tập ứng phó sự cố an toàn thông tin mạng năm 2022 04.10.2022 | 17:30 PM
- Hướng dẫn trẻ em sử dụng mạng internet an toàn và hiệu quả 05.08.2022 | 08:27 AM
- Người dùng nên cập nhật Chrome 92 ngay để vá 9 lỗ hổng nghiêm trọng 21.08.2021 | 15:47 PM
- UBND tỉnh nghe báo cáo dự thảo đề án chuyển đổi số tỉnh Thái Bình giai đoạn 2021 - 2025, định hướng đến năm 2030 21.07.2021 | 19:16 PM
- Thiết bị đầu tiên chuyển suy nghĩ thành câu nói 19.07.2021 | 09:47 AM
- Tại sao không gộp các ứng dụng chống dịch thành một 'super app' 19.07.2021 | 09:48 AM
Xem tin theo ngày
-
Đoàn kiểm tra số 1921 của Bộ Chính trị thông qua dự thảo báo cáo kết quả kiểm tra đối với Ban Thường vụ Tỉnh ủy Thái Bình
- Bảo đảm tuyệt đối an ninh, an toàn trong sắp xếp, tổ chức lại đơn vị hành chính và xây dựng chính quyền hai cấp
- Trao giải cuộc thi trắc nghiệm trên internet tìm hiểu “Lịch sử Đảng bộ, lịch sử tỉnh Thái Bình”
- Đại hội Cháu ngoan Bác Hồ lần thứ XI năm 2025
- Công bố quyết định thành lập Đảng bộ HĐND tỉnh
- Phiên họp lần thứ nhất Ban Chỉ đạo của Chính phủ về phát triển khoa học, công nghệ, đổi mới sáng tạo, chuyển đổi số và Đề án 06
- Đoàn công tác thành viên Chính phủ làm việc với tỉnh Thái Bình
- Đoàn công tác thành viên Chính phủ kiểm tra tiến độ giải phóng mặt bằng tuyến đường bộ cao tốc CT.08, đoạn qua tỉnh Nam Định và Thái Bình
- Phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số là đột phá quan trọng hàng đầu
- Phấn đấu hoàn thành xóa nhà tạm, nhà dột nát cho hộ nghèo, cận nghèo, người có công trước 30/6/2025