學術預告 首頁 > 學術科研 > 學術預告 > 正文
"兩校名師講堂"系列報告之第385期--支持大模型的分布式機器學習系統性能優化
作者:
供圖:
供圖:
日期:2023-10-16
來源:
講座主題:支持大模型的分布式機器學習系統性能優化
專家姓名:崔斌
工作單位:北京大學
講座時間:2023年10月22日 9:00-10:00
講座地點:煙臺東山賓館
主辦單位:煙臺大學計算機與控制工程學院
內容摘要:
機器學習系統是人工智能應用的重要基礎,其核心包括數據組織形式、模型計算方法以及硬件使用方式等。日益增長的模型和數據規模對現有系統帶來了嚴峻的挑戰。本次報告介紹了課題組自主研發的面向大模型的分布式深度學習框架--河圖。報告首先剖析了目前“大模型”發展情況,然后重點介紹了河圖面向不同大模型和硬件環境的優化進展以及在自動化并行訓練上的探索。最后,對機器學習系統的發展進行了展望。河圖系統已在GitHub開源 https://github.com/PKU-DAIR/Hetu。
主講人介紹:
崔斌,北京大學博雅特聘教授,計算機學院副院長,數據科學與工程研究所所長。研究方向包括數據庫、大數據管理和分析、機器學習系統等,在相關領域發表了200多篇學術論文。擔任中國計算機學會數據庫專委會副主任,DSE期刊主編,IEEE TKDE、VLDB Journal等期刊編委,VLDB 2024大會主席以及數十個國際會議的程序委員會委員。于2008年獲得微軟亞洲研究院的“微軟青年教授獎”,2009年獲得中國計算機學會 “CCF 青年科學家獎”,2014年獲教育部自然科學二等獎,2016年入選長江學者特聘教授。