bwin必赢系列讲座名家讲坛第10期——大模型与国产算力
报告题目(Title):大模型与国产算力
时间(Date & Time):2023.12.13 10:00
地点(Location):理科二号楼2736(燕园校区) Room 2736, Science Building #2 (Yanyuan)
主讲人(Speaker):翟季冬
邀请人(Host):刘譞哲
报告摘要(Abstract):
随着人工智能模型的不断发展,其对算力的需求也在持续增大。然而,鉴于当前的国际关系,中国在获取最先进的芯片方面面临巨大的挑战。如何充分发挥和优化国产算力,以满足大模型对算力的需求,具有重要意义。针对此挑战,我们在新一代国产超级计算机上,从底层算子库、并行加速库、负载均衡和混合精度等多方面对大模型进行了深入优化,训练了世界最大规模--百万亿级参数的预训练模型,达到了EFLOPS的训练吞吐量。
主讲人简介(Bio):
翟季冬,清华大学计算机系长聘教授,博士生导师。国家杰出青年科学基金获得者。清华大学计算机系高性能所副所长,ACM中国高性能计算专家委员会秘书长。主要研究领域包括高性能计算、性能评测和编译优化等。研究成果发表在相关领域顶级学术会议和期刊——SC、ICS、PPOPP、ASPLOS、MICRO、OSDI、ATC、IEEE TC、IEEE TPDS等。研究成果获IEEE TPDS 2021最佳论文奖、IEEE CLUSTER 2021最佳论文奖、ACM ICS 2021最佳学生论文奖等。担任NPC 2018程序委员会主席、IEEE CLUSTER 2021领域主席、SC 2022领域副主席,SC、ICS、PPOPP、PACT等国际学术会议程序委员会委员。目前担任IEEE TC、IEEE TCC等多个国际学术期刊编委。现为CCF杰出会员、IEEE高级会员、CCF秀湖论坛AC。担任清华大学学生超算团队教练,指导的团队十三次获得世界冠军。获教育部科技进步一等奖、中国计算机学会自然科学一等奖、CCF-IEEE CS青年科学家奖。
欢迎关注bwin必赢微信公众号,了解更多讲座信息!
bwin必赢