9月14日 舒瑶博士学术报告

发布时间:2026-09-01

报告题目：Breaking the Gradient Barrier: Towards Efficient Zeroth-Order Optimization for Large Language Models

主讲人：舒瑶博士，香港科技大学（广州） 

报告时间：2026年9月14日（周一），16:30-17:30

报告地点：计算机学院A501

主持人：王晓教授

摘要：

The practical deployment and finetuning of Large Language Models (LLMs) are increasingly hindered by the "gradient barrier," where gradients are often inaccessible or memory-intensive. To overcome this, efficient black-box optimization has become crucial for modern AI systems. In this talk, we will systematically address this challenge by a comprehensive suite of zeroth-order methods. We will introduce our recent works on minimizing gradient estimation errors through the historical trajectory and policy optimization, alongside the novel applications on discrete prompt optimization. We will also discuss the construction of robust adaptive update mechanisms, demonstrating how to bridge optimization theory with practical LLM applications.

主讲人简介：

舒瑶博士现任香港科技大学（广州）人工智能学域助理教授（副研究员），曾入选广东省人工智能与数字经济实验室（深圳）“天才新星”计划，并于2023年作为“技术大咖”加入腾讯担任高级研究员。舒瑶博士于2022年获得新加坡国立大学计算机学院博士学位。攻读博士期间，他凭借卓越的研究成果荣获 IMDA 计算卓越奖（最佳博士论文奖）及院长研究生卓越研究奖。舒瑶博士的研究致力于开发兼具理论深度与实用价值的人工智能学习与优化算法。目前，他正在主持数项省级、企业科研项目，并在 ICML, NeurIPS, ICLR, AAAI, ACL等顶级人工智能会议上发表了近40余篇高水平论文并多次荣获奖项，包括ICML 2026 Spotlight、NeurIPS 2024 Spotlight及EMNLP 2025 SAC Highlights Award。他目前受邀担任人工智能顶级会议ICML、NeurIPS、ICLR 领域主席和AAAI高级程序委员会委员以及人工智能期刊TMLR的行动编辑，并曾荣获 NeurIPS & UAI 2025杰出审稿人 (Top Reviewer) 及 ICLR 2025优秀审稿人 (Notable Reviewer)。