LLM Accelerator：使用参考文本无损加速大语言模型推理
作者：杨南 编者按：如今，基础大模型正在诸多应用中发挥着日益重要的作用。大多数大语言模型的训练都是采取自回归的方式进行生成，虽然自回归模型生成的文本质量有所保证，但却导致了高昂的推理成本和长时间的延迟。由于大模型的参数量巨大、推理成本高，因此如何在大规模部署大模型的过程中降低成本、减小延迟是一个关键课题。针对此问题，微软亚洲研究院的研究员们提出了一种使用参考文本无损加速大语言模型推理的方法 LLM...
Large-language models for automatic cloud incident management
| Rujia Wang, Chetan Bansal, Supriyo GHOSH, Tom Zimmermann, Xuchao Zhang, and Saravan Rajmohan
This research was accepted by the IEEE/ACM International Conference on Software Engineering (ICSE) (opens in new tab), which is a forum for researchers, practitioners, and educators to gather, present, and discuss the most recent innovations, trends, experiences, and issues in…
Highlights from CHI 2023
The ways in which people are able to interact with technologies can have a profound effect on a technology’s utility and adoptability. Building computing tools and services around people’s natural styles of work, communication, and play can give technology the…
Microsoft at EuroSys 2023: Systems innovation across the stack to help support an easier, faster, safer, and smarter cloud
| Rodrigo Fonseca
EuroSys 2023 (opens in new tab) is the premier systems conference in Europe, and 2023 marks its 18th edition. Sponsored by ACM SIGOPS Europe and hosted May 8 to May 12, the conference covers a wide range of topics, including…
The Microsoft AI for Health program: Solving the world’s biggest health issues, one life at a time
The AI for Health program has partnered with over 200 grantees on projects designed to accelerate medical research, build research capabilities, increase global health insights, and address health inequities.
对话陈卫：为什么AI大模型时代更需要计算机理论研究？
2021年12月，微软亚洲研究院成立了理论中心，由微软亚洲研究院高级研究员陈卫博士担任中心主任。从高中第一次接触编程起，陈卫就对计算机产生了浓厚的兴趣并结下了不解之缘。在获得保送北京大学数学系资格的情况下，陈卫还是通过高考进入了清华大学计算机系，由此开启了计算机理论的学习与研究生涯。 在康奈尔大学读博时，陈卫的研究偏向分布式计算理论，这是他的第一个主要研究方向，也是他加入微软亚洲研究院系统组后持续...
作者：机器学习组 编者按：如果问华语乐坛近期产量最高的歌手是谁，“AI 孙燕姿”一定有姓名。歌迷们先用歌手的音色训练 AI，再通过模型将其他歌曲转换成以歌手音色“翻唱”的歌曲。语音合成技术是“AI 孙燕姿”的背后支持。广义的语音合成包含文本到语音合成（Text to Speech，TTS）、声音转换等。在 TTS 领域，微软亚洲研究院机器学习组和微软 Azure 语音团队早已深耕多年，并在近期推出...
Research Focus: Week of May 8, 2023
In this issue: Microsoft researchers win four more awards; AutoRXN automates calculations of molecular systems; LLM accelerator losslessly improves the efficiency of autoregressive decoding; a frequency domain approach to predict power system transients.
ICSE 2023｜为计算平台的高质量运行保驾护航
ICSE 是软件工程领域公认的权威国际学术顶会。自1975年创办以来，ICSE 大会持续为研究人员和相关从业者输送着软件工程领域中最新的理论创新、技术趋势与研究成果。本届 ICSE 大会接受了多篇来自微软亚洲研究院的成果，在云计算高速发展的当下，更需要研究员们不断深耕，发掘研究洞见，为云平台的高质量运行保驾护航。 论文链接：https://www.microsoft.com/en-us/resea...