聚焦大模型推理加速技术,华为云AI系统创新Lab发布一个关于高效解码的难题

聚焦大模型推理加速技术,华为云AI系统创新Lab发布一个关于高效解码的难题

活动规则

活动对象:华为云电销客户及渠道伙伴客户可参与消费满送活动,其他客户参与前请咨询客户经理

活动时间: 2020年8月12日-2020年9月11日

活动期间,华为云用户通过活动页面购买云服务,或使用上云礼包优惠券在华为云官网新购云服务,累计新购实付付费金额达到一定额度,可兑换相应的实物礼品。活动优惠券可在本活动页面中“上云礼包”等方式获取,在华为云官网直接购买(未使用年中云钜惠活动优惠券)或参与其他活动的订单付费金额不计入统计范围内;

活动对象:华为云电销客户及渠道伙伴客户可参与消费满送活动,其他客户参与前请咨询客户经理

      华为云AI系统创新Lab通过黄大年茶思屋发布一个关于大模型推理高效解码领域的难题--《无需侵入式改动与小模型辅助的LLM长文本生成高效解码技术》,核心诉求为:提出更高效的解码方法,在不需要改变模型结构、小模型额外辅助、额外训练的情况下,支持大batch推理。

      具体难题信息可通过如下链接查看,欢迎各位高校老师揭榜!

      https://www.chaspark.com/#/questions/1092125776076414976?sub=1092132907617951744