本文内容节选自由msup主办的第七届TOP100summit,时任爱奇艺技术产品中心计算云团队助理研究员张磊分享的《基于CPU的深度学习推理部署优化实践》实录。
分享者张磊,就职于爱奇艺技术产品中心计算云团队担任助理研究员,负责云平台上深度学习应用的优化落地方案。加入爱奇艺之前在英特尔亚太研发有限公司担任图形软体工程师,负责底层软体设计和实现,对CPU,GPU 上应用性能分析和优化有丰富的经验。
编者按:2018年11月30日-12月3日,第七届全球软体案例研究峰会在北京国家会议中心盛大开幕,现场解读2018年「壹佰案例榜单」。本文为爱奇艺技术产品中心计算云团队助理研究员张磊分享的《爱奇艺基于CPU的深度学习推理服务优化实践》案例实录。
提纲:
- 案例来源
- 深度学习推理服务及优化
- 基于CPU深度学习推理服务优化实践
- 案例结果及分析
- 启示与展望
01案例来源
爱奇艺与AI
爱奇艺是一家以在线视频播放为主要业务的互联网公司,内部有很多视频应用的场景。为了给用户提供更好的视频播放体验,我们已将AI技术深入到业务线每一个领域,通过深度学习或AI的技术,让视频生产和播放过程更加智能与高效。