挑战基于IPEX-LLM生成式AI(AIGC)行业场景应用开发创新赛
赛题:基于IPEX-LLM生成式AI(AIGC)行业场景应用开发创新赛
报名时间:2024年9月25日–2024年11月15日
初赛作品递交时间:2024年12月13日
Intel®LLM Library for PyTorch(IPEX-LLM)是英特尔开源的大模型XPU加速库,用于在Intel CPU和GPU上运行LLM,适用的平台包括搭载集成显卡的个人电脑,配有Arc独立显卡的台式机等。这意味着用户可以在价格更亲民的笔记本或台式机上实现极低延迟的LLM本地运行,无需投资昂贵的硬件就可以进行LLM应用创新,从而令更多人从开源大语言模型的快速发展中受益。
IPEX-LLM支持多种低精度(例如INT4/NF4/FP4/INT5/INT8/FP8)实现,大幅降低模型的内存占用和计算量,同时保持较高的推理精度。与大语言社区生态友好结合,从而方便用户将大语言模型纳入到各类应用中。现已支持国内外多种模型并在IPEX-LLM上得到验证和优化。
参赛作品要求
参赛选手需要基于英特尔开源的IPEX-LLM大模型XPU加速库,在搭载集成显卡的个人电脑(AI PC)或配有Arc独立显卡的台式机上针对特定领域目标,利用已适配的框架构建新场景应用,并在英特尔平台上演示Demo。应用的种类包括但不限于:视频总结、辅助写作、会议纪要、网页处理、笔记整理、制定规划等等。
微信竞赛沟通群
请扫描竞赛客服助手二维码,
加入比赛官方群。
(添加时请备注开放原子大赛)
小伙伴们赶快参与比赛吧!
大奖等你拿!
特别说明:
1.原则上所有获奖作品需要开源,如有特殊情况需经终审评审专家集体决策同意可部分开源;
2.大赛最终解释权归开放原子开源基金会及共建方[英特尔中国有限公司]所有;
通知和免责声明
有关通知、免责声明和性能声明的详细信息,请见www.intel.cn/performanceindex
©英特尔公司版权所有。英特尔、英特尔标识以及其他英特尔商标是英特尔公司或其子公司在美国和/或其他国家的商标。其他的名称和品牌可能是其他所有者的资产。
https://mp.weixin.qq.com/s/p4LM2-bdO2nk4UjP2FxQZQ