发布日期: 2025/03/05 06:30
近日,宇芯成功在全志T527 Linux系统上本地部署并运行了DeepSeek-R1 1.5B模型。
基于宇芯自研的Ubuntu系统,研发团队在4GB内存的宇芯T527开发板上,借助Ollama框架实现了该轻量级语言模型的高效运行。
这一突破不仅彰显了宇芯数码在低功耗、低成本AI解决方案领域的技术实力,也为客户的AI应用开发提供了更加可靠的支持。
全志T527是一款面向AI计算的8核Cortex-A55 SoC,广泛应用于物联网、智能家居、边缘计算等领域。宇芯自研的T527开发板基于T527设计,支持4GB内存,并配备多种高速接口,兼具高能效比与灵活扩展性。
此次DeepSeek-R1模型的成功部署,充分验证了T527在端侧AI推理上的潜力,为在嵌入式设备上运行AI模型提供了全新的可能性。
DeepSeek-R1 1.5B模型是一款轻量级语言模型,拥有15亿参数,在文本生成、对话系统、代码补全等任务上表现出色。且该模型支持 Linux、Windows、macOS 及 ARM 设备,适用于嵌入式平台,开发者无需依赖云端即可运行 AI 模型。
此次成功部署,意味着开发者可以在边缘设备上运行复杂的AI模型,为智能客服、个性化推荐等应用场景提供更高效的解决方案。