望获实时Linux系统运行DeepSeek R1大模型成本低至千元内

DeepSeek凭借其V3和新推出的R1两款模型，实现了与OpenAI 4o和o1比肩的性能，同时成本仅为十分之一，为AI技术的普及提供了经济高效的解决方案。DeepSeek的崛起，不仅标志着中国AI技术的突破，更预示着全球AI市场将迎来一场新。

以下是详细的部署步骤，帮助您快速实现这一国产技术组合的落地应用。

硬件准备：

RK3588开发板：京博航友善NanoPC-T6（预装望获实时Linux）

工作主机：ubuntu笔记本电脑

部署步骤

从Hugging Face拉取DeepSeek-R1的1.5B蒸馏模型到x86平台：

二、配置模型转换脚本

执行模型转换脚本，等待转换完成：

四、部署模型

在RK3588平台，进入rknn-llm/rkllm-runtime/examples/rkllm_api_demo目录，生成llm_demo运行文件：

六、运行模型

在user : 后输入对话内容，测试模型的运行效果。

关于望获实时Linux系统望获实时Linux系统是国科环宇重点研发的嵌入式实时操作系统，具备强实时、高可靠、功能安全、智能化、兼容性强和国产生态的特性。不同于传统的微内核实时操作系统，完整兼容Linux生态环境的同时，提供强大的行业中间件支持，助力客户快速完成行业解决方案的构建。望获实时Linux系统致力于国产基础软硬件的产业链构建，与国产主流芯片及硬件平台适配，提供完整的国产化解决方案，保证功能和性能的同时，避免关键领域的卡脖子问题。