手把手教您如何本地部署DeepSeek

U发布 · 发表于 2025-3-27 15:47:18

本帖最后由 U发布于 2025-3-27 15:47 编辑

微信图片_20250221165925.jpg

最近DeepSeek的热度水涨船高，腾讯，华为，小米，百度等多家知名企业纷纷接入DeepSeek，共同探索AI技术的新边界。此外，广州和深圳的政务系统也开始部署DeepSeek大模型，以提升政务服务的质量和效率。那么，什么是DeepSeek？

微信图片_20250221165810.jpg

DeepSeek 是一款功能强大、应用广泛的人工智能平台，通过大规模语言模型和深度学习技术，为各行各业提供智能化的解决方案。它在自然语言处理、代码生成、数据分析等领域展现了显著的技术优势，同时注重数据隐私和安全，支持本地化部署。未来，DeepSeek 有望成为推动AI技术发展和行业应用的重要力量。

微信图片_20250219152527.jpg

近日，成功完成了DeepSeek 70B大模型的本地化部署。DeepSeek 具备强大的自然语言处理和生成能力，能够广泛应用于智能客服、内容创作、数据分析等多个场景。UISRC技术资源将不断推动技术创新与应用落地，为客户提供更加优质的产品和服务，为行业发展注入新的活力。

微信图片_20250221163852.jpg

DeepSeek的本地化部署为FPGA和嵌入式行业带来了智能化、自动化的开发工具，能够显著提升开发效率、降低技术门槛，并推动行业创新。未来，随着DeepSeek技术的进一步成熟，FPGA和嵌入式系统开发将变得更加高效、灵活和普及。下面，分享一下自己实现本地化部署的一些经验和测试。

经过多次对比硬件配置，使用AMD7950X的处理器，更符合高多线程性能的生产力需求；相比较32G和64G内存，选用96G DDR5内存，适合需要处理超大内存需求的场景，如数据分析、虚拟化、云计算等高性能应用；3090显卡相比较其他而言，适合大显存的任务，比如深度学习。
选择两张英伟达3090显卡，更有性价比，不但能够扩展显存，提升计算性能和任务吞吐量，而且使用时有更好的扩展性和容错能力，适配DeepSeek这种超大规模的语言模型。硬件配置的准确选型，成功完成了70B本地化部署。

微信图片_20250220103110.jpg

在DeepSeek上测试编写了一些代码，在龙芯2k2000上运行，上板验证成功，完成了图像的灰度处理。

在FPGA方面使用了MLK-F201-PH1A90安陆国产FPGA开发板，DeepSeek成功写出了UART回环实验,测试下来无误码,不丢包。

微信图片_20250221131938.jpg

DeepSeek并且可以学习并评价米联客的IIC控制代码,经自己的改进建议优化后成功配置RTC时钟芯片。进一步验证了其在编程辅助和自动化开发方面的强大能力。通过实际测试，DeepSeek不仅能够快速生成高质量的代码片段，还能根据开发者的需求进行智能优化和调试，极大地提升了开发效率。

微信图片_20250221131948.jpg

通过以下步骤，您可以在本地环境中运行 DeepSeek。要确保所有依赖项都已正确安装，并且端口和配置文件路径正确。如果你在此过程中遇到问题，可以参考 DeepSeek 的官方文档或UISRC.COM社区支持以获取进一步的帮助。

微信图片_20250221155557.jpg

通过优化硬件配置和软件架构，成功将DeepSeek 70B部署在本地服务器上，确保了模型的高效运行和低延迟响应。这一突破性进展，使得企业可以在私有环境中充分利用大模型的强大能力，同时避免了云端部署可能带来的数据泄露风险。未来，UISRC技术资源将继续深耕AI技术，提升企业智能化发展，开启AI赋能的新篇章。

微信图片_20250327112745.jpg

微信扫一扫 分享朋友圈

手把手教您如何本地部署DeepSeek

微信扫一扫分享朋友圈