问题背景

我用OpenNMT 在服务器上训练了一个模型，保存的模型会被部署在另外一个没有GPU的机子上。问题来了，在GPU上训练的模型在CPU下是不能跑的。

解决办法

定义CPU计算

device = torch.device('cpu')

我的代码本来报错的地方是OpenNMT 下的 model_builder.py里面的261行处：

model.to(device)

这会把内容传到了GPU中，而机子又没有GPU，所以就报错了。
我就在这个代码之间，加了定义CPU的代码，改变device，让内容传到CPU中。
在这里插入图片描述
最后运行成功！

这篇文章在定义了CPU后还有其他的操作，但是我也没有用上，大家有需要自行尝试。

参考文献：
如何利用GPU训练模型并在CPU使用已经训练好的模型(PyTorch)
pytorch】gpu训练的模型无法在cpu下使用问题解决
pytorch在gpu训练加载模型,训练与测试在不同机器上遇到的问题总结

# 深度学习 # pytorch # python
Logo
技术共进，成长同行——讯飞AI开发者社区

技术共进，成长同行——讯飞AI开发者社区

更多推荐

大数据领域数据架构的人工智能融合应用

随着企业数据规模以年均40%的速度爆炸式增长（Gartner, 2023），传统数据架构在处理多模态数据、支撑实时智能决策时面临效率瓶颈。如何通过AI实现数据治理的自动化与智能化机器学习如何优化数据存储与查询效率深度学习模型在实时数据流处理中的应用范式智能决策系统与数据中台的架构耦合机制背景部分定义核心概念与技术演进路径核心章节解析融合架构的技术组件与算法实现实战篇提供完整的端到端解决方案应用篇呈

avatar 讯飞AI开发者社区

JWT原理

例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。提示：以下是本篇文章正文内容，下面案例可供参考提示：这里对文章进行总结：例如：以上就是今天要讲的内容，本文仅仅简单介绍了pandas的使用，而pandas提供了大量能使我们快速便捷地处理数据的函数和方法。

avatar 讯飞AI开发者社区
cover

实战指南|智慧碳中和管理系统搭建全流程解析

avatar 讯飞AI开发者社区