程序员经验分享-hwhale

在未安装 Tensorflow 的情况下运行 Tensorflow 模型

2023-12-31

我有一个运行良好的 TF 模型，是用 Python 和 TFlearn 构建的。有没有办法在另一个系统上运行这个模型而不需要安装 Tensorflow？它已经经过预先训练，所以我只需要通过它运行数据即可。

我知道 tfcompile (在这里发帖 https://stackoverflow.com/questions/39514440/serve-tensorflow-model-without-installing-tensorflow），但设置起来似乎相当复杂。还有其他选择吗？


有没有办法在另一个系统上运行这个模型而不需要安装 Tensorflow？它已经经过预先训练，所以我只需要通过它运行数据即可。

Yes

训练完模型后。使用tf.python.tools.freeze_graph and tf.python.tools.optimize_for_inference_lib冻结并优化模型以在 Android 等其他设备上进行推理。

上面的输出将是

  1. 冻结图 protobuf 文件 (.pb)
  2. 优化的图 protobuf 文件 (.pb)

[这些函数会将模型的所有变量转换为常量运算并导出到 protobuf 文件]

使用优化的图 protobuf 文件并使用 Java 和其他 Tensorflow API 中可用的推理方法加载它。传递数据并获取输出。

[请注意，您没有安装完整的 Tensorflow，但您只需要推理库]

这里演示了一个简单的例子：

https://omid.al/posts/2017-02-20-Tutorial-Build-Your-First-Tensorflow-Android-App.html https://omid.al/posts/2017-02-20-Tutorial-Build-Your-First-Tensorflow-Android-App.html

它适用于 Android，但过程对于 Java 应该是相同的。

对于 C++ ：

本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系:hwhale#tublm.com(使用前将#替换为@)

tensorflow

neuralnetwork

TFLearn

在未安装 Tensorflow 的情况下运行 Tensorflow 模型 的相关文章

  • Keras 中的损失函数和度量有什么区别？ [复制]

    这个问题在这里已经有答案了 我不清楚 Keras 中损失函数和指标之间的区别 该文档对我没有帮助 损失函数用于优化您的模型 这是优化器将最小化的函数 指标用于判断模型的性能 这仅供您查看 与优化过程无关

  • keras 层教程和示例

    我正在尝试编码和学习不同的神经网络模型 我对输入维度有很多复杂性 我正在寻找一些教程 显示层的差异以及如何设置每个层的输入和输出 Keras 文档 https keras io layers core 向您展示所有input shape每层

  • Encog - 如何加载神经网络的训练数据

    The NeuralDataSet我在实际中看到的对象除了 XOR 之外什么都没有 它只是两个小数据数组 我无法从文档中找出任何内容MLDataSet 似乎所有内容都必须立即加载 但是 我想循环遍历训练数据 直到到达 EOF 然后将其算作

  • ValueError：维度 (-1) 必须在 [0, 2) 范围内

    我的python版本是3 5 2 我已经安装了keras和tensorflow 并尝试了官方的一些示例 示例链接 示例标题 用于多类 softmax 分类的多层感知器 MLP https keras io getting started s

  • Keras 通过设置种子获得不同的结果[重复]

    这个问题在这里已经有答案了 在keras中 每次运行都有很高的方差和不稳定的性能 为了解决这个问题 根据https keras io getting started faq how can i obtain reproducible res

  • 如何在anaconda python 3.6上安装tensorflow

    我使用 anaconda 包安装了新版本的 python 3 6 但是我无法安装张量流 总是收到这样的错误 tensorflow gpu 1 0 0rc2 cp35 cp35m win amd64 whl 在此平台上不受支持 如何在 ana

  • 错误：tensorflow：无法匹配检查点的文件

    我正在训练一个张量流模型 在每个时期之后我都会保存模型状态并腌制一些数组 到目前为止 我的模型执行了 2 个纪元 并且保存状态的文件夹包含以下文件 checkpoint model e knihy preprocessed txt e0 c

  • 没有带有张量板的图表

    我正在读一本关于 Tensorflow 的书 我发现了这段代码 from future import absolute import from future import division from future import print

  • 从tensorflow_cc和tensorflow_framework生成静态库

    据我了解 使用 bazel 我只能生产libtensorflow cc so and libtensorflow framework so 我需要生产静态库与位置无关 fPIC 因为稍后我会将它们链接到我自己的动态库 I found 这个答

  • Keras ImageDataGenerator 相当于 csv 文件

    我在文件夹中排序了一堆数据 如下图所示 我需要构建一个 DataIterator 以便将数据放入神经网络模型中 当数据是图像时 我找到了很多例子来解决这个问题 使用 Keras 类图像数据生成器及其方法流自目录 但当数据是 csv 结构时则

  • 在不同的 GPU 上同时训练多个 keras/tensorflow 模型

    我想在 Jupyter Notebook 中同时在多个 GPU 上训练多个模型 我正在使用 4GPU 的节点上工作 我想将一个 GPU 分配给一个模型并同时训练 4 个不同的模型 现在 我通过 例如 为一台笔记本选择 GPU import

  • 可视化 TFLite 图并获取特定节点的中间值？

    我想知道是否有办法知道 tflite 中特定节点的输入和输出列表 我知道我可以获得输入 输出详细信息 但这不允许我重建发生在Interpreter 所以我要做的是 interpreter tf lite Interpreter model

  • ValueError：没有为“dense_input”提供数据

    我正在使用以下简单的代码使用tensorflow加载csv并使用keras执行建模 无法弄清楚这个错误 import tensorflow as tf train dataset fp tf keras utils get file fna

  • 对于只有 10000 个单词的字典来说，真正需要什么嵌入层 output_dim？

    我正在训练一个 RNN 其单词特征集非常少 大约 10 000 个 我计划在添加 RNN 之前从嵌入层开始 但我不清楚真正需要什么维度 我知道我可以尝试不同的值 32 64 等 但我宁愿先有一些直觉 例如 如果我使用 32 维嵌入向量 则每

  • Tensorflow 中的自定义资源

    由于某些原因 我需要为 Tensorflow 实现自定义资源 我试图从查找表实现中获得灵感 如果我理解得好的话 我需要实现3个TF操作 创建我的资源 资源的初始化 例如 在查找表的情况下填充哈希表 执行查找 查找 查询步骤 为了促进实施 我

  • GradientTape 根据损失函数是否被 tf.function 修饰给出不同的梯度

    我发现计算的梯度取决于 tf function 装饰器的相互作用 如下所示 首先 我为二元分类创建一些合成数据 tf random set seed 42 np random seed 42 x tf random normal 2 1 y

  • 异常：加载数据时 URL 获取失败

    我正在尝试设置我的机器来运行 Tensorflow 2 我从未使用过 Tensorflow 只是下载了 Python 3 7 我不确定这是否是我的机器的问题 我按照上面列出的安装说明进行操作TensorFlow 的网站 https www

  • 张量流中的复杂卷积

    我正在尝试运行一个简单的卷积 但包含复数 r np random random 1 10 10 10 i np random random 1 10 10 10 x tf complex r i conv layer tf layers c

  • tf.gather_nd 直观上是做什么的？

    你能直观地解释一下或者举更多例子吗tf gather nd用于在 Tensorflow 中索引和切片为高维张量 我读了API https www tensorflow org api docs python tf gather nd 但它保

  • 使用预训练的 word2vec 初始化 Seq2seq 嵌入

    我对使用预训练的 word2vec 初始化tensorflow seq2seq 实现感兴趣 我已经看过代码了 嵌入似乎已初始化 with tf variable scope scope or embedding attention deco

随机推荐

  • 将从 nuget 下载的组件添加到工具箱的推荐方法是什么？

    我有一个 C Windows 窗体项目 其中使用通过 nuget 获得的组件 现在我想知道将此组件添加到设计器中的工具箱的正确方法是什么 我应该在硬盘上制作该组件的单独副本并从那里添加它 还是应该从项目的包文件夹中添加它 或者可能做一些完全

  • Google Cloud Run / 域映射是否支持 ALIAS 记录？

    由于它可以在 Heroku 通配符 CNAME 上使用 因此 google cloud run 可以配置单个 ALIAS 类型记录吗 300 IN ALIAS ghs googlehosted com Google Cloud Run 需要

  • 带有下拉建议的文本框

    目前 我的 ASP Net C 2 0 网站上有一个数据绑定下拉列表 其中包含大约 400 个项目 我想将其替换为类似于谷歌搜索中的文本框的内容 您在其中输入字母 并且仅弹出以这些字母开头的条目 实施它的好方法是什么 是否存在任何人都可以建

  • Maven 打包排除 jars 正则表达式

    我在 EAR 中有一些简单的 WAR 我需要排除除 richafeces jar 之外的所有战争库 我在包装中尝试过这个排除 regex WEB INF lib richfaces jar whitout success 怎么做 如果我使用

  • crossfilter中的reduceAdd、reduceSum、reduceRemove函数是什么？应该如何使用它们？

    有人可以用简单的术语解释一下reduce函数如何及其参数reduceAdd reduceSum reduceRemove工作于crossfilter 请记住 映射缩减通过特定维度的键来缩减数据集 例如 让我们使用带有记录的交叉过滤器实例 n

  • 通过python上传JSON到谷歌云存储

    我正在尝试上传 JSON 我必须到谷歌云存储 我可以手动执行此操作 因此我知道它可以工作 但现在想编写一个自动执行此操作的 python 脚本 import boto import gcs oauth2 boto plugin import

  • 具有自定义 JAX-B 绑定的 JAX-WS MarshalException：无法将类型“java.lang.String”封送为元素

    我似乎对 Jax WS 和 Jax b 协同工作有疑问 我需要使用一个具有预定义 WSDL 的 Web 服务 执行生成的客户端时 我收到以下错误 javax xml ws WebServiceException javax xml bind

  • Visual Studio 实体框架向导在 MySQL 上崩溃[重复]

    这个问题在这里已经有答案了 在使用实体框架向导对 MySQL 连接执行任何操作期 间 它会在第二页上崩溃而不会出现任何错误 问题与中相同实体框架向导在 MySQL 上崩溃 https stackoverflow com questions

  • Git-SVN 清除身份验证缓存

    如何让 git svn 忘记 svn 身份验证详细信息 我们有一台运行 Windows Server 2008 的配对机器 在该机器上有一个 git 存储库 并且我们签入到中央 subversion 存储库 我希望 git 在每次签入时提示

  • 嵌套目录中的 Symfony 2 项目

    我需要在生产服务器上的嵌套目录中部署 Symfony 2 项目 实际上 这意味着所有 URL 都以 subdirectory 路径为前缀 即 http host com subdirectory project web app php su

  • 导入错误：没有名为 xlwt 的模块

    我的系统 Windows Python 2 7 我下载了一个包并想将其包含在我的脚本中 解压包后 这是我的文件夹结构 Work xlwt 0 7 3 contains a setup py xlwt 包含 init py除其他外 我的脚本从

  • 如何从Python日期时间对象中删除秒？ [复制]

    这个问题在这里已经有答案了 我有一个 python 日期时间对象 我想在网站上显示它 但是时间以 hh mm ss 格式显示 我想以 hh mm 格式显示它 我已尝试按照以下方式使用替换方法 message timestamp replac

  • 使用带有附加属性的“styled()”MUI 系统实用程序 (Typescript)

    我正在使用 MUI System v5 开发一个新项目 我在用着styled 这里的实用程序 不是样式组件 用于设计和创建简单的 UI 组件 该项目采用 TypeScript 我现在有很多困难 因为我不知道是否以及如何将道具传递给这些组件

  • jquery 中的 .clone() 方法不复制值[重复]

    这个问题在这里已经有答案了 可能的重复 没有内容的文本框的 Jquery 克隆 https stackoverflow com questions 4366159 jquery clone of a textbox without the

  • 用于将文本复制到剪贴板的独立于平台的工具

    我正在尝试编写一个函数将字符串参数复制到剪贴板 我打算在我一直在编写的 Python 脚本中使用它 这是我到目前为止所拥有的 在另一个堆栈溢出帖子中找到了大部分此片段 from tkinter import Tk def copy to c

  • 用Python在文件中间插入行？

    有没有办法做到这一点 假设我有一个文件 其中包含如下名称列表 Alfred Bill Donald 我如何在第 x 行 本例中为 3 插入第三个名字 Charlie 并自动将所有其他名字发送到一行 我见过其他类似的问题 但没有得到有用的答案

  • PUT 和 DELETE HTTP 请求方法有什么用处？

    我从未使用过 PUT 或 DELETE HTTP 请求方法 我的倾向是 当系统 我的应用程序或网站 的状态可能不受影响 如产品列表 时使用 GET 而当系统状态 如下订单 受到影响时 我倾向于使用 POST 这两个不是总是足够的 还是我错过

  • 布尔玛旋转木马没有响应

    我正在尝试将 bulma carousel 合并到我的 React 应用程序中 但它似乎不起作用 我尝试使用它来实现它布尔玛旋转木马 https wikiki github io components carousel 这个文档也是如此 但

  • Blazor 服务器客户端中的引导工具提示问题

    I am trying to get the formatting right for the tooltips but i cant figure out how to The code below works perfectly

  • 在未安装 Tensorflow 的情况下运行 Tensorflow 模型

    我有一个运行良好的 TF 模型 是用 Python 和 TFlearn 构建的 有没有办法在另一个系统上运行这个模型而不需要安装 Tensorflow 它已经经过预先训练 所以我只需要通过它运行数据即可 我知道 tfcompile 在这里发

热门标签