人工智能之Tensorflow程序结构

TensorFlow作为分布式机器学习平台,主要架构如下:

网络层:远程过程调用(gRPC)和远程直接数据存取(RDMA)作为网络层,主要负责传递神经网络算法参数。
设备层:CPU、GPU等设备,主要负责神经网络算法中具体的运算操作。
运行时核心:为Tensorflow中算法操作的具体实现,如卷积操作、激活操作等。

  • 分布运行时:主机(Master)用于构建子图,切割子图为多个分片,不同子图分片运行在不同的设备上。Master还负责分发子图切片到Worker。Worker在设备上调度执行子图操作,并负责向其他执行器发送和接收图操作的运行结果。

API: API 把TensorFlow分割为前端和后端,前端 (Python/C++/Java Client/Go)基于API触发TensorFlow后端程序运行。
训练库和推理库:是模型训练和推导 的库函数,为用户开发应用模型使用。

TensorFlow的数据流图是由节点和边组成的有向无环图。Tensor代表数据流图中的边,Flow代表数据流图中节点所做的操作。

TensorFlow将程序分为两个独立的部分:

  1. 定义并构建神经网络结构图:包括激活函数定义、损失函数定义、分类模型定义等。
  2. 执行神经网络模型,包括数据集输入、初始赋值及通过会话编译运行等。

示例如下:

(1)定义各种张量结构的变量,然后建立一个数据流图,在数据流图中规定各个变量之间的计算关系,最后对数据流图进行编译,编译之后把需要计算的输入放进去,形成数据流,从而形成输出值。

python 复制代码
import tensorflow as tf
t=tf.add(8,9)
print(t) 
#数据流图中节点对应的是一个API中操作,并没有真正去运行

(2)TensorFlow涉及的运算都要放在图中,而图的运行只发生在会话中,开启会话后,就可以用数据去填充节点,进行运算,关闭会话后就不能进行计算。

会话提供了操作运行和Tensor求值的环境。

python 复制代码
import tensorflow as tf
tf.compat.v1.disable_eager_execution()
#创建图
one=tf.constant([1.0,2.0])
two=tf.constant([3.0,4.0])
oper=one*two

#创建会话
sess=tf.compat.v1.Session()
#计算oper
print(sess.run(oper))
sess.close()

神经完了结构图的定义和执行分开设计,所以TensorFlow能够多平台工作以并行执行。

相关推荐
小小龙学IT7 分钟前
Python Polars 高性能数据处理引擎深度解析
开发语言·python·rust·1024程序员节
智能运维指南7 分钟前
企业运维监控平台哪家好?2026年五大全栈可观测方案对比与选型推荐
大数据·运维·人工智能
STQY燊桐启元(深圳)电子科技8 分钟前
高导热型电磁抑制吸波材料:当“导热”不再是吸波片的附属功能
人工智能·导热片·电磁抑制吸波材料、·导热绝缘
csdn_aspnet13 分钟前
JavaScript 未排序数组中第 k 个最小/最大元素 (预期线性时间)
python
quantdash_cc14 分钟前
如何利用标的信息为研究股票池补充名称和交易所信息?
开发语言·python·pandas·量化交易·1024程序员节·股票数据·quantdash
数字化转型分享点滴15 分钟前
机加工企业上大数据分析系统有哪些容易踩的坑?
python·1024程序员节
Dawson Zhu16 分钟前
【CUDA编程入门⑥】CPU多线程并行优化:OpenMP、NUMA与SIMD向量化
人工智能·语言模型·架构·aigc·agi
今天背单词了吗98025 分钟前
AI 网关:大模型时代的统一接入与安全防线
网络·人工智能·安全·ai·1024程序员节
碧海银沙音频科技研究院30 分钟前
基于炬芯平台ATS308X多模型兼容语音识别算法
人工智能·算法·语音识别
女神下凡37 分钟前
芯参谋(69):LED恒流驱动芯片电路设计指南
arm开发·人工智能·单片机·嵌入式硬件·设计规范