Tensorflow中使用cpu和gpu有什么区别

 更新时间:2022年05月16日 14:48:16   作者:风华明远  
这篇文章主要介绍了Tensorflow中使用cpu和gpu有什么区别,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教

Python客栈送红包、纸质书

使用cpu和gpu的区别

在Tensorflow中使用gpu和cpu是有很大的差别的。在小数据集的情况下,cpu和gpu的性能差别不大。

不过在大数据集的情况下,cpu的时间显著增加,而gpu变化并不明显。

不过,我的笔记本电脑的风扇终于全功率运行了。

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
import tensorflow as tf
import timeit
import numpy as np
import matplotlib.pyplot as plt
def cpu_run(num):
  with tf.device('/cpu:0'):
    cpu_a=tf.random.normal([1,num])
    cpu_b=tf.random.normal([num,1])
    c=tf.matmul(cpu_a,cpu_b)
  return c
def gpu_run(num):
  with tf.device('/gpu:0'):
    gpu_a=tf.random.normal([1,num])
    gpu_b=tf.random.normal([num,1])
    c=tf.matmul(gpu_a,gpu_b)
  return c
k=10
m=7
cpu_result=np.arange(m,dtype=np.float32)
gpu_result=np.arange(m,dtype=np.float32)
x_time=np.arange(m)
for i in range(m):
  k=k*10
  x_time[i]=k
  cpu_str='cpu_run('+str(k)+')'
  gpu_str='gpu_run('+str(k)+')'
  #print(cpu_str)
  cpu_time=timeit.timeit(cpu_str,'from __main__ import cpu_run',number=10)
  gpu_time=timeit.timeit(gpu_str,'from __main__ import gpu_run',number=10)
  # 正式计算10次,取平均时间
  cpu_time=timeit.timeit(cpu_str,'from __main__ import cpu_run',number=10)
  gpu_time=timeit.timeit(gpu_str,'from __main__ import gpu_run',number=10)
  cpu_result[i]=cpu_time
  gpu_result[i]=gpu_time
print(cpu_result)
print(gpu_result)
fig, ax = plt.subplots()
ax.set_xscale("log")
ax.set_adjustable("datalim")
ax.plot(x_time,cpu_result)
ax.plot(x_time,gpu_result)
ax.grid()
plt.draw()
plt.show()

在这里插入图片描述

蓝线是cpu的耗时,而红线是gpu的耗时。

一些术语的比较(tensorflow和pytorch/cpu和gpu/)

tensorflow和pytorch

  • pytorch是一个动态框架,tensorflow是一个静态框架。
  • tensorflow是一个静态框架体现在:需要先构建一个tensorflow的计算图,构建好之后这样的一个计算图是不能变的,然后再传入不同的数据进去进行计算。
  • 这种静态框架带来的问题是:固定了计算的流程,势必带来不灵活性,如果要改变计算的逻辑或者是随着时间变化的计算逻辑,这样的动态计算tensorflow是是无法实现的。
  • pytorch是一个动态框架,和python的逻辑一样,对变量做任何操作都是灵活的。
  • 一个好的框架需要具备三点:(1)对大的计算图能方便的实现(2)能自动求变量的导数(3)能简单的运行在GPU上。这三点pytorch都可以达到
  • tensorflow在gpu上的分布式计算更为出色,在数据量巨大的时候效率比pytorch要高。企业很多都是用的tensorflow,pytorch在学术科研上使用多些。
  • pytorch包括三个层次:tensor/variable/module。tensor即张量的意思,由于是矩阵的运算,所以适合在矩阵上跑。variable就是tensor的封装,封装的目的就是为了能够保存住该variable在整个计算图中的位置,能够知道计算图中各个变量之间的相互依赖关系,这样就能够反向求梯度。module是一个更高的层次,是一个神经网络的层次,可以直接调用全连接层、卷积层等神经网络。

cpu和gpu

  • cpu更少的核,但是单个核的计算能力很强
  • gpu:更多的核,每个核的计算能力不如cpu,所以更适合做并行计算,如矩阵计算,深度学习就是很多的矩阵计算。

cuda

  • 直接写cuda代码就类似写汇编语言
  • 比cuda高级的是cudnn
  • 比cudnn高级的是用框架tensorflow/caffe/pytorch

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

蓄力AI

微信公众号搜索 “ 脚本之家 ” ,选择关注

程序猿的那些事、送书等活动等着你

原文链接:https://blog.csdn.net/weixin_42272768/article/details/105427184

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若内容造成侵权/违法违规/事实不符,请将相关资料发送至 reterry123@163.com 进行投诉反馈,一经查实,立即处理!

相关文章

  • python XlsxWriter模块创建aexcel表格的实例讲解

    python XlsxWriter模块创建aexcel表格的实例讲解

    今天小编就为大家分享一篇python XlsxWriter模块创建aexcel表格的实例讲解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-05-05
  • python3中join和格式化的用法小结

    python3中join和格式化的用法小结

    这篇文章主要介绍了python中os库的使用,本篇文章记录下python中os库的一些函数使用,对python os库使用感兴趣的朋友跟随小编一起看看吧
    2022-10-10
  • Python中playwright启动浏览器与常见运行方式详解

    Python中playwright启动浏览器与常见运行方式详解

    Playwright是一个功能强大的工具,可以帮助开发人员自动化测试、网页截图、信息提取等任务,本文主要介绍了如何使用Playwright来启动浏览器,感兴趣的可以了解下
    2024-05-05
  • Python 键盘事件详解

    Python 键盘事件详解

    这篇文章主要为大家详细介绍了Python的 键盘事件,文中示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2021-11-11
  • numpy 返回函数的上三角矩阵实例

    numpy 返回函数的上三角矩阵实例

    今天小编就为大家分享一篇numpy 返回函数的上三角矩阵实例,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2019-11-11
  • python绘制中国大陆人口热力图

    python绘制中国大陆人口热力图

    这篇文章主要为大家详细介绍了Python绘制中国大陆人口热力图,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-11-11
  • PyCharm2019 安装和配置教程详解附激活码

    PyCharm2019 安装和配置教程详解附激活码

    这篇文章主要介绍了PyCharm2019 安装和配置,本文通过图文并茂的形式给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-07-07
  • Python ellipsis 的用法详解

    Python ellipsis 的用法详解

    这篇文章主要介绍了Python ellipsis 的用法详解,帮助大家更好的理解和使用python,感兴趣的朋友可以了解下
    2020-11-11
  • Python小程序之在图片上加入数字的代码

    Python小程序之在图片上加入数字的代码

    这篇文章主要介绍了Python小程序之在图片上加入数字的代码,这个是小编今天练手的小程序,代码简单易懂,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-11-11
  • Python如何通过手肘法实现k_means聚类详解

    Python如何通过手肘法实现k_means聚类详解

    K-means聚类算法是一种常见的无监督学习算法,用于将数据集分成k个不同的簇,下面这篇文章主要给大家介绍了关于Python如何通过手肘法实现k_means聚类的相关资料,需要的朋友可以参考下
    2023-04-04

最新评论