深度学习Halcon中GPU显存利用率高,但GPU、CPU利用率较低,导致模型训练速度很慢,通过设置硬件参数的解决方法

27 篇文章 311 订阅
订阅专栏

深度学习Halcon中GPU显存利用率高,但GPU、CPU利用率较低,导致模型训练速度很慢,通过设置硬件参数的解决方法

前言

在训练自己模型的时候,会遇到GPU显存利用率高,但GPU、CPU利用率较低,导致模型训练速度很慢的问题。这个问题一方面是由于硬件没有设置到最佳工作状态,另一方面是代码中参数没有设置好。最近在跑Halcon DL遇到这个问题,而Halcon不像开源的几个框架那样自由,代码封装的比较严实。所以遇到这种问题,只能在参数最优的情况下,通过设置硬件参数来提升性能。
当然,在跑DL之前,无论什么框架,都需要把硬件性能提升到最高效,这样心里才平衡,因为只有这样才能不辜负花出去的白花花银子。

前景再现

这是没有进行硬件设置之前,GPU状态(效率非常低,一度怀疑自己的卡是矿卡)。
在这里插入图片描述
进行一系列硬件设置之后GPU运行状态(两次运行的代码以及数据集都是相同的)。
在这里插入图片描述

硬件设置

1、电源性能

找到控制面板->电源选项->选择高性能
在这里插入图片描述

2、显卡性能

开始菜单栏->NVIDIA Control Panel(显卡控制面板)
在这里插入图片描述
拖动滑动条选择性能选项。
在这里插入图片描述
配置PhysX,PhysX设置下选择自己的显卡,点击应用生效。
在这里插入图片描述

3、BIOS CPU性能

进入BIOS,将CPU性能设置到最佳(不同品牌主板设置可能有区别,视自己的情况而设置,最终只要达到提升CPU性能的目的就好)。
在这里插入图片描述
根据我的CPU功能,开启涡轮加速模式(上图的Turbo-Model)
在这里插入图片描述

4、硬盘性能

如果有固态硬盘,最好将要处理的数据集存放在固态硬盘上,这样会提高数据交互效率。

在训模型的时候如果遇到显存占用了,但是后面的GPU利用率的情况,可能是因为什么?
u013250861的博客
11-03 1040
解决上述问题的方法包括:优化数据传输过程、增大训练批量(前提是显存允许)、选择更复杂的模型、优化同步操作、提升IO速度、升级GPU或降模型和批量的大小等。:如果模型的计算复杂度(比如模型较小,或者模型的运算并不复杂),那么GPU的计算能力可能没有被充分利用。:如果数据从磁盘读取到内存的速度跟不上模型训练速度,也会使GPU在等待新的数据时空闲,从而降利用率。:显存不足会限制网络的大小和批量大小,甚至可能导致无法运行网络,也会导致GPU利用率。或数据加载等,也可能导致GPU等待,降利用率
halcon】C# halcon 内存暴增 续,找到一个解决方案
最新发布
songhuangong123的博客
04-16 586
解决方案找到一个~~~
c++增加halcon 算子的GPU加速(20201028) shany v0.1
TU商的博客
11-03 1378
一 、构造函数增加 QueryAvailableComputeDevices(&hv_DeviceIdentifier); OpenComputeDevice(HTuple(hv_DeviceIdentifier[0]), &hv_DeviceHandle); SetComputeDeviceParam(hv_DeviceHandle, "alloc_pinned", "false"); InitComputeDevice(hv_De...
关于实现Halcon算法加速的基础知识(CPU多核并行/GPU
$firecat利白的代码足迹$
02-06 1万+
一、提Halcon的运算速度,有以下几种方法: 1、Multithreading(多线程) 2、Automatic Parallelization(自动操作并行化) 3、Compute devices,利用GPU提速,如果显卡性能好,至少可以提5~10倍的运算速度 二、多线程 1、官方自带的例程get_operator_info.hdev,可以查看支持多线程的算子; ......
TensorFlow 显存占用率 GPU利用率
ProLayman的博客
07-18 1万+
nvidia-smi指令 命令位置: 所以Path添加环境变量: C:\Program Files\NVIDIA Corporation\NVSMI 试验一哈: 要注意的点: Driver Version和CUDA Version不是一回事 CUDA Version实际是环境变量Path配置的,如果一台机器同时装了多个CUDA,那么这里的CUDA Version显示的是Path靠前的C...
Halcon深度学习常见问题及解决方法
Douhaoyu的博客
07-26 5499
Halcon深度学习常见问题及解决办法
Halcon深度学习介绍(一)
qq_28235867的博客
01-05 1万+
Halcon深度学习介绍 #1、软件版本说明   Halcon自从18版本以后,便支持深度学习,其18、19版本训练时候要求电脑必须有GPU,并且是英伟达独立显卡才可以,检测有无GPU都可以,而20、21版本等不仅可以GPU训练,更支持CPU训练,对于配置的使用者或者小白是非常友好的。安装的时候需要先安装halcon、再安装deep-learning数据库,并且要配套使用才可以。比如halcon-18.11.0.1-windows、halcon-18.11.0.1-windows-deep-learni
深度学习PyTorch,TensorFlowGPU利用率CPU利用率,且模型训练速度很慢的问题总结与分析
qq_41568188的博客
06-02 5513
深度学习模型训练过程,在服务器端或者本地pc端,输入nvidia-smi来观察显卡GPU内存占用率(Memory-Usage),显卡GPU利用率GPU-util),然后采用top来查看CPU的线程数(PID数)和利用率(%CPU)。往往会发现很多问题,比如,GPU内存占用率显卡利用率CPU百分比等等。接下来仔细分析这些问题和处理办法。** GPU内存占用率问题 这往往是由于模型的大小以及batch size的大小,来影响这个指标。当你发下你的GPU占用率很小的时候,比如40%,70%
Halcon 深度学习分类模型介绍
01-06
Halcon提供了预训练网络。这些网络在使用前已经经过丰富的图像库训练过,在此基础上训练出的网络对于图像分类任务表现更好。接下来分别介绍Halcon提供的预训练网络。 pretrained_dl_classifier_compact.hdl模型 网络...
Halcon深度学习自定义网络模型-VGG16
11-16
Halcon深度学习自定义网络模型-VGG16
Halcon深度学习-语义分割(2)-模型训练
06-14
Halcon深度学习-语义分割(2)-模型训练
c#联合halcon深度学习+MNIST数据集学习与识别
05-31
内容:通过C#联合halcon编程,实现对深度学习的逐步实现,并且以MNIST数据集的学习识别为应用实例,最终实现对其的数字进行准确识别。 适用人群:深度学习初学者 场景及目标:一般深度学习应用场景,如字符识别等 ...
关于实现Halcon算法加速的基础知识(多核并行/GPU
02-09
关于实现Halcon算法加速的基础知识 详情:https://blog.csdn.net/libaineu2004/article/details/104202063
【经验】为什么用GPU运行深度学习代码还是很慢
MJy65535的博客
12-04 619
显存(第二栏)仅仅用了十分之一不到,所以说明batch_size设置的太小了。当时设置的是20,10。这样程序运行的快了很多。
七、训练模型CPU经常100%,但是GPU使用率才5%左右
panchang199266的博客
03-21 8215
具体原因分析参见。
百度OCR(文字识别)服务使用入坑指南
热门推荐
仙路尽头谁为峰
09-28 2万+
百度OCR使用入坑指南背景:什么是OCR一、在线调用百度api接口第一步:注册百度智能云账号,创建应用获取key二、百度开源模型:PaddleOCR 背景:什么是OCR OCR是光学字符识别(Optical Character Recognition)的缩写,是通过扫描等光学输入方式将各种票据、报刊、书籍、文稿及其它印刷品的文字转化为图像信息,再利用文字识别技术将图像信息转化为可以使用的计算机输入技术。通俗来讲就是识别图片里的文字信息,非常适用于提取网络截图或扫描pdf等文件里的文本,可以极大提生产效率,
Halcon深度学习参数
Douhaoyu的博客
06-27 2391
Halcon深度学习参数
halcon深度学习_HALCON级篇:CNNs理论
weixin_39925413的博客
11-30 1190
卷积神经网络(CNNs)随着机器视觉硬件已经变得越来越强,训练多隐含层的神经网络现在已经成为可能,其就是我们已知的深度学习。在深度学习领域的一个主要工具就是卷积神经网络(CNNs)。CNNs具有特征不必人工去选择的优势,相反,滤波器值在整个训练过程都将被调整。基本上,在训练采用带标签的图像,CNN尽力去找能够合理的区分类的特征。这就意味着,当训练一个CNN的时候,不像一些其他的分类方法,它不必...
halcon深度学习需要gpu
07-14
### 回答1: Halcon是一种功能强大的计算机视觉软件库,它为用户提供了各种用于图像处理和分析的功能。Halcon深度学习是其最新的功能之一,它利用了深度神经网络来帮助解决图像识别和分类等任务。 深度学习是一种计算密集型的任务,它需要大量的计算资源来训练和运行神经网络模型。而GPU(图形处理单元)是一种专门用于性能计算的硬件,它在并行计算方面表现出色。相比之下,传统的央处理单元(CPU)在深度学习任务上的计算速度较慢。 Halcon深度学习需要GPU来加速深度学习任务的推理过程,即将训练好的神经网络模型应用于实际的图像处理任务。使用GPU可以显著提深度学习任务的运行速度,从而实现更效的图像识别和分类。 值得注意的是,Halcon深度学习GPU的要求并不是非常,一般来说,拥有一块较新的GPU即可满足大部分的深度学习应用需求。因此,使用Halcon深度学习时,如果想要获得更好的性能和效果,建议配备一块支持CUDA或OpenCL的独立显卡。 ### 回答2: Halcon深度学习需要GPU的原因是为了加快深度学习模型训练和推理过程。深度学习模型具有复杂的网络架构和大量的参数,普通的CPU无法满足其计算需求,而GPU具备更强大的并行计算能力,可以加速模型训练和推理的速度。 在Halcon深度学习GPU可以提供效的并行计算,同时支持更大规模的模型和数据集。通过利用GPU的并行计算能力,可以加速神经网络复杂的矩阵运算、卷积操作等计算过程,并提模型在大规模数据集上的训练速度。 此外,Halcon深度学习使用GPU还能够提供更好的实时性能。在很多实时应用场景,需要在短时间内对大量数据进行处理和分析,使用GPU可以在保证准确性的同时提处理速度,从而满足实时性要求。 综上所述,Halcon深度学习需要GPU是为了提模型训练和推理速度,支持更大规模的模型和数据集,以及满足实时应用的要求。 ### 回答3: Halcon深度学习需要使用GPU是因为深度学习任务通常需要大量的计算资源来处理复杂的神经网络模型和海量的数据。相比于传统的央处理器(CPU),图形处理器(GPU)具有更优异的并行计算能力,可以同时进行大量的计算操作,提深度学习任务的处理效率。 使用GPU可以加速深度学习任务的训练和推理过程。在训练神经网络模型时,通过并行计算,GPU可以更快地进行矩阵运算、张量操作和梯度更新等关键计算步骤,加快模型训练速度。在推理过程GPU可以效地进行神经网络的前向计算,实时地对输入数据进行处理和分析。 此外,由于深度学习任务的数据量通常较大,需要在GPU速内存进行存储和处理,以支持效的数据并行计算。GPU速内存带宽和容量可以提供良好的数据访问速度和存储能力,以满足深度学习任务的需求。 综上所述,使用GPU可以显著提Halcon深度学习任务的处理效率和性能,加速训练和推理过程。然而,需要注意的是,使用GPU进行深度学习任务需要相应的硬件设备和软件支持,这也可能增加一定的成本和配置要求。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
写文章

热门文章

  • Halcon License - 2024.06.01(持续更新) 95282
  • 4K显示屏Win10下软件字体太小解决方法 34321
  • 关于“Halcon许可错误(Hdevelop错误代码:21010)Halcon错误#2036”全网最全最有效解决方法 23433
  • Halcon 光度立体法(photometric_stereo)详解 21377
  • 配置显卡驱动、CUDA、cuDNN以及说明三者之间的关系 19880

分类专栏

  • 算法 2篇
  • 数字图像处理 3篇
  • 笔记 1篇
  • Python 1篇
  • Halcon 27篇
  • PyTorch 6篇

最新评论

  • Halcon 20版深度学习标注工具——Deep Learning Tool详细安装教程

    咩咩咩~~: https://www.daheng-imaging.com/downloads/deep-learning/ 这个网址不需要注册

  • Halcon License - 2024.06.01(持续更新)

    xieziren: 给大家提供方便,给力

  • Halcon License - 2024.06.01(持续更新)

    qq_52890728: 等6月~

  • Halcon License - 2024.06.01(持续更新)

    未来头发多多哦: 不错的老哥嘿嘿,给你点个赞,不过6月的要更新了哦

  • Halcon License - 2024.06.01(持续更新)

    a_use: 我的halcon19.11,按照步骤下载的,为什么用五月份的license还是打不开,也重启了

大家在看

  • IconWorkshop\中文版安装包下载及安装教程
  • C++笔试强训day41
  • 第7天:错误处理与日志记录
  • 第6天:配置与环境变量
  • Python中猴子补丁是什么,如何使用

最新文章

  • Halcon 20版深度学习标注工具——Deep Learning Tool详细安装教程
  • Halcon dual_threshold详解
  • Halcon 直线拟合fit_line_contour_xld详解
2022年4篇
2021年3篇
2020年30篇

目录

目录

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值

深圳SEO优化公司大芬SEO按效果付费报价黔南营销网站多少钱济源企业网站建设萍乡设计网站推荐江门设计公司网站推荐潜江企业网站改版推荐湘潭关键词排名推荐柳州至尊标王价格迪庆百度竞价包年推广价格伊犁关键词按天收费渭南关键词按天计费公司西宁百姓网标王公司昌都网站推广方案哪家好观澜网站优化按天计费鸡西网站推广方案报价林芝百姓网标王推广公司镇江百度关键词包年推广推荐焦作网站优化按天收费报价马鞍山网站改版价格衡水阿里店铺运营哪家好济宁关键词排名包年推广多少钱临沧阿里店铺运营价格亳州网站推广多少钱衢州网站定制公司金华seo网站优化报价沙井网站改版多少钱龙华如何制作网站报价海口网页设计哪家好保山网站优化按天扣费公司荆州网络营销哪家好歼20紧急升空逼退外机英媒称团队夜以继日筹划王妃复出草木蔓发 春山在望成都发生巨响 当地回应60岁老人炒菠菜未焯水致肾病恶化男子涉嫌走私被判11年却一天牢没坐劳斯莱斯右转逼停直行车网传落水者说“没让你救”系谣言广东通报13岁男孩性侵女童不予立案贵州小伙回应在美国卖三蹦子火了淀粉肠小王子日销售额涨超10倍有个姐真把千机伞做出来了近3万元金手镯仅含足金十克呼北高速交通事故已致14人死亡杨洋拄拐现身医院国产伟哥去年销售近13亿男子给前妻转账 现任妻子起诉要回新基金只募集到26元还是员工自购男孩疑遭霸凌 家长讨说法被踢出群充个话费竟沦为间接洗钱工具新的一天从800个哈欠开始单亲妈妈陷入热恋 14岁儿子报警#春分立蛋大挑战#中国投资客涌入日本东京买房两大学生合买彩票中奖一人不认账新加坡主帅:唯一目标击败中国队月嫂回应掌掴婴儿是在赶虫子19岁小伙救下5人后溺亡 多方发声清明节放假3天调休1天张家界的山上“长”满了韩国人?开封王婆为何火了主播靠辱骂母亲走红被批捕封号代拍被何赛飞拿着魔杖追着打阿根廷将发行1万与2万面值的纸币库克现身上海为江西彩礼“减负”的“试婚人”因自嘲式简历走红的教授更新简介殡仪馆花卉高于市场价3倍还重复用网友称在豆瓣酱里吃出老鼠头315晚会后胖东来又人满为患了网友建议重庆地铁不准乘客携带菜筐特朗普谈“凯特王妃P图照”罗斯否认插足凯特王妃婚姻青海通报栏杆断裂小学生跌落住进ICU恒大被罚41.75亿到底怎么缴湖南一县政协主席疑涉刑案被控制茶百道就改标签日期致歉王树国3次鞠躬告别西交大师生张立群任西安交通大学校长杨倩无缘巴黎奥运

深圳SEO优化公司 XML地图 TXT地图 虚拟主机 SEO 网站制作 网站优化