- 学堂
- 博客
- 论坛
- 开发服务
- 开发工具
- 直播
- 视频
- 用户
- 一周
- 一个月
- 三个月
-
【Atlas300I Pro】显存与内存如何区分，两者分别如何查询
Atlas300I Pro一张卡显存与内存如何区分？两者分别如何查询？
-
AI绘画专栏之 SDXL 4G显存就能跑SDXL ？SD1.7或将对F8优化merge(46)
来是2G，SDXL因为参数变多了FP16也要5G，这样很多显卡就hold不住了。所以青叶做了个事情，就是load的时候用FP8放在显存里，这样SDXL存在显存是2.5G。但是在每一层运算的时候把对应的FP8转到FP16，所以整个计算流程看起来是是一致的。同时整个流程的显存占用也下
-
【MindX SDK】【显存溢出】构建了一个解码rtsp视频并进行图片处理的pipeline，运行一段时间后，显存溢出
04-x86_64.run【操作步骤&问题现象】1、解码1路rtsp h264视频并进行图片处理的pipeline，运行70~80秒后，会报显存溢出错误2.pipeline文件,见附件3.调用c++文件，见附件【截图信息】【日志信息】npu-smi info watch
-
如何处理GPU训练显存不足[memory isn't enough][alloc failed][out of memory]
些原因如下：1.卡被占用，导致可用显存变小了。2.网络训练batchsize过大。3.输入数据的shape是变化的（输入数据动态shape）。4.输出结果的tensor保存起来了。5.网络中的算子里出现显存泄漏（算子里每次launch都申请显存，并且不释放）。【排查步骤和解决方法
-
Android Studio 优化
首先说明，我的笔记本是10年买的联想z460，虽然内存升级到6G，但跑起Android Studio还是感觉太卡了。 设置内存 进入android-studio-ide\bin目录。“32位系统”修改“studio
-
在线部署批量部署的日志都显示进程报错怎么办
能进入到_inference,但是进程不知道为什么被中断了，本地调试模型预测结果没有问题，本地推理cuda显存占用超过6G，不确定是不是调用的资源为p4,8G|CPU,8G导致显存溢出进程被杀，麻烦各位大佬帮忙看看
-
Hyperledger Besu环境搭建（Linux）
文章目录 前言JDKDocker 前言 官网建议6G内存（亲测4G海星） 主要参考Hyperledger Besu文档。 本文演示linux环境为centos7。 JDK 环境仅支持
-
《MXNet深度学习实战》—1.2 深度学习框架
则每运行网络的一层就会分配显存中的一块空间来保存特征图或其他参数，部分空间的使用频率非常低，这样就会造成大量的显存占用。如果采用符号式编程，那么当你设计好整个计算图之后，框架会根据你的计算图分配显存，这个步骤会共享部分空间从而减小整个网络所占用的显存。因此符号式编程虽然不如命令
-
310推理卡静默情况下每个芯片都会占用2.7GB显存
请问是正常情况吗？怎么减少默认占用？
-
还在为搞不懂笔记本电脑参数而苦恼么？一篇文章就够啦
能逐渐变强。 而这个6G指的是显存，如果你想要大型游戏，显存得过关，至少4G以上才算得上是游戏本。 简单总结一下，看一个独立显卡，最基本我们看两点，性能+显存。性能从1到9，越高越好，显存至少4G以上。 03 内存:RAM，大脑的缓冲期，里面有正在使用的软件或马上要使用的软件
-
C73 版本 npu-smi 命令默认不支持，怎么查看显存使用情况
【功能模块】C73 版本 npu-smi 不支持【操作步骤&问题现象】1、root@davinci-mini:/usr/local/bin# npu-smibash: npu-smi: command not found2、watch npu-smi infoEvery 2
-
XEngine-深度学习推理优化
Context所占用的显存空间，一般在100-300MB左右；“用户数据”指用户自行分配的显存空间，如模型输入输出Tensor占用的空间；“模型参数”指训练的深度学习模型的参数所占用的显存空间，我们需要将模型参数加载到显存中，才能进行计算
-
openGL 概念学习（二）
中将数据拷贝至指定的显存。 使用问题： 多次修改数据会造成性能浪费，因为每次都要从内存将数据拷贝至显存。 1.2 虚拟指针（glMapBuffer） 必须在VBO构造并且分配空间完毕后使用 其优点在于拷贝了整个显存数据到达内存，修改完毕后再全部同步回显存，适合一个Pass中对数据进行多阶段修改的场景中使用。
-
CUDA out of memory
在训练深度学习模型时，我遇到了这个bug CUDA out of memory 这个bug意思就是显存不足，有两种办法可以解决。 1、杀死线程 具体操作可参见 杀死GPU线程 2、减小batch-size 这个比较容易修改 batch-size即每次读进显存的数据（批）数量
-
华为展示5G毫米波手机通信和毫米波应用黑科技
力巨大，未来运营商可以利用5G低、中、高频段三层组网，1GHz以下频段做覆盖层，Sub 6G做容量层，毫米波做热点覆盖的高容量层，建成一张全国性的广覆盖、大容量的5G网络。毫米波相比于Sub 6GHz的时延更短，是Sub 6G频段的1/4。对于要求5G时延更高应用，如远程医疗手术
-
《MXNet深度学习实战》—1.1.3 深度学习
复杂多变。深度学习中的深度主要就是来描述神经网络中层的数量，目前神经网络可以达到成百上千层，整个网络的参数量从万到亿不等，所以深度学习并不是非常深奥的概念，其本质上就是神经网络。神经网络并不是最近几年才有的概念，早在20世纪中期就已经有人提出了神经网络，那么既然深度学习是基于神经
-
【500】【昇腾310芯片】在A500上，如何让310芯片运行显存占用率达到90%以上
我们要测试一下极限工况下atlas500的ai硬件性能，就是要让ai模块昇腾310占用率长时间满负荷运转，请问如何能实现这个实验？
-
使用 UCS(On-Premises) 管理您的GPU资源池，释放AI大模型算力潜能
对算力使用频繁波动，任务B无法获取充足的算力资源，导致任务B计算超时； 显存隔离：任务A和任务B共用共用一块GPU资源，按照程序设计，任务A使用8G显存，任务B使用6G显存，某一时刻，任务A图像占用10G显存，导致任务B运行失败，故障退出； 驱动故障：任务A和任务B共用一块GPU
-
《MXNet深度学习实战》—1.3.2 MXNet的优势
成本。3）MXNet在显存方面的优化做得非常好，可以帮助你节省机器资源，而且在训练相同的模型时，MXNet比大多数的深度学习框架的训练速度要快，这也能节省不少的训练时间。4）MXNet安装方便，文档清晰，例子丰富，非常方便新人上手学习。总结起来，对于深度学习框架而言，没有最好的，
-
《MXNet深度学习实战》—3.2 Symbol
来定义和使用网络，那么为什么还要提供Symbol呢？主要是为了提高效率。在定义好计算图之后，就可以对整个计算图的显存占用做优化处理，这样就能大大降低训练模型时候的显存占用。在MXNet中，Symbol接口主要用来构建网络结构层，其次是用来定义输入数据。接下来我们再来列举一个例子，
