硬核观察 #1130 二季度英伟达 H100 GPU 出货超过 900 吨 二季度英伟达 H100 GPU 出货超过 900 吨 据报告,二季度有 30 多万台 H100 GPU 进入了服务器制造商的装配线,按每台 GPU 连同散热器的重量约为 3 千克,约计 900 吨!此外,为人工智能处理工作配备 8 个 GPU 的服务器推高了服务器平均价格,涨幅超过了 30%。据预测,8 个 GPU 的服务器的持续部署将导致服务器市场收入在 2024 年上半年同比增长 51%,预计 linux中国 2024-07-16 贤蛋大眼萌
在 KubeSphere 上部署 AI 大模型 Ollama 随着人工智能、机器学习、AI 大模型技术的迅猛发展,我们对计算资源的需求也在不断攀升。特别是对于需要处理大规模数据和复杂算法的 AI 大模型,GPU 资源的使用变得至关重要。对于运维工程师而言,掌握如何在 Kubernetes 集群上管理和配置 GPU 资源,以及如何高效部署依赖这些资源的应用,已成为一项不可或缺的技能。 今天,我将带领大家深入了解如何在 KubeSphere 平台上,利用 Kub 云计算 2024-07-09 大树
开源日报 | 大模型国家队发力了;RLHF新平替;ICQ即将关停;中国大模型混战终结者;MoE是一门妥协的艺术 欢迎阅读 OSCHINA 编辑部出品的开源日报,每天更新一期。 # 2024.5.27 今日要点 虚幻引擎代码规范禁止使用脏话、禁止slave、master 一位网友近日分享了 Epic Games 官方的 “虚幻引擎代码规范”,指出其中一些规定非常离谱,并质疑 Epic “为什么要把本来不是问题的事情变成问题”。 行业内首次实现国产 GPU 从 0 到 1 的端到端 AI 大模型实训 摩尔线程、 运维资讯 2024-05-27 Escape
行业内首次实现国产 GPU 从 0 到 1 的端到端 AI 大模型实训 摩尔线程、无问芯穹今天联合宣布,双方已经正式完成基于国产全功能 GPU 千卡集群的 3B 规模大模型“MT-infini-3B”实训,该模型基于摩尔线程国产全功能 GPU MTT S4000 组成的千卡集群,以及无问芯穹的 AIStudio PaaS 平台打造。 据悉,这次的 MT-infini-3B 模型训练总共用时 13.2 天,全程稳定无中断,集群训练稳定性达到 100%,千卡训练和单机相比 运维资讯 2024-05-27 贤蛋大眼萌
Hugging Face ZeroGPU 计划正式发布——提供价值一千万美元的免费共享 GPU 在人工智能技术领域,GPU 资源一直是推动研究和应用的关键因素。然而,GPU 的成本和可用性对于许多研究人员和开发者来说却是一个显著的障碍。 在 Hugging Face,我们希望人工智能技术可以更加普惠化,更多开发者可以参与其中共同探索,在人工智能技术浪潮中创造出让更多人受益的产品。 为此,我们计划提供 1000 万美元的免费共享 GPU,借以推动下一波的人工智能创新。 什么是 ZeroGPU? 运维资讯 2024-05-23 三掌柜
ZLUDA在AMD GPU上看到了CUDA的新活动 早在二月份,我就写过AMD悄悄地资助了在ROCm库上构建的AMD GPU的CUDA实施。这是ZLUDA的一个化身,最初是使用oneAPI Level Zero为英特尔GPU实现的CUDA。虽然AMD在今年早些时候停止了对ZLUDA开发的资助,但AMD GPU的CUDA实施仍在继续进行一些新的代码活动。 昨天我想到了ZLUDA,我很高兴地注意到有一系列新的提交。ZLUDA最近在上周看到了新代码。ZL 运维资讯 2024-05-15 醒在深海的猫
如何通过NVIDIA GPU到Fedora 40 Proxmox VE虚拟机 如果您将NVIDIA GPU转换为Fedora 40 Proxmox VE虚拟机,您将获得许多好处,例如: 将虚拟机的显示直接流式传输到连接到NVIDIA GPU的监视器上。 将USB键盘和鼠标添加到虚拟机中,并像使用真正的台式机一样使用它。 在虚拟机上获得接近本机的3D性能。 在本文中,我将向您展示如何将NVIDIA GPU传递到Fedora 40 Proxmox VE虚拟机,并像使用真正的台式 系统运维 2024-05-15 醒在深海的猫
新进展!openKylin 成功适配 JM9100 GPU Mesa 驱动 长沙景美集成电路设计有限公司(以下简称“景美”)作为openKylin(开放麒麟)社区共建伙伴,在加入社区后组建了GPU SIG组,并邀请了格兰菲、摩尔线程等GPU厂商陆续加入并贡献社区。 近期,景美正式完成openKylin 2.0 Alpha2版本与JM9100芯片、JM9100 GPU Mesa驱动软件和JM9100 GPU编译器软件适配测试工作,其适配相关成果后续也将逐步合并到openKy 运维资讯 2024-05-14 LOVEHL^ˇ^
NVIDIA的开放GPU Linux内核驱动程序将很快成为Turing&更新的GPU 虽然我们都在等待NVIDIA R555系列Linux驱动程序测试版,根据Wayland改进(显式同步)等之前的信息,该测试版预计最快将于下周推出,但NVIDIA R5 60系列Linux驱动软件的继任者是一个非常有趣的变化:NVIDIA计划默认为GeForce RTX 2000“图灵”GPU及更新版本默认使用其开源GPU内核驱动程序。 早在2022年5月,当NVIDIA推出其用于Linux的开源树 运维资讯 2024-05-11 剑圣无痕
以加速 compaction 和 scan 为例:谈 GPU 与 LSMtree 的优化 作者:胡琳 「北京大学智能学院在读博士生,博士期间在北京大学数据管理组从事GPU加速图算法的研究,在图算法加速领域取得了一定的成果,发表在SIGMOD等知名会议上,将继续在图计算领域努力探索。目前于 OceanBase 存储组实习。」 OceanBase 等以 LSM tree 为存储架构的数据库的 compaction 是一个比较耗时的操作,近年来 GPU 越来越多地被用在高性能计算领域。本文主 数据运维 2024-05-07 向阳逐梦
由于不断增加的固件膨胀,从Initramfs弹出GPU驱动程序 目前,Fedora/Red Hat没有立即做出任何更改,但所需GPU固件文件的大小不断增加,这导致Linux发行版供应商重新考虑将GPU内核图形驱动程序作为initramfs的一部分。 现在大多数现代GPU甚至需要开源驱动程序的固件块来支持,包括initramfs中所有可能的GPU固件文件是必要的。即使是不使用的图形硬件,也需要捆绑,尤其是Linux发行版更倾向于构建和签署受祝福的initramf 运维资讯 2024-05-04 穿过生命散发芬芳
TUXEDO电脑推出Linux笔记本电脑功能。。。 这一最新版本是第一款预装Ryzen和Linux新CPU的笔记本电脑。 TUXEDO Computers从不回避做一些大胆的事情,这也就不足为奇了,他们是第一家开发由AMD的Ryzen 8040 APU驱动的Linux笔记本电脑的公司。它还不止于此。新款笔记本电脑还提供了RDNA3专用移动GPU。 有问题的型号是Sirius 16 Gen 2游戏笔记本电脑。有问题的移动GPU是AMD的Radeon 运维资讯 2024-04-26 穿过生命散发芬芳
如何在Fedora 40上安装适用于Intel GPU的OpenCL+ OpenCL是一个用于在GPU上运行计算任务的开源库。OpenCL使用您计算机上安装的GPU硬件(即Intel iGPU)为支持的应用程序(即LibreOffice)启用3D硬件加速。因此,除非安装了OpenCL,否则支持OpenCL的应用程序(即LibreOffice)将不会启用硬件加速,因此可能无法正常运行(即UI可能滞后)。因此,在新安装的Fedora 40(或更高版本)桌面操作系统上安装O 系统运维 2024-04-26 三掌柜
Radeon GPU Profiler 2.1添加Radeon GPU Analyzer互操作性 AMD的GPUOpen团队今天发布了Radeon GPU Profiler 2.1软件,该软件现在与Radeon GPU Analyzer具有互操作性。 Radeon GPU Profiler是AMD的低级别优化工具,用于帮助增强Radeon硬件上GPU工作负载的性能。在满足AMD的Radeon软件驱动程序的同时,Mesa的RADV Vulkan驱动程序还添加了Radeon GPU Profile 运维资讯 2024-04-26 张二河
Linux 6.10添加英特尔低延迟提示,大幅提高GPU计算的GT频率 继针对Linux 6.10和更早版本的Adaptive Snyc SDP的Xe DRM驱动程序更新、Lunar Lake显示支持以及在下一个内核版本的几周前发送的i915拉取的更多DG2 PCI ID之后,今天提交了针对Linux 6.10的最后一刻intel图形驱动程序功能更改的DRM intel gt下一个拉取请求。 今天的drm intel gt最重要的一点是增加对上下文提示的支持,以影响g 运维资讯 2024-04-26 泡泡
Red Hat的漫长,生锈的道路为Nova作为新司机的继任者 Red Hat的显示驱动程序团队最近一直在为Nova设计计划,这是一个新的即将开发的Linux DRM内核驱动程序,以Rust编写,用于开源NVIDIA图形支持,作为支持GPU系统处理器(GSP)的新一代NVIDIA GPU的继承者/替代者。在各种内核抽象仍在设计,尚未向上流的时候,使用Rust编写了这项工作。 Nova的最终目标是成为一个现代开源的NVIDIA Linux DRM驱动程序,适用于 运维资讯 2024-03-21 爱可生开源社区
Krita 2024 规划:更多地关注 GPU 加速和 AI Krita 项目团队发文对 2023 年的工作进行了回顾;同时透露了项目 2024 年的一些工作规划,其中包含了一些 2023 年未完成的事项以及新的内容。 首先提到了就是在 2024 年需要将 Krita 移植到 Qt6。“这是一个大工程,不仅仅是因为功能的消失,还因为对 GPU 渲染支持的改变。在 Windows 上,OpenGL 驱动程序存在很多错误,正因为如此,Qt5 提供了在使用 Ope 运维资讯 2024-03-17 大树
Mesa 24.1增加对英特尔数据中心GPU Flex 170G的支持 2022年发布的英特尔数据中心GPU Flex系列产品是数据中心GPU Flex 140和数据中心GPU Flex 170,而现在英特尔的开源Mesa OpenGL和Vulkan驱动程序增加了一个新的“170G”变体。 Intel Mesa驱动程序长期以来一直支持基于DG2的Arctic Sound M/Data Center GPU Flex系列,同时为Data Center GPU Flex 运维资讯 2024-03-14 泡泡
Krita在2024年更多地关注GPU加速和人工智能 Krita开源图形编辑器和数字艺术程序正在考虑在2024年可能添加一些人工智能功能,以及可能的GPU加速和其他新功能。 首先,Krita开发人员承认他们最终需要将Qt5工具包移植到Qt6工具包。不过,他们今年希望解决的功能包括Blender集成,一种新的漫画书层类型,一个创建灵活文本气球的系统,一个提供工具预设的系统,一个处理调色板的新用户界面,一个动画音频波形显示,以及对动画参考帧工作流的支持。 运维资讯 2024-03-14 泡泡
NVIDIA R550 Linux驱动程序开放内核模块在GeForce GPU上运行良好 随着近期 NVIDIA 550.54.14 Linux驱动程序发布R550系列现在已经稳定了。NVIDIA R550 Linux驱动程序的一个显著变化是,在使用作为其驱动程序包一部分分发的NVIDIA开放内核模块时,GeForce和工作站GPU支持达到“认证”质量。以前,开源(树外)内核模块只是针对其数据中心GPU进行认证,而现在他们基本上承认,它们在GeForce和工作站产品上也处于良好状态。本 运维资讯 2024-03-07 法医