| 共 39 篇文章 |
|
GPU计算的工作原理。所以，尽管循环展开让我能够连续执行许多操作，但并行性实际上是让每个线程同时发出一个操作，直到达到硬件所允许的最大线程数量，也就是硬件能够同时处理的线程数量，因此，实际上，我可以结合使用循环展开和多线程操作，这样就可以使用更少的线程来完成同样的任务。在CPU中切换线程（从一个线程切换到另一个线程）是一个... 阅6 转0 评0 公众公开 24-04-28 15:25 |
社区探讨，供大家参考：拥抱大模型趋势下，传统金融企业IT基础架构关键角色应该提升哪些核心技能以及提升路径建议探讨传统大中型金融企业IT基础架构关键角色（存储岗、数据库岗、计算岗、网络岗等等），在大模型微调项目落地过程中应该提升哪些核心技能以及提升的路径？从这两个方面看，大模型的建设需要IT人员在原有基础设施的基础上做优化，... 阅2 转0 评0 公众公开 24-04-23 13:11 |
社区探讨，供大家参考：拥抱大模型趋势下，传统金融企业IT基础架构关键角色应该提升哪些核心技能以及提升路径建议探讨传统大中型金融企业IT基础架构关键角色（存储岗、数据库岗、计算岗、网络岗等等），在大模型微调项目落地过程中应该提升哪些核心技能以及提升的路径？从这两个方面看，大模型的建设需要IT人员在原有基础设施的基础上做优化，... 阅2 转0 评0 公众公开 24-04-23 13:11 |
常用负载均衡详解（图文总结）2、动态负载均衡：该算法能够实时地根据服务器的响应时间来调整负载分配，确保每台服务器都能根据其实际性能来处理相应数量的请求。例如，如果某台服务器在某一时刻由于某种原因（如临时的高负载）响应时间变长，它可能会被暂时排除在负载均衡之外，即使其实际性能可能仍然优于其他服务器。DNS负载均衡，适用于全... 阅2 转0 评0 公众公开 24-04-18 09:41 |
什么是AI基础设施。一个强大的人工智能基础设施对于从事人工智能领域的组织至关重要，它不仅为AI项目的开发与部署提供了必需的资源，还使得团队能够充分利用机器学习和大数据的潜能，实现数据驱动的观点和决策。人工智能基础设施的 5 个关键组成部分高效的人工智能基础设施为机器学习工程师和数据科学家提供创建、部署和维护模型所需的必要资源... 阅10 转0 评0 公众公开 24-04-01 18:33 |
VLIW服务器按服务器外形规格分类的网络服务器。网络服务器根据其物理外形规格的不同可以分为机架服务器、GPU服务器、塔式服务器、高密度服务器、刀片服务器和机柜服务器。机架服务器适用于大规模数据中心和云计算基础设施，GPU服务器适用于处理计算密集型任务，塔式服务器适用于小型企业和办公环境，高密度服务器和刀片服务器适用于需要高密度... 阅6 转0 评0 公众公开 24-03-28 16:55 |
大摩：数据中心算力成本正在迅速下降。数据中心模型显示，使用Hopper GPU的数据中心每teraFLOPs（每秒万亿次浮点运算）资本成本为14.26美元，而Blackwell数据中心的成本为7.48美元，这意味着当从Hopper GPU升级到Blackwell GPU时，资本成本每teraFLOPs下降约50%。在每兆瓦时电力成本为100美元的假设下，Hopper数据中心的年度电力成本约为每tera... 阅1 转0 评0 公众公开 24-03-28 12:35 |
数据中心的三大架构通常是指构成数据中心基础设施和功能的三个核心组成部分：计算架构、存储架构和网络架构。2. 存储架构 存储架构负责数据中心内数据的持久化保存与管理，确保数据的可用性、完整性和安全性。存储架构通常包括不同类型的存储设备、存储网络、数据保护策略以及存储管理系统。3. 网络架构 网络架构是数据中心内部以及与外部世界... 阅18 转0 评0 公众公开 24-03-28 12:30 |
该系统被称为 DGX GB200 NVL72，是 Nvidia在 11 月份展示的基于 Grace-Hopper Superchip 的机架系统的演变。虽然 1.36 公吨（3,000 磅）机架系统作为一个大型 GPU 进行销售，但它由 18 个 1U 计算节点组装而成，每个节点都配备了两个 Nvidia 的 2,700W Grace-Blackwell Superchips (GB200)。每个机架有 9 个 NVLink 交换机，可为机架中 72 个 G... 阅11 转0 评0 公众公开 24-03-28 12:19 |
NVIDIA H100 AI服务器揭秘。Supermicro的液冷服务器（SYS-821GE-TNHR），服务器配备了8个NVIDIA H100 GPU，采用了先进的液体冷却技术，能够显著降低冷却成本和功耗。液冷Supermicro SYS-821GE-TNHR 8x NVIDIA H100 AI服务器，水平机架歧管位于顶部，而Supermicro冷却分配单元（CDU）则位于底部。自2016/2017年以来，Supermicro一直致力于研发AI... 阅374 转0 评0 公众公开 23-12-09 13:22 |
