首頁 > 分布式

分布式

  • Menger:大規模分布式強化學習架構

    翻譯：雷鋒字幕組（季一帆）在過去的十年中，強化學習（RL）成為機器學習中最受矚目的研究領域之一，應用RL能夠很好地解決芯片放置和資源管理等復雜的問題，以及Go/Dota 2/hide-and-seek等有挑戰性的游戲。簡單來說，RL基礎架構就是數據采集和訓練的循環，Actor根據環境收集樣本數據，然

  • 分布式數據集與聯邦學習：人工智能持續生長的協作之道

    中國人民大學科學研究處、中國人民大學信息資源管理學院：錢明輝、楊建梁　　當數據成為人工智能在社會生活中長驅直入的核心燃料時，如何在保護用戶隱私的前提下釋放其潛藏的巨大價值，成為橫亙在技術進步之路上的一道屏障。

  • 人工智能模型的分布式訓練技術

    . 算力荒：大模型繞不開的大難題自從ChatGPT引爆大模型發展熱潮，眾多科技企業前赴后繼，紛紛投入大模型研發中。然而，這波創業浪潮中鮮有小微初創企業的身影，甚至一些堪稱“準獨角獸”規模的企業，也只集中在大模型的下游應用創新或微調中，不具備獨立的大模型創新能力。

  • 字節跳動開源分布式訓練框架BytePS，支持PyTorch、TensorFlow等

    機器之心報道參與：戴一鳴、思源最近，字節跳動發布了一款通用高性能分布式訓練框架 BytePS，該框架支持TensorFlow、Keras、PyTorch 和 MXNet，并且可以在 TCP 或 RDMA 網絡上運行。根據該項目的 GitHub 頁面，BytePS顯著優于目前的開源分布式訓練框架。例如

  • PPTV創始人姚欣AI再創業，“分布式推理”終于有人做了

    這個月，PPTV創始人姚欣再次站到了聚光燈下，組織了一場分布式云計算論壇，向外界揭開了他的新篇章。姚欣的第二次創業，瞄準了云服務，要打造 AI 時代的基礎設施。但姿勢獨特：公司沒有自建IDC和購買GPU，而是通過獨特的方式成為了全國最多節點的云服務商。成立六年來，PPIO派歐云已獲三輪共4億元的融資

  • PyTorch1.7發布，支持CUDA11、Windows分布式訓練

    機器之心報道參與：魔王、小舟昨日，PyTorch 團隊發布 PyTorch 1.7 版本。該版本增添了很多新特性，如支持 CUDA 11、Windows 分布式訓練、增加了支持快速傅里葉變換（FFT）的新型 API 等。PyTorch 1.7 版本包含很多新的 API，如支持 NumPy 兼容的 F

  • 石頭科技實控人承諾未來3個月不減持百奧泰擬簽署分布式屋頂光伏電站能源管理協議

    《科創板日報》9月15日訊 今日科創板晚報主要內容有：上海：扎實推進智能機器人產業發展 加大產業鏈“鏈主”企業引進和培育力度；深圳：支持老舊汽車更新消費 給予最高10000元補貼 加快建設“超充之城”； 北京市人工智能算法交易服務中心揭牌等?！緹狳c聚焦】簡訊：證監會：正在研究制定資本市場服務高水平科

  • 浪潮信息發布自動駕駛分布式計算框架AutoDRRT2.0

    財聯社9月21日電，財聯社記者從浪潮信息邊緣計算合作伙伴大會獲悉，面向當前邊緣AI落地最快的自動駕駛場景，浪潮信息發布自動駕駛分布式計算框架AutoDRRT 2.0，針對BEV+Transformer的大模型車端落地的挑戰，在計算組件的分布式、高容錯及低延時三個核心特點進行技術革新，并實現計算方面，

  • 分布式入門，怎樣用PyTorch實現多GPU分布式訓練

    這篇文章旨在闡述訓練大規模深度學習模型時的分布式計算思想。具體來講，本文首先介紹了分布式計算的基本概念，以及分布式計算如何用于深度學習。然后，列舉了配置處理分布式應用的環境的標準需求（硬件和軟件）。最后，為了提供親身實踐的經驗，本文從理論角度和實現的角度演示了一個用于訓練深度學習模型的分布式算法（同