• Testnet

    Testnet

    一种专用于机器学习的定制化以太坊Rollup解决方案,集成了链下执行、验证与通信框架,构建面向机器智能的网络基础设施。

    Read in full
  • Diverse Expert Ensembles:基于不同专家的并行 LLM

    Diverse Expert Ensembles:基于不同专家的并行 LLM

    *一种并行训练混合专家模型(Mixture-of-Experts)的创新框架,通过引入异构性提升集成模型性能。*

    Read in full
  • SkipPipe:去中心化学习的高效通信方法

    SkipPipe:去中心化学习的高效通信方法

    一种新型流水线并行训练方法,可将训练迭代时间减少55%,并在50%节点故障率下实现容错训练。

    Read in full
  • NoLoCo:无需 All-Reduce 的大模型训练

    NoLoCo:无需 All-Reduce 的大模型训练

    *一种创新的分布式训练优化方法,通过用 gossip 协议替代全局同步步骤,实现在异构和低带宽网络中的高效训练。*

    Read in full
  • CheckFree: 无检查点的故障恢复训练

    CheckFree: 无检查点的故障恢复训练

    一种面向流水线并行训练的容错方法,与现有方法相比可实现高达1.6倍的加速效果,且收敛损失最小。

    Read in full
  • Verde:在不可靠节点上进行机器学习验证的协议

    Verde:在不可靠节点上进行机器学习验证的协议

    一种基于 RepOps 库的机器学习仲裁系统,可在不可信节点上运行,该库支持跨异构设备的比特级结果复现。

    Read in full
  • RL Swarm:协同强化学习的框架系统

    RL Swarm:协同强化学习的框架系统

    一个基于互联网的协作式强化学习点对点系统,可在消费级或数据中心硬件上运行,对所有人开放使用。

    Read in full
  • Testnet

    Testnet

    一种专用于机器学习的定制化以太坊Rollup解决方案,集成了链下执行、验证与通信框架,构建面向机器智能的网络基础设施。

    Read in full
  • Diverse Expert Ensembles:基于不同专家的并行 LLM

    Diverse Expert Ensembles:基于不同专家的并行 LLM

    *一种并行训练混合专家模型(Mixture-of-Experts)的创新框架,通过引入异构性提升集成模型性能。*

    Read in full
  • SkipPipe:去中心化学习的高效通信方法

    SkipPipe:去中心化学习的高效通信方法

    一种新型流水线并行训练方法,可将训练迭代时间减少55%,并在50%节点故障率下实现容错训练。

    Read in full
  • NoLoCo:无需 All-Reduce 的大模型训练

    NoLoCo:无需 All-Reduce 的大模型训练

    *一种创新的分布式训练优化方法,通过用 gossip 协议替代全局同步步骤,实现在异构和低带宽网络中的高效训练。*

    Read in full
  • CheckFree: 无检查点的故障恢复训练

    CheckFree: 无检查点的故障恢复训练

    一种面向流水线并行训练的容错方法,与现有方法相比可实现高达1.6倍的加速效果,且收敛损失最小。

    Read in full
  • Verde:在不可靠节点上进行机器学习验证的协议

    Verde:在不可靠节点上进行机器学习验证的协议

    一种基于 RepOps 库的机器学习仲裁系统,可在不可信节点上运行,该库支持跨异构设备的比特级结果复现。

    Read in full
  • RL Swarm:协同强化学习的框架系统

    RL Swarm:协同强化学习的框架系统

    一个基于互联网的协作式强化学习点对点系统,可在消费级或数据中心硬件上运行,对所有人开放使用。

    Read in full