Testnet

머신러닝 전용으로 설계된 맞춤형 이더리움 롤업으로, 오프체인 실행, 검증 및 통신 프레임워크와 통합되었습니다. 머신 인텔리전스를 위한 네트워크입니다.

Read in full

Diverse Expert Ensembles: 다양한 전문가를 기반으로 한 병렬 LLM

병렬 방식으로 mixture-of-experts 모델을 학습하기 위한 프레임워크로, 학습 과정에 이질성을 도입하면 더 성능이 좋은 앙상블 모델이 만들어진다는 것을 보여줍니다.

Read in full

SkipPipe: 분산 학습을 위한 효율적인 통신 방법

파이프라인 병렬 학습을 위한 새로운 방법으로, 학습 반복 시간을 55% 단축하고 50% 노드 장애율에 대한 내결함성을 제공합니다.

Read in full

NoLoCo: all-reduce 없이 대형 모델 훈련

글로벌 동기화 단계를 가십(gossip) 방식으로 대체한 새로운 분산 학습 최적화 방법으로, 이질적인 환경과 낮은 대역폭 네트워크에서도 학습이 가능합니다.

Read in full

CheckFree: 실패에 대한 내성 있는 학습, 체크포인트 없이

파이프라인 병렬 학습을 위한 내결함성 방법으로, 기존 방법 대비 최대 1.6배의 속도 향상을 제공하면서 수렴 손실을 최소화합니다.

Read in full

Verde: 신뢰할 수 없는 노드를 위한 머신 러닝 검증 시스템

신뢰할 수 없는 노드들 간의 머신러닝을 위한 중재 시스템으로, 다양한 하드웨어 장치에서 비트 단위 재현성을 가능하게 하는 RepOps 라이브러리를 통해 구현됩니다.

Read in full

RL Swarm: 강화 학습 협업을 위한 프레임워크

인터넷을 통한 협력적 강화 학습을 위한 P2P(피어-투-피어) 시스템으로, 일반 소비자용 하드웨어 또는 데이터센터 하드웨어를 사용하는 누구나 접근할 수 있습니다.

Read in full