모델·연구NVIDIA Developer2026-10-12
NVIDIA, 프린스턴 대학과 함께 SSM 디코딩 속도 개선 기술 발표
ReplaySSM: Rethinking State Storage for Faster Hybrid-Model Decoding
- ReplaySSM 기술은 SSM 레이어의 디코딩 속도를 1.46~1.80배 빠르게 개선하며, 메모리 트래픽을 절반으로 줄인다.
- ReplaySSM은 스펙클래티브 디코딩 롤백을 간소화하고, 정밀도 손실을 제한해 모델의 정확도를 유지한다.
왜 중요한가SSM 레이어의 디코딩 속도 개선은 대규모 모델의 성능 향상과 효율적인 리소스 사용에 중요한 영향을 미친다.
공식 원문 확인 ↗
인프라·반도체NVIDIA2026-10-12
NVIDIA, OCP 글로벌 서밋에서 Vera Rubin 아키텍처 공개해 AI 공장 확장 지원
OCP Global Summit: Amid Ecosystem Adoption, NVIDIA Opens Vera Rubin Architecture to Help Scale AI Factories Worldwide
- NVIDIA가 OCP 글로벌 서밋에서 Vera Rubin 아키텍처를 공개하며 AI 공장 확장에 기여할 수 있는 오픈 스탠다드를 발표했다.
- NVIDIA와 파트너사들이 AI 공장 설계 표준, 그리드 회복성, 오픈 소스 소프트웨어 컴포넌트 등을 공개하며 AI 인프라 확장에 대한 기반을 마련했다.
왜 중요한가NVIDIA의 오픈 스탠다드와 협업을 통해 글로벌 AI 인프라 확장이 더욱 효율적이고 신속하게 이루어질 수 있다.
공식 원문 확인 ↗
인프라·반도체Microsoft AI2026-10-12
마이크로소프트, Azure 마이아 300 시스템 확대 발표
Introducing Microsoft’s latest custom chip: Maia 300
- 마이크로소프트가 Azure 마이아 시스템을 멀티 기가와트 규모로 확대한다고 발표했다.
- 마이아 300 칩의 아키텍처와 인프라 계층의 발전에 대한 설명이 포함되었다.
왜 중요한가마이크로소프트의 인프라 및 AI 기술 발전이 클라우드 서비스의 성능과 효율성에 영향을 미칠 수 있다.
공식 원문 확인 ↗