모델·연구NVIDIA Developer2026-09-15
밀도 모델과 MoE 모델의 차이와 선택 기준
Dense vs. MoE Models: Active Parameters, Throughput, and When to Choose Each
- MoE 모델은 전체 파라미터 중 일부만 각 토큰에 활성화해 메모리 비용을 줄이고 처리 속도를 높인다.
- Nemotron 3.5 Lightning은 30B 파라미터 중 3B만 활성화해 높은 토큰 처리량을 달성한다.
왜 중요한가메모리 제약과 처리 성능 간의 균형을 고려해 적절한 모델 선택이 중요하다.
공식 원문 확인 ↗
인프라·반도체NVIDIA2026-09-15
NVIDIA, AI 공장의 전력 효율성 극대화를 위한 DSX 플랫폼 도입
From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production
- NVIDIA DSX 플랫폼은 전력, 냉각, 네트워크 등을 통합하여 AI 공장의 전력 효율성을 높이고, 전력망과의 협업을 가능하게 합니다.
- 실제 테스트에서 동일한 전력 예산으로 24% 더 많은 토큰 처리량을 달성했으며, 800V DC 전력 아키텍처를 도입해 전력 전달 효율을 개선했습니다.
왜 중요한가AI 공장의 전력 효율성 향상은 에너지 자원의 낭비를 줄이고, 지속 가능한 인프라 구축에 기여합니다.
공식 원문 확인 ↗
모델·연구Hugging Face2026-09-15
LLM 에이전트의 일관성 문제 해결을 위한 새로운 기준 제안
Your Agent Aced the Task. Will It Do It Again?
- LLM 에이전트가 동일한 작업을 반복할 때 성공률이 달라지는 일관성 문제를 해결하기 위한 새로운 기준 개발
- Consistency Analyzer를 통해 결정 점을 분석하고, 일관성 지침을 생성해 일관성 간격을 절반으로 줄인 사례 제시
왜 중요한가LLM 에이전트의 일관성 문제는 실제 사용 시 신뢰성에 직결되므로, 이 문제를 해결하는 기술은 중요한 의미를 가진다.
공식 원문 확인 ↗
제품·서비스Google AI2026-09-15
구글, AI 기술을 사회적 영향을 위한 도구로 활용
AI for Societal Impact
- 구글은 인공지능을 과학 발견과 실제 문제 해결에 활용하고 있으며, 이는 인간의 복잡한 문제를 해결하는 데 기여하고 있다.
- AI를 활용해 질병 진단, 자연 재해 예측, 교육 확대, 경제 기회 확대 등 다양한 분야에서 혁신을 이끌고 있다.
왜 중요한가AI 기술이 사회적 문제 해결에 기여함으로써, 더 많은 사람들이 이 기술의 혜택을 경험할 수 있는 기회가 창출된다.
공식 원문 확인 ↗
인프라·반도체NVIDIA2026-09-15
NVIDIA, AI 공장 효율성 강화를 위한 DSX 플랫폼 및 기술 업데이트 발표
AI Infra Summit: NVIDIA Vera Rubin and DSX Platform Advancements Showcase Energy Efficiencies of Optimizing Tokens Per Watt for AI Factories
- NVIDIA는 AI 공장의 에너지 효율성을 높이기 위해 DSX MaxLPS, DSX Flex, 그리고 Vera Rubin 플랫폼을 업데이트하여 토큰당 와트 수를 개선했다.
- AI 공장은 전력 효율성을 중심으로 설계되어야 하며, DSX MaxLPS는 동일한 전력 예산 내에서 GPU 용량을 40% 증가시키고 토큰 처리량을 24% 높일 수 있다.
왜 중요한가AI 인프라의 효율성 향상은 전력 자원을 최대한 활용하여 AI 공장의 생산성을 높이고, 경제적 가치를 극대화하는 데 중요한 역할을 한다.
공식 원문 확인 ↗