전체 글10 왜 AI 데이터센터는 800V DC로 가는가: 전력 아키텍처 대전환의 모든 것 최근 NVIDIA의 젠슨황이 AI 데이터센터에 800V DC를 도입한다는 이야기를 자주하고 있다. 수 많은 전압 중에 왜 800V 이고 왜 DC인지 궁금했다. 현재 데이터센터의 서버들은 기본적으로 AC 전원이 공급되기 때문에 왜 DC가 중요한지 궁금했다.이에 대해 공부해보기 위해 자료를 정리했고, 영상으로 본다면 안될공학에서 매우 잘 설명해주고 있기에 영상도 추천한다.https://www.youtube.com/watch?v=ozj0cU8339o TL;DR AI GPU 랙의 전력 밀도가 Hopper 세대 약 40kW에서 Blackwell(GB200) 약 120kW, 2027년 Rubin Ultra "Kyber" 랙 600kW~1MW로 3년 만에 약 25배 폭증하면서, 기존 54V DC 랙 배전은 물리적 한.. 2026. 7. 4. AI DC 네트워크 구조의 기본 - Leaf Spine 구조에 대해 알아보자 AI DC 네트워크를 공부하면 우리가 알던 3계층(액세스–애그리게이션–코어)가 아닌 Leaf-Spine 구조만 나온다.Leaf Spine 이 무엇이고, AI DC 네트워크에서 왜 필요한지 정리해본다. 전통적인 네트워크옛날 데이터센터는 north-south(남북) 트래픽 중심이었다. 즉, 외부 사용자 → 서버 → 응답이라는 위아래 방향의 흐름이다. 전통적 3계층(액세스–애그리게이션–코어)은 바로 이걸 잘 처리하도록 설계되어 있었다.가상화가 본격화되면서, 그리고 MSA 아키텍처가 부상하면서 상황은 달라지기 시작했다.east-west(동서) 트래픽, 즉 서버 ↔ 서버 간 옆방향 통신이 폭증했다. 3계층 구조에서 서버 A가 서버 B와 통신하려면 트래픽이 액세스 → 애그리게이션 → (때로는 코어까지) → 다시 내.. 2026. 6. 27. RoCEv2 학습 개요AI 데이터센터 네트워크 기술에 대해 학습하고 있다. 그 중 새롭게 알게된 단어인 RoCEv2 기술에 대해 학습한 내용을 정리해보았다. 컴퓨팅 패러다임의 변화와 RDMA 기술의 부상 현대의 대규모 데이터센터는 인공지능 모델의 분산 학습, 고성능 컴퓨팅(HPC), 그리고 초저지연 스토리지 네트워크 환경으로 급격히 진화하고 있다. 수천 대의 GPU가 병렬로 연산을 수행하고 거대한 파라미터를 실시간으로 동기화하는 환경에서는, 네트워크 패브릭의 대역폭과 극단적인 저지연 성능이 전체 클러스터의 효율성을 결정짓는 핵심 병목이 된다. 전통적인 TCP/IP 스택은 CPU가 네트워크 패킷 처리를 전담하는 구조로, 통신 속도가 100Gbps를 넘어 400Gbps, 800Gbps로 진입하는 현대의 인프라에서 막대한 연산.. 2026. 6. 21. 클라우드 인스턴스에서 devstack 구축하기 devstack은 openstack 테스트 환경을 구축할 수 있는 가장 손 쉬운 방법이다. 보통은 자신의 컴퓨터에서 virtualbox vm을 생성해서 devstack을 설치하지만, 실수로 vm을 끄기라도 한다면 온전한 형태의 devstack을 다시 만들기는 어렵다. 이 경우 devstack 환경을 다시 만드는 것이 마음이 편하다. 그래서 요즘에 virtualbox를 이용하지 않고, 클라우드 인스턴스에 devstack을 구축해서 항상 구동중이면서 어디에서든지 접근할 수 있도록 하고 싶은 요구사항이 생겨났다. virtualbox에서 구현하는 것과 큰 차이는 없지만, 클라우드라는 환경에서 고려해야하는 점들이 있었고 어떻게 해결하였는지 이제부터 설명하겠다. 고민) provider network를 어떻게 제공할.. 2021. 7. 25. 이전 1 2 3 다음
