태그: #ai-hardware

← 전체 글

• Systolic Array와 Dataflow 아키텍처 — TPU의 심장 원리 ♪ 들을 수 있어요

  AI 가속기의 핵심 연산인 행렬곱을 효율적으로 처리하는 systolic array의 동작 원리를 ASCII 다이어그램과 함께 깊이 파헤칩니다. weight-stationary와 output-stationary 같은 dataflow 전략, 데이터 재사용과 에너지, 텐서코어와의 비교, 컴파일러 매핑까지 TPU의 심장 원리를 정리합니다.

  2026-06-16 · 38 분 읽기 #gpu-cuda#systolic-array#dataflow#tpu#ai-hardware

• GPU vs TPU vs ASIC — 2026 추론 전쟁 ♪ 들을 수 있어요

  2026년 추론 워크로드를 두고 벌어지는 GPU·TPU·ASIC의 경쟁을 비교합니다. Google TPU v6 Trillium과 Ironwood, 급성장하는 클라우드 자체 추론 ASIC, 처리량·지연·비용·전력 트레이드오프, 그리고 CUDA와 XLA로 갈라지는 컴파일러 스택까지 다룹니다.

  2026-06-16 · 43 분 읽기 #gpu#tpu#asic#inference#ai-hardware

• Cerebras 웨이퍼스케일 딥다이브 — 칩 하나에 모델 전체를 ♪ 들을 수 있어요

  웨이퍼 한 장을 통째로 하나의 칩으로 만든 Cerebras WSE-3의 설계를 깊게 파헤칩니다. 메모리 월을 우회하는 온칩 SRAM 중심 구조, 결함 허용 설계, 실시간 추론 성능, 그리고 GPU 클러스터 대비 장단점을 정리합니다.

  2026-06-16 · 42 분 읽기 #cerebras#wafer-scale#ai-hardware#memory-wall#inference

• 포토닉 컴퓨팅과 광 인터커넥트 — 빛으로 메모리 월을 넘다 ♪ 들을 수 있어요

  전기 인터커넥트가 메모리 월과 데이터 이동 에너지의 벽에 부딪힌 2026년, 실리콘 포토닉스와 광 인터커넥트가 어떻게 그 한계를 넘으려 하는지 정리합니다. Lightmatter Passage, DARPA 포토닉 프로젝트, 광 텐서코어 연구, 그리고 co-packaged optics의 상용화 과제까지 살펴봅니다.

  2026-06-16 · 47 분 읽기 #gpu-cuda#photonics#silicon-photonics#optical-interconnect#co-packaged-optics

• 인메모리 컴퓨팅 원리 — 메모리에서 연산하기 ♪ 들을 수 있어요

  데이터를 연산 유닛으로 옮기는 대신, 메모리 안에서 직접 연산하는 compute-in-memory(CIM)의 원리를 깊게 정리합니다. 크로스바 어레이로 행렬곱을 한 번에 푸는 방법, 아날로그와 디지털 방식의 차이, 정밀도와 노이즈의 트레이드오프, 그리고 2026년 연구 동향과 상용화 과제를 다룹니다.

  2026-06-16 · 40 분 읽기 #in-memory-computing#compute-in-memory#ai-hardware#crossbar#reram

• AI 반도체 공급망과 시장 — 누가 칩을 만드는가 (2026) ♪ 들을 수 있어요

  AI 칩 한 장이 만들어지기까지의 가치사슬을 설계, EDA, IP, 파운드리, 패키징, HBM, 장비로 나누어 짚어 봅니다. TSMC와 삼성, ASML의 EUV, CoWoS 병목, 지정학과 수출통제, 클라우드 자체 칩의 부상, 그리고 2026년 투자 사이클 논쟁까지 누가 칩을 만드는지를 정리합니다.

  2026-06-16 · 38 분 읽기 #gpu-cuda#ai-hardware#semiconductor#supply-chain#tsmc

• 2026 AI 가속기 지형 — Blackwell에서 Vera Rubin까지 ♪ 들을 수 있어요

  2026년 AI 가속기 시장을 한눈에 정리합니다. NVIDIA Blackwell과 차세대 Vera Rubin, AMD MI350X, 추론 capex가 학습을 처음 추월한 변화, 그리고 워크로드별로 어떤 칩을 골라야 하는지 개발자 관점에서 살펴봅니다.

  2026-06-16 · 40 분 읽기 #ai-hardware#nvidia-blackwell#vera-rubin#inference#gpu

• 메모리 월과 HBM — AI 성능을 가르는 진짜 병목 ♪ 들을 수 있어요

  연산은 싸지고 데이터 이동은 비싸진 시대, AI 성능의 진짜 병목은 메모리입니다. 메모리 월 개념부터 HBM 세대, roofline 모델과 산술 강도, KV 캐시, 양자화로 대역폭을 절감하는 법까지 개발자 관점에서 정리합니다.

  2026-06-16 · 43 분 읽기 #memory-wall#hbm#bandwidth#roofline#inference

• Groq와 SambaNova — 추론에 올인한 칩들 ♪ 들을 수 있어요

  학습이 아니라 추론에 모든 것을 건 두 칩, Groq LPU와 SambaNova RDU의 동작 원리를 깊게 들여다봅니다. 결정적 실행과 컴파일러 스케줄링, reconfigurable dataflow가 어떻게 낮은 지연을 만들어내는지, 그리고 GPU 대비 어디서 이기고 어디서 지는지 정리합니다.

  2026-06-16 · 38 분 읽기 #groq#sambanova#inference#ai-hardware#lpu

• AI 인터커넥트 — NVLink, NVSwitch, UALink, 그리고 스케일업의 기술 ♪ 들을 수 있어요

  대규모 AI 학습과 추론의 진짜 병목은 연산이 아니라 통신입니다. NVLink와 NVSwitch가 만드는 스케일업 도메인, GB200 NVL72 같은 랙 스케일 시스템, 그리고 UALink와 Ultra Ethernet 같은 개방형 대안까지, AI 인터커넥트의 원리와 실무를 정리합니다.

  2026-06-16 · 54 분 읽기 #gpu-cuda#nvlink#nvswitch#ualink#interconnect

• AI 하드웨어 최신 연구 동향 2026 — 논문으로 보는 미래 ♪ 들을 수 있어요

  2026년의 AI 하드웨어 연구 흐름을 논문 단위로 훑어봅니다. 웨이퍼스케일과 포토닉스, 인메모리 컴퓨팅, FP4 저정밀 학습, 희소성과 MoE 하드웨어, 광 인터커넥트, 차세대 메모리, 뉴로모픽, 하드웨어-소프트웨어 공동설계까지 핵심 아이디어와 의의, 한계를 정리합니다.

  2026-06-16 · 40 분 읽기 #ai-papers#ai-hardware#photonics#compute-in-memory#low-precision

• AI 하드웨어 가속기 2026 — NVIDIA Blackwell / AMD Instinct MI400 / Google TPU Trillium / Cerebras WSE-3 / Groq LPU / Tenstorrent / Etched Sohu / Furiosa / Rebellions 심층 가이드

  2026년 AI 하드웨어는 더 이상 NVIDIA 한 곳의 이야기가 아니다. Blackwell(B100/B200/GB200 NVL72/B300)이 GTC 2024에서 등장하고, 2026년 9월 Rubin이 예고된 가운데 AMD Instinct는 MI300X에서 MI355X를 거쳐 MI400 Helios까지 진격했다. Intel Gaudi 3가 마지막 별도 라인으로 출하되고 Falcon Shor

  2026-05-16 · 27 분 읽기 #ai-hardware#gpu#accelerator#nvidia-blackwell#b100

• 집에서 AI 슈퍼컴퓨터를: NVIDIA DGX Spark로 LLM 공부하고 ComfyUI로 콘텐츠 만들기 ♪ 들을 수 있어요

  NVIDIA DGX Spark($3,999)로 200B 파라미터 LLM을 로컬에서 돌리고, ComfyUI로 FLUX/SDXL 이미지를 생성하는 완전 가이드. 스펙 비교, 벤치마크, 셋업 방법, 비용 분석까지 — 개인 AI 슈퍼컴퓨터 시대가 열렸다.

  2026-03-21 · 53 분 읽기 #nvidia#dgx-spark#comfyui#local-ai#llm

• NPU 완전 해부: 트랜스포머 아키텍처가 실리콘 위에서 어떻게 달리는가

  NPU가 CPU/GPU와 무엇이 다른지, 트랜스포머의 모든 연산이 하드웨어에 어떻게 매핑되는지, 왜 LLM 추론은 메모리 바운드인지를 루프라인 모델과 실제 코드로 완전 해부합니다. Apple ANE부터 Qualcomm Hexagon, Groq LPU까지.

  2026-03-18 · 28 분 읽기 #npu#트랜스포머#ai-hardware#양자화#KV캐시

• AI 하드웨어 가속기 완전 정복: H100, TPU, Cerebras, 엣지 AI 칩 비교

  NVIDIA H100 Tensor Core, Google TPU v5 systolic array, Cerebras WSE-3, AWS Inferentia 2, Apple Neural Engine까지 AI 하드웨어 가속기 완전 비교 가이드입니다.

  2026-03-17 · 27 분 읽기 #ai-hardware#h100#tpu#cerebras#edge-ai

• AI 메모리 슈퍼사이클의 정점: 2026년 반도체 시장을 뒤흔들 HBM의 5가지 결정적 모멘텀 ♪ 들을 수 있어요

  HBM4의 16단 적층 기술, 커스텀 HBM(cHBM)의 등장, SK하이닉스·삼성·마이크론의 전략적 격돌, 메모리 슈퍼사이클의 시장 전망, HBM vs GDDR 비교까지 — 2026년 AI 반도체 시장의 핵심인 고대역폭 메모리(HBM)의 5가지 결정적 모멘텀을 심층 분석한다.

  2026-03-01 · 53 분 읽기 #hbm#semiconductor#memory#ai-hardware#sk-hynix