‘#AIChip’ 에 대한 태그 검색결과
2건의 글이 있습니다
Data Movement 시대를 여는 차세대 메모리 zHBM
지난 기사에서는 HBM이 AI Chip에 필요한 데이터를 공급하며 발전해 온 과정을 살펴봤다. 최근에는 추론과 리즈닝, 긴 문맥 처리와 여러 작업을 연속으로 수행하는 에이전틱 AI가 확대되면서, AI가 읽고 처리해야 할 데이터도 늘어나고 있다. 생성하는 토큰과 KV 캐시가...
인공지능의 발전과 AI Chip, 이를 뒷받침하는 HBM
AI가 긴 문서를 이해하고 복잡한 질문에 답하며 여러 작업을 수행함에 따라, 이를 구현하는 반도체에도 다양한 요구가 더해지고 있다. 대규모 모델을 학습시키는 연산 능력은 물론, 사용자의 요청에 빠르게 응답하고 제한된 전력 안에서 서비스를 운영하는 효율 또한 중요해지고 있다....
기간 설정