[언론보도] [인공지능신문] KAIST, 60% 이상 챗GPT 추론 성능 향상할 NPU 핵심기술 개발
페이지 정보
작성일26-01-02 | 조회4회관련링크
본문
KAIS 박종세 교수팀, 최신 GPU 대비 약 44% 낮은 전력 소모 등 평균 60% 이상 성능이 향상된 NPU 개발
오픈AI 챗GPT, 구글 제미나이 등 최신 생성형 AI 모델들은 높은 메모리 대역폭(Bandwidth) 뿐만 아니라 많은 메모리 용량(Capacity)를 필요로 한다.
구글, 마이크로소프트 등 생성형AI 클라우드 운영 기업들이 엔비디아 GPU를 수십만 장씩 구매하는 이유다.
이런 고성능 인공지능 인프라 구축의 핵심 난제를 해소할 방안으로...