ACROFAN

그래프코어, 최신 MLPerf 벤치마크서 다시 한번 업계 최고 성능 입증

기사입력 : 2022년 07월 08일 18시 03분
ACROFAN=류재용 | jaeyong.ryu@acrofan.com SNS
인공지능(AI) 반도체 기업 그래프코어(Graphcore, 한국 지사장 강민우)가 최신 MLPerf 2.0 벤치마크 테스트서 IPU(Intelligence Processing Unit) 시스템의 획기적인 성능적 이점을 다시 한번 입증했다.

그래프코어의 보우(Bow) Pod16은 상대적으로 비용이 더 높은 엔비디아(NVIDIA)의 플래그십 모델인 DGX-A100 640GB과 비교해 ResNet-50에서 31% 더 빠른 훈련시간을 기록했다. BERT에 대해서는 MLPerf 1.1 벤치마크에서 보다 37% 향상된 성능을 달성하며 널리 사용되는 여러 언어 모델에 걸쳐 가격 및 성능 모든 측면에서 선두자리를 지켰다.

▲ 그래프코어의 Bow Pod16과 엔비디아 DGX-A100 640GB의 ResNet-50 훈련시간 비교

■ 바이두, 업계 최초로 그래프코어 IPU 시스템 활용한 써드파티 결과 제출

특히, 최초로 그래프코어 시스템을 활용한 써드파티 결과를 제출한 바이두(Baidu)는 패들패들(PaddlePaddle) 소프트웨어 프레임워크를 사용하여 BERT 훈련에서 동일한 성능을 보였다. 그래프코어의 Bow Pod 시스템의 성능은 전반적으로 크게 개선됐지만, 가격은 이전과 동일해 상당한 비용효율성을 제공한다. 따라서, BERT 훈련시간이 최대 37% 향상됐다는 것은 그래프코어 시스템이 가격 대비 매우 우수한 성능 이점을 제공한다는 것을 의미한다.

▲ 바이두가 BERT 모델 훈련에 Bow Pod16 및 Bow Pod64를 사용하여 제출한 패들패들 결과

바이두가 BERT 훈련에 Bow Pod16 및 Bow Pod64를 사용하여 제출한 패들패들 결과는 그래프코어가 PopART를 사용하여 제출한 결과와 유사한 양상을 보인다. 바이두는 패들패들 소프트웨어 프레임워크를 그래프코어의 포플러(Poplar)와 통합하여 탁월한 결과를 얻을 수 있었다.

■ RNN-T에 대한 결과도 제출

그래프코어는 오픈(Open) 부문에서 RNN-T에 대한 결과도 제출했다. 그래프코어는 고객 서비스, 컴플라이언스, 프로세스 자동화 등의 분야에서 음성 솔루션을 제공하는 자사 고객인 그리드스페이스(Gridspace)와 협력하여 RNN-T 훈련을 진행했다.

RNN-T 모델은 700GB 또는 1만시간의 음성으로 훈련됐는데, Bow Pod64에서 훈련시간을 몇 주에서 단 며칠로 단축했다. 이번 MLPerf 2.0에 RNN-T 결과를 제출한 것은 IPU를 활용한 모델을 구현하고 최적화하기 위한 그래프코어의 고객 중심적 접근을 반영한 것이라 볼 수 있다.

Copyright ⓒ Acrofan All Right Reserved.

디지털 마케팅의 새로운 장을 만들다! 신개념 퍼포먼스마케팅 플랫폼 '텐핑'

[명칭] 아크로팬   [제호] 아크로팬(ACROFAN)    [발행인] 유재용    [편집인] 유재용    [청소년보호책임자] 권용만
Copyright © ACROFAN All Right Reserved