ACROFAN

그래프코어, 지능처리장치 ‘IPU’ 앞세워 한국 진출

기사입력 : 2020년 02월 05일 11시 22분
ACROFAN=신승희 | seunghee.shin@acrofan.com | SNS
 4일 오전, AI 반도체 전문 기업 그래프코어(Graphcore)는 서울 삼성동에 위치한 그랜드 인터컨티넨탈에서 ‘그래프코어 한국 지사 설립 및 전락 발표 기자간담회’를 개최해 자사의 한국 진출을 알렸다.

본 행사에는 파브리스 모이잔(Fabrice Moizan) 그래프코어 미국 영업 및 비즈니스 총괄 부사장 및 그래프코어 코리아 강민우 지사장 등의 관계자가 참석했으며, 한국 지사 설립 및 그래프코어의 핵심 기술인 IPU(지능 처리 장치:Intelligence Processing Unit)가 소개됐다.

파브리스 모이잔그 부사장은 “그래프코어 IPU는 기존 CPU 및 GPU를 사용하는 것과 비교하여 데이터 처리 속도가 10배에서 최대 100배까지 빠르고, GPU보다 전력 사용량이 2배 이상 적어 데이터를 분석해서 컴퓨터 스스로 판단하고 학습할 수 있는 능력인 '머신러닝'에 더 적합하다”라고 말하며, “전세계 AI 시장에서 큰 역할을 하고 있는 한국 고객들의 혁신 제품 개발과 서비스 확대 수요에 맞춘 최적의 IPU 공급을 위해 지속적인 지원과 투자에 나설 것이다”라고 밝혔다.

▲ 그래프코어 코리아 강민우 지사장

지난 2016년 영국 브리스톨에서 나이젤 툰(Nigel Toon) 최고경영자(CEO)와 사이먼 놀스(Simon Knowles) 최고기술책임자(CTO)가 AI 시대와 머신러닝에 특화한 반도체의 필요성에 주목하여 공동으로 창업하여 설립된 그래프코어는 현재 미국과 유럽, 한국, 일본을 비롯해 전세계에 지사를 두고 있다.

그리고 이번 한국 지사 설립과 함께, 그래프코어는 강민우 지사장을 선임했다. 강민우 지사장은 그래프코어에 합류하기 이전에 오버랜드와 데이터도메인, 블랙아이옵스, 퓨어스토리지, 루브릭, 엑사그리드 등의 다국적 기업에서 지사장을 맡으며 국내 기업 고객과 시장에 제품을 소개한 바 있다. 그는 IT 전반의 고객 지원과 영업을 두루 경험하며 20년 이상 IT 분야 전문가로서 인정받고 있다.

강민우 지사장은 “그래프코어 IPU는 기존에 경험해보지 못한 빠른 학습과 추론을 위한 속도를 보장한다. AI 프로젝트를 진행하는 공공 기관을 비롯하여 주요 기업과 연구소에서 사용하는 데이터센터 등에서 필요한 AI프로젝트를 완벽하게 수행하기 위한 컴퓨팅 시스템에 IPU를 공급할 것이다”라고 말하고, “국내 기업 고객들의 변화하는 수요에 맞춰 공격적으로 시장을 개척하고, 최적의 제품과 서비스 제공을 위해 조직 확대 및 지원에 적극 나설 것이다”라고 밝혔다.

▲ 파브리스 모이잔 그래프코어 미국 영업 및 비즈니스 총괄 부사장

전 세계적으로 현재 그래프코어의 IPU는 실제 글로벌 기업 컴퓨팅 시스템에 채택되면서 성능을 인정받고 있다. 지난해 MS는 클라우드 컴퓨팅 플랫폼 '애저(Azure)'에 그래프코어 IPU를 탑재해 고객에게 좀 더 편리한 AI 개발 환경을 제공한다고 밝혔다. MS 애저에 IPU가 적용되면 사용자들은 애저 플랫폼 안에서 머신러닝이나 자연어처리(NLP) 등을 활용해 새로운 서비스나 제품을 개발할 수 있게 된다. 또한 그래프코어 IPU는 Dell 서버 랙 기술과 통합되고 있는데, 이는 기업 고객이 직접 머신 인텔리전스 컴퓨팅을 구축할 수 있다.

이와 같은 기술력에 힘입어 그래프코어는 보쉬 벤처캐피털(Robert Bosch Venture Capita), 삼성전자, 델 테크롤로지 캐피털(Dell Technologies Capital), 아마데우스 캐피털파트너스(Amadeus Capital Partners), C4벤처스, 드라퍼 에스프리트(Draper Esprit), 파운데이션 캐피털, 피탕고 캐피털(Pitango Capital), 암(Arm) 공동 창업자 헤르만 하우저(Hermann Hauser)와 딥마인드(DeepMind) 공동 창업자 데미스 하사비스(Demis Hassabis) 등으로부터 3억 달러(약 3500억원)를 유치했으며, 현재 기업 가치를 15억 달러(약 1조 7400억원)로 평가 받고 있다고 밝혔다.

그리고 파브리스 모이잔 부사장은 그래프코어가 이번 한국 지사 설립과 함께, 메모리 중심적 아키텍처로서 데이터 처리 속도를 최대 100배까지 높일 수 있는 ‘콜로서스(Colossus) IPU’를 앞세워 국내 AI 반도체 시장 공략 강화에 나선다고 밝혔다. 그래프코어의 첫 상용 제품은 두 개의 '콜로서스 IPU'가 내장된 16나노미터 PCI 고속 카드 ‘C2'이다. 

그래프코어가 독자 설계로 만든 ‘콜로서스 IPU’는 기존 중앙처리장치(CPU)나 GPU와 달리 프로세서에 직접 메모리를 배치한 것이 특징이다. 이를 통해 학습 및 추론 모델을 메모리에 적재한 후 바로 연산할 수 있게 되어 CPU, D램, GPU 간에 발생하는 지연을 제거하고 연산 속도를 획기적으로 향상시켰다. 무엇보다 그래프코어 ‘콜로서스 IPU’는 새로운 머신 인텔리전스 워크로드를 실현할 수 있도록 설계되어, 자연어처리(NLP) 경계 확장에 중점을 두고 있으며, 기계 지능 개선에 한국 시장 전략의 초점을 둘 것이라 밝혔다.

▲ 두 개의 ‘콜로서스 IPU’로 구성된 그래프코어의 상용 제품 ‘C2’

파브리스 모이잔 부사장은 ‘콜로서스 IPU’의 특징으로 우선 병렬 연산 성능(카드당 2배 이상 향상)을 꼽았다. 그는 특히 머신러닝과 같은 경우 방대한 병렬처리를 기반으로 하고 있어 ‘콜로서스 IPU’를 통해 시간 및 비용 절감의 효과를 누릴 수 있을 것이라 소개했다. ‘콜로서스 IPU’는 16코어 팩과 236억개의 트랜지스터를 탑재한 메모리 중심적 병렬 프로세서로, 1,200개 이상의 독립적인 코어를 통해 150W에서 125 테라플롭스(TFLOPS·초당 12.5조 부동소수점을 연산할 수 있는 성능)의 연산속도를 제공한다. 코어당 최대 100 기가플롭스(GFLOPS·1초 동안 수행할 수 있는 부동소수점 연산의 횟수) 이상으로 300MB 메모리와 짝을 이룰 수 있으며 최대 7,000개 이상의 프로그램을 병렬로 실행할 수 있다는 것이 특징이다.

그리고 칩당 45TB/s의 메모리 대역폭으로, 두 개의 ‘콜로서스 IPU’로 구성된 그래프코어의 첫 상용 제품인 ‘C2’는 90TB/s의 전체 카드 대역폭을 제공한다고 소개했다. 이론적인 최대치는 HBM2 그래픽 칩 메모리보다 100배 이상 높은 것이다. 지난 2018년에 출시된 ‘C2'는 두 개의 상호 연결된 ‘콜로서스 IPU’로 각각 16코어 팩과 236억개의 트랜지스터로 구성됐다고 소개됐다. 그 중 ‘10x IPU-LINKS™’는 320GB/s의 칩 간 대역폭을, ‘PCIe Gen4 x16’은 64GB/s의 양방향 호스트 통신 대역폭을 내며, 두 개의 IPU를 상호 연결하는 ‘8TB/s의 전체 대 전체(all-to-all) IPU-EXCHANGE’는 차단 없이 모든 통신의 패턴을 가능케 한다.

한편, ‘C2’는 AI 머신러닝을 위해 고안된 자사의 소프트웨어 스택 ‘포플러(Poplar)’와 함께 작동하도록 설계됐다. 구글 텐서플로 프레임워크와 호환 가능한 AI 모델 생태계 ONNX(Open Neural Network Exchange)과 통합됐다. 페이스북 파이토치(PyTorch)와 호환도 2020년 초까지 완료한다는 계획이다. 본 소프트웨어 스택을 통해 ‘C2’는 300MB의 메모리를 낼 수 있는 것이다.

이 외에도, 파브리스 모이잔 부사장은 ‘콜로서스 IPU’는 칩 내 메모리를 통해 엣지에서의 전송속도 지연을 최소화하고, 기계 학습 소요 시간을 줄이고, 전력 효율적으로 메모리를 사용할 수 있다는 점이 있다고 밝혔다. 또한 학습과 추론에 동일한 HW 및 SW를 사용하여 높은 유연성을 제공하며, 엣지로부터 클라우드에 이르기까지 지속적으로 증가하고 있는 새로운 솔루션에 모두 적용할 수 있는 높은 확장성을 제공한다고 덧붙였다. 

▲ ‘C2’와 작동하는 그래프코어의 소프트웨어 스택 ‘포플러(Poplar)’


Copyright ⓒ Acrofan All Right Reserved



[명칭] 아크로팬   [제호] 아크로팬(ACROFAN)    [발행인] 유재용    [편집인] 유재용    [청소년보호책임자] 권용만
Copyright © ACROFAN All Right Reserved