자일링스(Xilinx)는 현지 시각 기준 10월 1~2일 양일간 미국 캘리포니아 주 산호세(San Jose)의 페어몬트 산호세(Fairmont San Jose) 호텔에서 ‘자일링스 개발자 포럼 2019(XDF 2019: Xilinx Developer Forum 2019)’을 개최했다. 이번 ‘XDF 2019’를 통해 자일링스는 새로운 소프트웨어 플랫폼 바이티스(Vitis)와 함께 다양한 혁신 사례, 향후 전략의 방향성 등을 발표했다.

자일링스는 이번 XDF 2019를 통해, 소프트웨어 엔지니어 및 AI 과학자를 비롯해 새로운 분야의 다양한 개발자들이 적응형 하드웨어의 이점을 활용할 수 있도록 지원하는, 통합 소프트웨어 플랫폼 ‘바이티스(Vitis)를 발표했다. 5년여의 연구개발을 거쳐 선보인 바이티스 통합 소프트웨어 플랫폼은 하드웨어에 대한 전문지식이 없어도 소프트웨어나 알고리즘 코드를 자동으로 자일링스 하드웨어 아키텍처에 맞게 구현할 수 있게 해 준다. 또한 바이티스 플랫폼은 범용 소프트웨어 개발자 툴과 연결하여, 풍부한 최적화된 오픈소스 라이브러리를 이용할 수 있도록 함으로써 개발자들이 자체 알고리즘 개발에만 집중할 수 있도록 했다.

바이티스 플랫폼은 오픈소스 표준 개발 시스템 및 구현 환경과 완벽하게 연결되는 스택 기반의 아키텍처로 구현되어 있으며, 풍부한 표준 라이브러리를 갖추고 있다. 또한 이 레이어 구조에는 ‘바이티스 AI’ 및 도메인별 특화 아키텍처가 통합되어 있어, 이를 통해 AI나 비디오, 빅데이터 분석 등을 위한 도메인 특화 가속기를 즉각적으로 활용할 수 있다. 자일링스는 바이티스 통합 소프트웨어 플랫폼을 자일링스 보드 용으로 무료 제공한다고 발표했으며, 다음 달부터 다운로드가 가능할 예정이다. 또한 자일링스는 개발자들이 예제 및 사용지침서, 문서 등에 쉽게 접근할 수 있는 개발자 사이트를 운영한다고 발표했다.

▲ 라민 론 자일링스 소프트웨어와 AI 제품 관리 부사장

▲ 최적화된 프로그래밍 모델과 가속기 모델의 조합은 한 차원 높은 최선의 결과를 낸다

자일링스의 라민 론(Ramine Roane)소프트웨어와 AI 제품 관리 부사장은 최근 산업계의 트렌드로 이종 컴퓨트(Heterogeneous Compute), 클라우드의 엣지로의 확장, 그리고 AI 활용의 확대 등을 꼽았다. 그리고 클라우드의 엣지로의 확장과 함께 엣지에서 다양한 애플리케이션들이 활용되고 있고, 엣지에서도 높은 처리성능과 함께, SaaS에서 임베디드 엔드포인트로의 수월한 마이그레이션 등에 대한 요구가 있다고 밝혔다. 또한 AI 기술은 이제 데이터센터나 5G, 자율주행차, 보안, 헬스케어, 금융, 비디오 분석 등에 이르기까지 다양한 영역에서 활용이 논의되고 있으며, 에너지 효율적인 고성능 추론 환경에 대한 요구가 높다고 덧붙였다.

서로 다른 아키텍처를 가진 프로세서 등을 특정 작업의 ‘가속기’로 활용하는 이종 컴퓨트 환경은 전통적인 컴퓨팅 성능 향상 모델이 한계에 가까워졌다는 평과 함께 더욱 강조되고 있다. 공정 개선을 통한 싱글 코어 성능 향상 추이가 둔화되고, 멀티코어 구성을 통한 작업의 병렬화 또한 언제나 이상적으로 적용되지 못한다. 이 때, 현재의 멀티코어 프로세서와 특정 작업의 처리에 유리한 구조를 가진 ‘가속가’를 조합하면, 실질적으로 큰 폭의 성능 향상을 기대할 수 있다. 그리고 이 가속기의 기능이 고정된 것이 아니라, 소프트웨어적으로 정의될 수 있다면 그 가치는 더욱 각별해진다.

자일링스는 FPGA나 ACAP가 특정 워크로드에 대한 하드웨어 가속기를, 하드웨어 전문성 없이 소프트웨어 기술만을 기반으로 해도 활용할 수 있도록 해, 적응형 이종 컴퓨팅 환경을 제시할 수 있다고 강조했다. 그리고 재정의 가능한 ‘맞춤형’ 구조는 몇 개월마다 모델과 코드, 처리 방법이 바뀌는 AI 관련 기술을 하드웨어로 다루는 데 있어, 기존의 고정형 실리콘 기반에서는 생각할 수 없을 수준의 유연함을 제공할 수 있다고 밝혔다. 또한 이 ‘맞춤형’은 워크로드 처리를 위한 아키텍처 전반을 가장 최적의 방식으로 처리할 수 있도록 사용자 커스터마이즈도 가능하다고 덧붙였다.

‘프로그램 가능’과 ‘맞춤형’ 사이의 관계에서, 프로그램 가능의 의미는 보통 처리 모델을, 맞춤형의 의미는 특정 워크로드의 ‘가속기’를 의미한다. 그리고 지금까지는 고정형의 맞춤형 가속기를 위해, 정해진 결론에 가장 최적화된 모델을 구성하는 것이 최선이었다. 하지만 이 맞춤형 가속기가 재정의 가능해진다면, 처리 모델과 가속기 구성을 모두 고려한 최선의 아키텍처 구성이 가능해진다. 또한 애플리케이션을 위한 아키텍처 구현에서 FPGA나 ACAP의 활용은 ASIC 대비 다양한 모델을 유연하게 구성할 수 있다는 것이 장점이라고 강조했다.

▲ 바이티스 통합 소프트웨어 플랫폼의 주요 구성

▲ 바이티스 플랫폼은 소프트웨어 개발자들이 더 적극적으로 하드웨어를 활용할 수 있게 돕는다

자일링스가 새롭게 선보인 통합 소프트웨어 플랫폼 ‘바이티스(Vitis)’는 소프트웨어 엔지니어 및 AI 과학자를 비롯, 새로운 분야의 다양한 개발자들이 적응형 하드웨어의 이점을 활용할 수 있도록 한다. 5년여의 연구개발을 통해 개발된 바이티스 통합 소프트웨어 플랫폼은 하드웨어에 대한 전문지식이 없이도 소프트웨어나 알고리즘 코드를 자동으로 자일링스 하드웨어 아키텍처에 맞춰 구현할 수 있게 한다. 그리고 자일링스는 바이티스 플랫폼의 발표와 함께, 기존의 OS와 펌웨어 SDK, SDSoC, SDAccel, AI 추론 애플리케이션 등의 개발 플랫폼이 바이티스 플랫폼으로 통합되어, 자일링스의 개발 플랫폼은 하드웨어 지향의 비바도(Vivado), 소프트웨어 지향의 바이티스 플랫폼으로 구성될 것이라 덧붙였다.

바이티스 플랫폼은 오픈소스 표준 개발 시스템 및 구현 환경과 완벽하게 연결되는 스택 기반의 아키텍처로 구현되어 있으며, 풍부한 표준 라이브러리를 갖추고 있어 개발자들이 자체 알고리즘 개발에만 집중할 수 있도록 한다. 이 플랫폼은 크게 네 개의 스택으로 구성되며, 가장 아랫쪽에는 보드와 사전 프로그램된 I/O를 포함하고 있는 ‘바이티스 타겟 플랫폼’이 위치한다. 두 번째 레이어는 바이티스 코어 개발 키트로도 불리며, 서브시스템과 향후 Versal ACAP 기반 AI 엔진은 물론, 필요한 경우 외부 호스트를 비롯해 각기 다른 도메인 간의 데이터 이동을 관리하는 ‘자일링스 런타임 라이브러리’가 위치하고, 컴파일러, 분석기, 디버거 등의 코어 개발 툴이 포함되어 있다.

세 번째 레이어로 소개된 ‘바이타스 가속 라이브러리’에는 8개의 바이티스 라이브러리를 기반으로 400개 이상의 최적화된 오픈소스 애플리케이션이 제공된다. 여기에는 바이티스 BLAS(Basic Linear Algebra Subprograms) 라이브러리를 비롯해 바이티스 솔버(Solver) 라이브러리, 바이티스 시큐리티(Security) 라이브러리, 바이티스 비전(Vision) 라이브러리, 바이티스 데이터 압축(Data Compression) 라이브러리, 바이티스 QF(Quantitative Finance) 라이브러리, 바이티스 데이터베이스(Database) 라이브러리, 바이티스 AI 라이브러리가 포함되어 있다. 이를 통해 소프트웨어 개발자는 표준 API(Application Programming Interface)를 사용하여 사전에 가속화된 기능들을 호출할 수 있다.

▲ 바이티스 AI는 AI 프레임워크에서 직접 자일링스 하드웨어를 사용할 수 있게 한다

▲ 애플리케이션 구현에서, 다양한 도구를 사용해 성능을 크게 끌어올릴 수 있다

바이타스 플랫폼의 최상위 레이어는 ‘도메인 특화 개발 환경(Domain-Specific development environment)’로 불리며, 도메인 특화 아키텍처(DSA: Domain-Specific Architecture)를 통합한 ‘바이티스 AI’가 위치한다. DSA는 TensorFlow 및 Caffe와 같은 업계 선도적인 프레임워크를 이용해 자일링스 하드웨어를 최적화하고 프로그램 할 수 있도록 구성되어 있다. 바이티스 AI는 트레이닝된 AI 모델을 최적화하고 압축 및 컴파일하여 약 1분 안에 자일링스 디바이스 상에서 실행할 수 있는 툴을 제공하며, 또한 동급 최고의 추론 성능 및 효율성으로 에지에서 클라우드까지 구축할 수 있는 특화된 API도 지원된다.

딥러닝 가속 환경 구성을 위한 ‘바이티스 AI’는 텐서플로우(TensorFlow), Caffe, PyTorch 등의 프레임워크와, 30개 이상의 최적화된 AI 모델을 제공한다고 소개되었다. 그리고 이들 프레임워크와 AI 모델을 활용해 만들어지고, 바이티스 AI 개발 키트를 통해 최적화된 모델은 DSA를 통해 자일링스의 하드웨어에 최적화된 형태로 DPU를 구성, 활용할 수 있다. 이런 접근 방법을 통해, AI 처리에 있어 전통적인 프로세서와 함께 FPGA, ACAP 등을 활용한 이종 컴퓨팅 가속 구성의 장점들을, 애플리케이션 소프트웨어 개발자나 AI 사이언티스트들이 하드웨어 측면의 전문성 없이도 더 적극적으로 활용할 수 있게 된다.

자일링스는 매우 간단하고 강력한 동일한 엔드-투-엔드 솔루션을 위해 FFmpeg에서 직접 비디오를 인코딩할 수 있는 바이티스 비디오(Vitis Video)라고 불리는 또 다른 DSA를 조만간 출시할 예정이라고 밝혔다. 한편 현재 고객들이 활용하고 있는 독점 DSA 외에도 게놈 분석을 위한 GATK를 통합한 일루미나(Illumina)와 빅데이터 분석을 위한 엘라스틱서치(ElasticSearch)를 통합한 블랙링크스(BlackLynx) 등을 비롯한 파트너 회사들의 DSA를 이용할 수도 있다. 이와 함께, 자일링스는 개발자들이 예제 및 사용지침서, 문서 등에 쉽게 접근하고, 바이티스 개발자 커뮤니티와 연결할 수 있는 개발자 사이트를 운영한다고 밝혔다.

한편, 애플리케이션 구현에서 바이티스 플랫폼은 개발 보드와 PCIe 카드 형태 제품 모두에서 환경에따른 I/O 등을 재정의하는 것 정도로 동일한 핵심 코드를 재활용할 수 있으며, 지금까지 프로세서로만 처리하던 모델과 비교해 AI 엔진을 통한 가속, 프로그래머블 로직을 통한 사전 프로세스 작업의 하드웨어 처리, 바이티스 데이터플로우 파이프라이닝을 통한 하드웨어 활용 최적화 등으로 큰 폭의 성능 향상과 극대화된 가속기 활용 효율을 얻을 수 있을 것이라고 소개했다. 그리고 다양한 오픈소스 프레임워크와 라이브러리 지원 등에서, 자일링스는 오픈소스에 지속적으로 다양한 기여를 해 왔고, 이제 오픈소스는 자일링스의 핵심 전략이라고 덧붙였다.

Copyright ⓒ Acrofan All Right Reserved.