인공지능 분야는 지난 10년간 극적인 변화를 겪었습니다. 범용 CPU에서 신경망을 실행하던 시대에서 GPU, TPU, NPU 및 수많은 독점 솔루션으로 이루어진 다양한 가속기 생태계로 진화했습니다. 이러한 하드웨어 다양성은 AI 애플리케이션에 전례 없는 컴퓨팅 성능을 제공하여 수십억 개의 파라미터를 가진 모델과 대규모 실시간 추론을 가능하게 했습니다.
그러나 이러한 하드웨어 다양성은 중대한 과제를 동반합니다: 파편화. 각 가속기 벤더는 자체 API, 메모리 모델, 컴파일 도구 체인 및 최적화 기법을 제공합니다. NVIDIA GPU에 최적화된 딥러닝 모델을 Google TPU나 Apple Neural Engine에서 효율적으로 실행하려면 상당한 재작성이 필요할 수 있습니다.
인터페이스 표준화에 대해 논의하기 전에 다양한 유형의 AI 가속기와 그 아키텍처 특성을 이해하는 것이 필수적입니다.
원래 그래픽 렌더링용으로 설계된 GPU는 딥러닝의 주력이 되었습니다. 수천 개의 코어가 다른 데이터에 대해 동일한 명령을 실행할 수 있는 대규모 병렬 아키텍처(SIMD)는 신경망 계산을 지배하는 행렬 연산에 이상적입니다.
Google의 TPU는 AI 가속을 위한 맞춤형 접근 방식을 나타냅니다. 그래픽 하드웨어를 적응시키는 대신 TPU는 신경망 워크로드를 위해 처음부터 설계되었습니다.
AI 가속기 또는 뉴럴 엔진이라고도 하는 NPU는 에지 배포용으로 설계되었습니다. 스마트폰, IoT 디바이스 및 임베디드 시스템에서 발견되는 NPU는 원시 처리량보다 에너지 효율성과 낮은 지연 시간을 우선시합니다.
AI 가속기의 다양성은 개발자, 연구자 및 조직에 여러 과제를 제기하는 파편화된 생태계를 초래했습니다.
훈련된 모델을 한 가속기에서 다른 가속기로 이동하려면 종종 재컴파일 이상이 필요합니다. 지원되는 작업, 수치 정밀도, 메모리 모델 및 실행 의미론의 차이로 인해 정확도 저하 또는 기능 실패가 발생할 수 있습니다.
여러 가속기를 지원하면 개발 및 유지 관리 비용이 배가됩니다. 팀은 각 대상 플랫폼에 대해 별도의 코드 경로, 테스트 인프라 및 최적화 파이프라인을 유지해야 합니다.
벤더별 API 및 도구에 대한 막대한 투자는 경쟁을 줄이고 선택을 제한하는 전환 비용을 발생시킵니다. 조직은 엄청난 마이그레이션 비용 없이 잠재적으로 우수한 새로운 하드웨어를 채택할 수 없습니다.
| 가속기 유형 | 일반적인 사용 사례 | 핵심 강점 | 주요 과제 |
|---|---|---|---|
| GPU | 훈련, 연구 | 유연성, 메모리 | 전력 소비 |
| TPU | 대규모 추론 | 처리량 | 생태계 성숙도 |
| NPU | 에지, 모바일 | 효율성 | 제한된 정밀도 |
WIA-AI-011은 하드웨어별 최적화를 활용하는 기능을 유지하면서 파편화를 해결하는 AI 칩 인터페이스에 대한 포괄적인 표준을 제안합니다. 이 표준은 여러 핵심 원칙을 기반으로 합니다.
이식성을 위해 성능을 희생하는 전통적인 추상화 계층과 달리 WIA-AI-011은 둘 다 제공합니다. 표준은 기능 검색 및 선택적 확장을 통해 하드웨어별 기능을 활용할 수 있도록 하면서 공통 인터페이스를 정의합니다.
표준은 4개의 점진적 단계로 구성되어 벤더와 개발자가 점진적으로 채택할 수 있습니다. 1단계는 데이터 포맷 표준화에 중점을 두어 광범위한 구현 노력 없이 즉각적인 가치를 제공합니다.
WIA-AI-011은 하드웨어 벤더, 프레임워크 개발자 및 최종 사용자의 의견을 받아 개방된 프로세스를 통해 개발됩니다. 단일 벤더가 사양을 제어하지 않으므로 더 넓은 커뮤니티의 요구를 충족합니다.
WIA-AI-011 표준은 AI 가속기 상호 작용의 다양한 측면을 다루는 여러 추상화 계층을 포함합니다.
텐서 포맷, 메모리 레이아웃, 데이터 유형 및 양자화 체계를 정의합니다. 이 계층은 변환 오버헤드 없이 가속기 간에 데이터를 공유할 수 있도록 보장합니다.
디바이스 검색, 컨텍스트 관리, 메모리 할당 및 커널 실행을 위한 API를 지정합니다. 이 계층은 가속기와 상호 작용하기 위한 런타임 인터페이스를 제공합니다.
중간 표현, 최적화 패스 및 코드 생성 전략을 설명합니다. 이 계층은 칩별 최적화를 허용하면서 이식 가능한 컴파일을 가능하게 합니다.
다중 디바이스 조정, 데이터 전송 및 분산 실행을 위한 프로토콜을 정의합니다. 이 계층은 다중 칩 및 다중 노드 구성으로 확장하는 데 필수적입니다.
다양한 이해 관계자는 WIA-AI-011 채택에서 뚜렷한 이점을 얻습니다.
WIA-AI-011을 채택하면 생태계 진입 장벽이 낮아집니다. 새로운 가속기는 기존 모델 및 프레임워크에 즉시 액세스하여 시장 채택을 가속화합니다.
프레임워크 관리자는 광범위한 디바이스별 엔지니어링 없이 새로운 하드웨어를 지원할 수 있습니다. 단일 WIA-AI-011 백엔드가 모든 준수 가속기를 대상으로 할 수 있어 유지 관리 부담이 크게 줄어듭니다.
개발자는 코드 재작성 없이 요구 사항에 가장 적합한 하드웨어를 선택할 수 있는 자유를 얻습니다. 애플리케이션이 더 이식 가능하고 미래 지향적이 되어 개발 투자를 보호합니다.
WIA-AI-011은 고립되어 존재하지 않습니다. 기존 표준 및 기술을 기반으로 하고 보완합니다.
ONNX가 모델 표현을 표준화하는 동안 WIA-AI-011은 하드웨어 인터페이스를 표준화합니다. 두 표준은 상호 보완적입니다.
이러한 컴퓨팅 및 그래픽 API는 범용 GPU 프로그래밍을 제공합니다. WIA-AI-011은 AI 워크로드에 특화된 더 높은 수준의 추상화를 제공합니다.
성공적인 표준에는 기술적 우수성뿐만 아니라 실질적인 채택 전략도 필요합니다.
표준에는 준수를 입증하고 벤더를 위한 시작점을 제공하는 참조 구현이 포함됩니다.
벤더는 준수를 위해 구현을 인증할 수 있어 개발자에게 이식성에 대한 신뢰를 제공합니다.
표준화된 AI 칩 인터페이스를 향한 여정은 이제 막 시작되었습니다. 향후 장에서는 낮은 수준의 텐서 포맷에서 높은 수준의 프레임워크 통합에 이르기까지 WIA-AI-011 스택의 각 계층을 자세히 살펴볼 것입니다.
AI가 스마트폰에서 슈퍼컴퓨터에 이르기까지 컴퓨팅의 모든 측면에 스며들면서 상호 운용 가능하고 효율적인 하드웨어 인터페이스의 필요성은 점점 더 중요해집니다. WIA-AI-011은 AI 하드웨어 다양성이 부채가 아니라 자산이 되도록 보장하기 위한 협력적 노력을 나타냅니다.