본 글은 소이넷에서 발행하는 뉴스레터 메일인 소이뉴스에 게재했던 내용을 담고 있습니다.
메일 구독을 원하시는 분은 구독링크를 통해 신청해 주세요.
안녕하세요, 구독자님.
설 연휴 잘 보내셨나요?
이번 설 연휴는 유난히 추웠던 것 같습니다. 고향이 남쪽인 제 경우는 그나마 좀 나았지만 북부 (서울, 경기, 강원 등)는 한파로, 제주와 전라남도 쪽은 폭설로 다들 힘드셨을 것 같은데 그래도 가족들을 만나 나눈 즐거움이 그런 어려움을 충분히 상쇄하고도 남았으리라 생각됩니다.
이번 소식에서는 최근 화두가 되고 있는 인공지능 반도체에 대해 알아보도록 하겠습니다. 왜 갑자기 인공지능 반도체냐구요? 금주까지 AI바우처 과제 제안을 하고 있는데 올해부터 인공지능 반도체와 관련된 부문이 새로 추가되었을 정도로 관심을 받고 있는 분야인 것 같아서입니다. 물론 저희는 소프트웨어 쪽이라 칩셋과는 직접적인 관련이 있진 않습니다만...
인공지능 반도체 (AI 반도체)
AI 반도체가 뭔가요?
AI 반도체란 인공지능에 사용되는 신경망 알고리즘을 효율적으로 처리할 수 있도록 만들어진 초고속, 초저전력 반도체를 말합니다. 데이터나 연산 처리를 하는 것은 기존의 반도체와 동일하지만 '인공지능'에 사용되는 고속, 병렬처리를 저전력으로 처리할 수 있도록 특화해서 만든 것이라고 생각하시면 될 것 같습니다. 결국 사용 용도가 다르고 그러다보니 요구하는 기능이나 스펙이 달라진 것인 셈입니다.
AI 반도체에는 어떤 것이 있고 각각 어떤 특징이 있나요?
AI 반도체에 대한 분류는 사용목적, 사용처, 구현기술 방식 등 다양하게 나뉠 수 있습니다. 사용목적으로는 학습용/추론용, 사용처로는 서버용/엣지용으로 구분할 수 있습니다. 그리고 구현기술 방식으로 하는 구분은 분석 기관에 따라 제각각이라 명확히 구분지어 정해진 것은 없다고 보이는데, ETRI에서는 **1세대(CPU, GPU), 2세대(FPGA, ASIC), 3세대(뉴로모픽)**으로 구분하고 있습니다.
언급된 몇가지 AI 반도체 가운데 잘 알려진 CPU, GPU 외에 다른 것들을 간단히 살펴보면 다음과 같습니다.
- FPGA (Field Programmable Gate Array) : 칩 내부의 하드웨어를용도에 따라 재프로그래밍이 가능한 반도체로 로직 변경을 반영할 수 있다는 특징이 있음
- ASIC(Application Specific Integrated Circuit) : 주문형반도체라고 불리며, 특정 목적에 맞춰 제작되어 처리 속도가 빠르고 에너지 효율성 높은 반면, 이름 그대로 특정 목적에 한정되어 사용됨
- 뉴로모픽(Neuromorphic) 반도체 : 인간의 뇌(뉴런-시냅스 구조)를 모방해 연산, 저장 등의 기능을 융합한 반도체. 기술. 성능, 전력 효율은 뛰어나지만 범용성 낮고 아직은 개발 진행 중인 차세대 반도체임
AI 반도체에는 어떤 제약사항이 있을까요?
특정 목적에 맞춰 최적화되어 설계되기 때문에 CPU, GPU가 지원하는 다양한 인공지능 모델 구조를 지원하진 못한다는 것이 대표적인 단점입니다. 다양한 아키텍처의 네트워크를 지원하면서도 속도도 빠르고 전력도 적게 먹는다면 완전 최고겠죠. 하지만 그게 쉽지 않기 때문에 GPU 최강자인 NVIDIA가 여전히 이 분야에서 군림하고 있답니다.
또 다른 제약사항으로는 소프트웨어 스택의 미성숙을 꼽을 수 있습니다. 현재 AI 시장의 최강자인 NVIDIA의 경우, 자사 GPU를 인공지능 학습/추론용으로 사용하기 위해 CUDA 라는 강력한 소프트웨어 스택을 제공하고 있습니다. Intel도 oneDNN과 OpenVINO 등의 소프트웨어 스택을 지원하고 있구요. 그 외 다양한 AI 반도체 제조사들은 H/W 측면에서의 개발 및 최적화를 진행하고 있지만 이를 제대로 활용하기 위해서 필수인 소프트웨어 스택 부분은 아직은 미진한 부분이 많다고 합니다. 그것은 업체 별로 각자의 NPU에 특화해서 개발을 하는 경우가 많은데 많은 비용과 시간, 전문인력이 투입되어야 하는 쉽지 않은 작업이기 때문입니다. 그러다보니 범용기술화해서 개발과 활용 분야로 에코시스템을 확장하기도 어렵다는 한계가 있습니다.
국내외 AI 반도체
최근 우리나라도 AI 반도체 쪽에 많은 관심을 두는 것 같던데...
작년에 우리나라도 AI 반도체의 중요성을 절감하고 해당 산업의 성장을 지원하는 대책을 발표했습니다. (기사) 대략 요약하면 AI 반도체를 위한 H/W 기술, S/W 기술, 그리고 인재양성, 해외 선진국과의 공동연구 확대 등이 골자입니다. 몇 가지를 요약해 보면 다음과 같습니다.
1.반도체 기술 개발 (3단계)
- 1단계 (~2025년) : 상용화 초기 단계의 국산 신경망처리장치(NPU) 고도화 및 국내 IDC에 적용하여 초기 시장 창출 지원
- 2단계 (2026~2028년) : D램 기반 상용 프로세싱 인 메모리와 국산 NPU 접합한 저전력 PIM(Processor in Memory) 개발
- 3단계 (2029~2030년) : 비휘발성 메모리(NVM)을 활용해 아날로그 곱셈누적(MAC) 연산 기반의 극저전력 PIM 개발
2.AI 반도체 관련 S/W (라이브러리, 컴파일러 등) 개발
3.AI 반도체 전문인력 7000명을 양성
PIM이라는 기술은 뭔가요...
인공지능에서는 데이터는 많지 않아도 연산을 빠르게 처리해야 하거나 많은 양의 데이터를 처리해야 하는 요건들이 있습니다. 전자는 주로 영상처리와 같은 분야에서, 후자는 자연어처리나 초거대모델 등에서 나옵니다. (어떤 곳에서는 이를 위해 사용하는 AI 반도체를 프로세서 기반 AI반도체, 메모리 기반 AI반도체 로 구분하기도 합니다. 하지만 대부분의 인공지능에서는 둘 다 중요하죠...) 최근 삼성전자와 SK하이닉스에서는 **PIM(Processor in Memory)**라는 기술을 발표했습니다. PIM은 메모리 내부에 AI 연산에 필요한 프로세서 기능이 추가되어 처리속도와 연산효율을 증가시키는 기술입니다.
기존의 GPU를 생각해보면 GPU의 병렬처리를 활용하기 위해서는 데이터를 CPU영역에서 GPU영역으로 복사 후 GPU에서 연산처리를 하고 다시 CPU로 결과 데이터를 옮기고 하는 오버헤드가 있었습니다. 게다가 GPU메모리는 고가이고 한정된 용량의 메모리만 제공된다는 제약도 있었는데 PIM 기반 기술을 잘만 이용하면 기존의 많은 문제점들이 해결될 수 있겠죠. 게다가 이런 기술은 최근 나오고 있는 ChatGPT 등과 같이 거대모델을 이용하는 쪽에 적용될 경우, 큰 효과를 기대할 수 있겠습니다.
우리나라의 AI 반도체 개발 기업은 어떤 곳이 있나요?
앞서 PIM 때문에 언급된 삼성전자, SK하이닉스 외에, AI반도체 개발에 뛰어든 스타트업들도 아래와 같은 곳들이 있습니다. (이외에도 많이 있을텐데 잘 알려진 몇몇만 소개합니다)
- 리벨리온 (2020년) : 파이낸스용 AI 반도체 '아이온', '아톰', '리벨'
- 오픈엣지테크놀로지 (2017년) : AI 반도체 설계자산 (IP) 전문 기업
- 딥엑스 (2018년) : 엣지용 AI반도체 '딥엑스 시리즈' NPU 기반 SoC
- 퓨리오사AI (2017년) : IDC, 엔터프라이즈 서버 용 AI반도체 '워보이'
이외에 SK그룹의 AI반도체 기업인 사피온이 있죠. X220이라는 칩을 데이터센터와 자율주행용으로 개발한 바 있습니다.
해외에서의 AI 반도체 트랜드는 어떻게 되고 있나요?
최근 반도체 공급란을 겪고 나서, 전세계는 반도체가 국가 경제, 안보에 미치는 영향이 지대하다는 것을 제대로 실감하게 되었습니다. 예를 들어, 미국과 중국 간 벌어지고 있는 기술패권 경쟁에서 반도체 특히 AI 반도체는 국가 안보를 좌우하는 핵심 기술로 보호 육성되어야 하는 것으로 평가되고 있죠.
미국의 경우, 전통적인 반도체 강자인 Intel은 이스라엘의 AI반도체 기업인 하바나랩스를, AMD는 FPGA 강자였던 자일링스를 각각 인수하며 이 분야를 키워나가고 있고, 범용성을 자랑하는 GPU 분야 최강자인 NVIDIA 또한 AI연산에 특화된 core 들을 기존의 GPU 칩셋상에 보강하는 방식으로 접근하고 있습니다. 모바일 쪽은 퀄컴에서 ARM 기반의 새로운 칩셋과 함께 해당 칩셋에서 동작하는 AI Engine 스택을 내놓고 있습니다.
그 외에 예전 같으면 반도체 기업들에게서 칩이나 보드를 사서 시스템을 구성하거나 제품을 만들던 Apple과 아마존, 구글, Tesla와 같은 빅테크 기업들이 이제는 독자적으로 AI반도체를 개발해서 필요한 인공지능의 학습과 추론에 사용하고 있습니다. 예를 들면 Apple은 ARM 기반의 M1, M2를, 구글은 TPU(Tensor Processing Unit)를, Tesla는 D1이라는 칩과 이를 이용한 도조라는 슈퍼컴퓨터를 만들고 사용하고 있죠. (물론 제조 자체는 TSMC나 섬성과 같은 파운드리 업체를 통해 진행합니다.) 앞으로도 이런 추세는 계속될 것 같습니다.
AI 반도체에 대해 더 알고 싶어요.
AI 반도체에 대해 찾아보니 아래와 같은 것들이 있었습니다. 이외에도 다양한 기사가 쏟아지고 있으니 관심 있으신 분들은 구글 검색이나 유튜브 등을 더 이용해 보세요.
'소이뉴스' 카테고리의 다른 글
| 인공지능의 활용 - 사람인 듯 아닌 듯 … (0) | 2023.07.22 |
|---|---|
| 인공지능의 활용 - 미래의 동반자, 로봇 (0) | 2023.07.21 |
| 인공지능 활용 - 이건... 내 목소리인데? (0) | 2023.07.21 |
| 인공지능의 활용 - 3D 이미지를 만들어보세요 (0) | 2023.07.21 |
| 인공지능 활용 - 어떤 모델이 필요하신가요 (0) | 2023.07.21 |
