배너
닫기

산업동향

배너

소프트웨어 한계, 하드웨어로 극복하는 기술들 ‘TPU, IPU, BPU’

URL복사
[선착순 무료] 자동차와 전자산업을 위한 AI 자율제조혁신 세미나를 개최합니다 (4/24, 코엑스1층 전시장B홀 세미나장)

[첨단 헬로티]


하드웨어를 통해 소프트웨어 성능의 한계를 보완하고 극복하며 소프트웨어와 하드웨어의 영역을 구분하는 것이 모호해졌다. 하드웨어로 시장의 성능 문제를 해결하며, 혁신을 주도해 나가는 스타트업들도 등장했다.


머신러닝, 딥러닝, 인공지능(AI)에 필요한 고속의 컴퓨팅 연산 ‘병렬처리’에 최적화된 GPU가 각광받고 있다. 이에 구글은 이 고속 컴퓨팅에 최적화된 칩을 만들어 공개했다. TPU(Tensor Processing Unit)이다.



이 알고리즘 성능을 올리기 위해서는 당연히 소스코드를 개선해야하지만, 구글의 TPU는 이를 하드웨어적으로 구현해 냈다. 성능을 올리기 위해선 간단히 칩 성능만 올리면 된다. 소프트웨어 알고리즘의 업그레이드와 하드웨어 칩 업그레이드가 맞붙게 된 것이다.


영국의 인공지능 반도체 스타트업 ‘그래프코어’은 마이크로소프트(이하 MS)에 AI 전용 반도체를 납품하기로 했다고 발표했다. MS는 이를 자사 클라우드 컴퓨팅 플랫폼 ‘애저(Azure)’에 탑재해 고객에 좀 더 편리한 AI 개발 환경을 제공할 계획이라 밝혔다.


그래프코어의 AI 반도체는 머신러닝에 특화된 IPU(지능처리장치)로, CPU(중앙처리장치)나 GPU(그래픽처리장치) 등 기존 시스템 반도체보다 AI 데이터 처리 속도가 10배에서 최대 100까지 빠른 것으로 평가된다.


▲영국 반도체 스타트업 그래프코어의 IPU(지능처리장치)


실제로 프랑스의 유명 검색엔진 회사 ‘콴트(Qwant)’는 그래프코어의 IPU를 시스템에 적용한 이후 이미지 검색 속도가 3.5배 빨라졌다고 발표했다. 헤지펀드 카못 캐피탈도 IPU를 통해 금융정보 분석속도가 26배나 향상된 것으로 나타났다.


MS 애저에 IPU가 적용되면 사용자들은 애저 플랫폼 안에서 머신러닝이나 자연어처리(NLP) 등을 활용해 새로운 서비스나 제품을 개발할 수 있게 된다. 별도의 투자 없이 고급의 AI 인프라를 사용하는 셈이다.


현재 그래프코어의 기업가치는 15억 달러(약 1조7560억원) 이상으로 평가받는다. 지난해 12월 2억 달러(약 2341억원)의 추가 투자도 유치했다. MS와 독일 자동차회사 BMW 등이 투자자로 합류했다. 현재 그래프코어는 삼성이 지분투자를 참여하여 개발을 함께 하고 있다.


미디움이 개발 중인 BPU


한국의 하드웨어기반 블록체인 가속기 개발회사 미디움은 기존 고착상태에 있던 블록체인 성능의 문제를 BPU(Blockchain Process Unit)을 통해 하드웨어적으로 구현해, 비트코인의 약 1만배 이상 수준으로 성능을 개선하였다. 구글이 텐서플로우에 최적화 된 하드웨어 칩 TPU를 개발한 부분과 같은 맥락이다.


또한, 미디움의 BPU와 그래프코어의 IPU는 기존의 CPU 기반의 데이터 연산 처리방식에서 반복적으로 발생하던 성능저하 문제를 전용 프로세서 및 전용 칩을 통해 처리하고자 하는 동일한 문제해결 방식을 취하고 있다는 점에서 상당히 유사하다.


미디움은 현재 100만 TPS 구현을 목표로 개발 중이며, 2019년 8월 클로즈베타 서비스 기준 10만 TPS를 보장하고 있다고 밝힌 바 있다.










배너









주요파트너/추천기업