‘좋은 기술’은 어떤 조건을 갖춰야 할까요? 사용자가 사용하기 편리한 편의성, 좋은 결과물을 가져다 주는 높은 성능, 그리고 빠른 처리 속도가 있을텐데요. 개인마다 다양한 기준이 존재하겠지만 공통적으로 동의하는 부분은 기술의 ‘효율’이 아닐까요? 기술에서 효율이란 높은 퍼포먼스를 구사하면서 낮은 전력 사용량으로 동일한 비용에 더 많은 처리가 가능한 것을 의미합니다. 때문에 올해 기술 산업에서 떠오르는 키워드는 ‘accelerator’, 가속화 입니다.

수면 위로 떠오른 기술 산업의 ‘속도’전

모든 산업이 디지털로 전환되고, 처리해야 할 데이터가 증가하면서 기술은 빠른 처리 속도를 구현하는 데 집중하고 있습니다. 그리고 이러한 기술 산업의 ‘속도’전이 본격적으로 시작된 가장 큰 원인은 AI의 일상화인데요. AI는 처리해야 하는 데이터 양이 많기 때문에 처리에 많은 시간이 소요되고, 특히 최근 등장한 생성형 AI는 기존보다 더 거대한 양의 데이터를 처리하면서 시간이 매우 오래 걸립니다.

처리에 오랜 시간이 소요되면 어떤 결과가 나타날까요? 우선, 기술을 사용하는 사람들이 불편함을 느끼게 됩니다. 예를 들어, 우리가 챗GPT에 질문을 했는데 답변을 받기까지 시간이 1시간 소요된다면 우리가 챗GPT를 사용했을까요? 아마 사용하지 않았을 것입니다. 게다가, 이는 비용에도 영향을 주게 되는데요. 데이터 처리에 시간이 오래 걸리면 전력 사용량이 증가하고, 전력 사용량은 곧 비용과 이어지기 때문입니다. 하지만 처리 속도를 높여 데이터 처리에 필요한 전력을 줄이게 되면 비용도 줄어들 수 있죠. 때문에 속도가 빠른 기술은 시간의 효율 뿐 아니라 비용의 효율까지 높여 사용자에게 편의성과 효율성을 함께 가져다줄 수 있습니다.

가속화에 힘을 실어주는 반도체

이처럼 기술에 속도가 중요해지면서 하드웨어, ‘반도체’가 주목받고 있습니다. 기존에는 CPU, GPU에서 소프트웨어로 구현하던 것들을 이제는 하드웨어 반도체로 구현하면서 처리 속도를 높이는 것에 초점을 맞추고 있는 것인데요. 이는 AI 반도체가 떠오르고 있는 이유이기도 합니다. 앞서 이야기한 것 처럼 AI는 엄청난 연산량이 필요하기 때문에 가속화의 중요성을 수면 위로 떠오르게 했고, 전용 하드웨어를 개발해 처리 속도를 높여 사용자의 편의성을 높이는 데 성공했습니다.

물론 CPU로도 충분히 AI를 구동할 수 있지만 연산 처리의 효율을 높이고자 하는 니즈가 발생했고 이로 인해 등장한 솔루션은 ‘AI 반도체’, 즉 AI 분야에 특화된 반도체 입니다. 사실 ‘AI 반도체’라는 용어는 AI 시장의 성장과 함께 등장한 단어로 아직 정의가 모호한 단계라고 볼 수 있는데요. 하지만 AI 반도체가 하는 역할은 분명합니다. AI 반도체는 AI의 연산을 효과적으로 처리하는 반도체이며 대표적으로 GPU, NPU, PIM, 그리고 뉴로모픽 반도체 등이 있습니다.

‘Hardware Accelerator’를 만드는 기술 회사들

현재 많은 기업들은 기술의 처리 속도를 높이기 위해 많은 ‘전용 반도체’ 칩을 개발하고 있습니다. 대표적으로 애플의 ‘A17 pro chip’이 있는데요. 애플은 레이 트레이싱(그래픽을 더욱 사실처럼 보이게 만들어주는 기술로, 방대한 데이터 처리로 인해 시간이 오래 소요된다고 합니다.)을 반도체 IP로 설계해 하드웨어로 구현했으며, 우수한 성능은 물론 빠른 처리 속도를 자랑해 많은 유저들의 호평을 받았습니다.

그리고 블루닷은 동영상 트랜스코딩 기술을 하드웨어 IP로 구현했는데요. 동영상 기술은 수많은 픽셀이 엄청난 연산량을 필요로 하기 때문에 처리에 속도가 오래 걸리는 편입니다. 특히 높은 화질의 영상이 상용화되면서 영상을 처리할 때 더 많은 시간이 필요해졌죠. 하지만 블루닷은 동영상과 하드웨어 설계 분야에서 오랜 경력을 쌓은 전문가들이 모여 동영상 트랜스코딩 반도체 IP를 연구하고 있으며, 이는 데이터센터향으로 설계되어 방대한 동영상 데이터를 빠른 속도로 처리 할 수 있는 기술을 선보일 예정입니다.

개인적으로 추후 기술 관련 기사 또는 포스팅에서 ‘가속화’라는 단어가 많이 등장할 것으로 생각합니다. 현재 우리가 살아가고 있는 세상은 모든 것이 데이터라고 해도 무방하며, 앞으로 기술들은 엄청난 데이터를 처리해야 하는 숙명을 가지고 있기 때문입니다. 때문에 사용자와 공급자 모두 빠른 속도로 데이터를 처리하는 기술을 필요로 하겠고, 우리는 이를 곧 ‘좋은 성능’, ‘좋은 기술’이라고 평가할 것입니다.