HS효성인포메이션시스템, Arm 서버 · NPU 결합해 고효율 AI 추론 인프라로 시장 공략

AI·데이터 인프라 솔루션 전문기업 HS효성인포메이션시스템(대표 양정규)이 저전력 Arm 서버 ‘GreenCore(그린코어)’와 신경망처리장치(NPU)를 결합한 고효율 AI 추론 인프라를 기반으로 기업 AI 서비스 운영 시장 공략에 나선다.

생성형 AI와 대규모 언어 모델(LLM) 활용이 본격화되면서 AI 시장 무게중심이 모델 개발과 학습에서 실제 업무와 서비스에 적용·운영하는 추론 단계로 이동하고 있다. 이로 인해 기업들은 모델 성능뿐 아니라 반복적으로 발생하는 추론 요청을 제한된 비용·전력·공간 내에서 효율적으로 처리할 수 있는 인프라를 요구하며, GPU와 더불어 NPU에 대한 관심이 증가하고 있다.

NPU는 AI 추론 업무를 효율적으로 처리하도록 설계된 AI 추론 전용 가속기다. 저전력, 저비용 등 고효율성 특성을 통해 GPU의 단점을 보완하는 새로운 AI 인프라 옵션으로 주목받고 있다. 다만 NPU 제조사와 제품에 따라 지원하는 AI 모델, 목표 워크로드가 달라 챗봇, 문서 검색, 영상 분석과 같은 서비스 특성은 물론 데이터센터, 엣지 등 구축 환경에 적합한 제품을 선정하는 것이 중요하다.

HS효성인포메이션시스템은 글로벌 기업 퀄컴을 비롯해 퓨리오사 AI, 딥엑스, 모빌린트 등 국내외 주요 NPU 기업과의 전반적인 협업을 통해 고객 환경에 적합한 인프라를 제공하고 있다. 단순히 제품의 카탈로그 성능만을 기준으로 NPU를 선정하지 않고, 고객이 사용할 AI 모델과 서비스 유형, 모델 크기, 동시 사용자 수, 목표 응답 속도, 데이터센터의 전력·공간 조건 등을 종합적으로 분석해 적합한 NPU 후보군을 제시한다.

여기에 더해 HS효성인포메이션시스템은 Arm 서버 ‘GreenCore’를 통해 NPU의 장점을 극대화하는 옵션을 제공하고 있다. HS효성인포메이션시스템과 국내 Arm 서버 제조기업 엑세스랩이 공동개발한 GreenCore는 Arm 아키텍처 CPU를 기반으로 저전력·저발열 특성과 매니코어 병렬처리 효율을 갖춘 서버 제품군이다. 전력과 냉각, 랙 공간이 제한된 데이터센터는 물론 보안과 데이터 주권을 고려해 온프레미스 AI 서비스를 준비하는 기업과 기관에도 효과적인 선택지가 될 수 있다.

선정한 NPU를 GreenCore에 직접 탑재해 하드웨어와 소프트웨어의 호환성, AI 모델 구동 여부, 운영 안정성을 통합 검증한다. 필요한 경우 AI 솔루션 기업과 연계해 실제 서비스 환경을 반영한 개념검증(PoC)을 진행함으로써 고객이 여러 NPU 제품과 제조사별 개발 도구를 직접 비교·검증해야 하는 부담을 줄인다.

HS효성인포메이션시스템은 고객 워크로드 분석부터 NPU 선정, GreenCore 서버 구성, 통합 검증, AI 솔루션 연계, PoC, 구축 및 운영까지 AI 추론 인프라 도입 전 과정을 지원한다. 향후 Arm 서버와 GPU, NPU, 고성능 스토리지, 데이터 레이크, AIOps 및 AI 솔루션 파트너 생태계를 유기적으로 결합해 고객의 AI 도입부터 안정적인 운영과 확장까지 지원하는 ‘HS효성 AI 플랫폼’ 포트폴리오를 지속적으로 강화할 방침이다.

HS효성인포메이션시스템 양정규 대표는 “AI 경쟁력의 중심이 모델 개발을 넘어 AI를 실제 비즈니스 환경에서 얼마나 안정적이고 효율적으로 운영하느냐로 이동하고 있다”며 “HS효성인포메이션시스템은 GreenCore와 다양한 NPU를 결합한 고효율 추론 인프라를 통해 고객이 비용과 전력, 공간의 제약을 고려하면서도 각자의 워크로드에 적합한 AI 서비스를 신속하게 구현할 수 있도록 지원해 나갈 것”이라고 말했다.