인공지능 실행 최적화 ‘글로벌 모델 마켓’ 정식 출시

[2022 4차 산업혁명 Power Korea 대전]
스마트 AI혁신상 / 2년 연속
소이넷

소이넷(공동대표 김용호, 박정우)은 2018년 설립된 인공지능(AI) 최적화 전문 기업이다. 포스코, 뉴로메카, 솔트룩스, 한화시스템 등 30여 개 업체와 공급 계약을 맺고 있으며 최근에는 해외 AI 솔루션 회사와도 협업 진행 중이다. 소이넷은 실행 최적화가 적용된 AI모델들을 위한 ‘글로벌 모델 마켓’을 정식 출시해 글로벌 시장 진입을 준비하고 있다. 이 서비스는 AI 모델을 활용할 때 실행 속도를 최대로 높이고 GPU 메모리를 적게 사용하도록 하는 인퍼런스-온니-프레임워크(추론 가속 및 경량화 프레임워크)이다. 딥러닝 모델 실행 시 하드웨어 코어 사용률을 최대화하고 GPU 메모리 소요를 최소화하는 알고리즘을 기반으로 한다. AI 개발자들은 공개된 다양한 AI 모델들을 선택하고 바로 자신의 개발환경에 맞춰서 실행해 볼 수 있다.