인공지능의 현장적용을 위한 KSB 인공지능 플랫폼 기술

머신러닝 파이프라인 기술이란 데이터를 넣어서 지능을 출력할 수 있도록 하는 데이터의 흡수준비-학습-예측서비스의 사이클을 의미한다[3]. 구글은 머신러닝 모델의 개발부터 배포, 스케일아웃을 포함한 머신러닝 워크플로우 라이프사이클을 오케스트레이션할 수 있는 기술인 Kubeflow를 최근 오픈소스로 공개하였다[4]. 머신러닝 개발자들을 지원하기 위한 머신러닝 워크플로우 도구는 Kubeflow 이전부터 이미 국내외 많은 기업들에 의해서 개발되어 왔다.

구글의 Kubeflow는 Kubernetes를 이용한 마이크로 서비스 기반의 오픈소스 플랫폼으로, 다양한 머신러닝 플랫폼으로 확장 가능한 구조를 제공하여 모델 개발자들이 다양한 머신러닝 인프라 기술을 이용하여 정확도 높은 모델을 개발할 수 있도록 도와준다. 또한 모델 개발을 위해서 빅데이터 처리부터 머신러닝 데이터셋을 마련하기 위한 데이터 엔지니어링, 모델 학습과 검증, 학습모델의 시각화, 모델 서빙을 위한 인프라 기술, 즉 머신러닝 파이프라인을 구성할 수 있는 다양한 인프라 기술을 제공한다. 구글은 자신들의 Google Cloud상에 머신러닝 라이프사이클을 구현한 Kubeflow Pipeline의 상용 서비스를 시작했다[4].

Microsoft는 Databricks의 Spark 스트림처리와 Spark MLlib을 통합한 SparkML pipeline기술을 Microsoft Azure 클라우드상에서 Azure Databricks로 서비스하고 있다. Azure Databricks는 Spark 기반 분석 플랫폼으로서 모델 및 데이터 워크플로를 빌드 및 배포를 수행할 수 있다[5].

스마트 제조/공장 분야에서 인공지능의 중요성은 점차 강조되고 있다. 글로벌 스마트 제조 산업시장은 2022년까지 매년 9.3%씩 성장하여 2,045.2억 규모로 성장할 것으로 예상하고 있다[6]. 독일의 지멘스는 인더스트리 4.0으로의 전환을 시작으로 제품의 설계-생산-서비스까지의 전 제조과정을 지원하는 통합 플랫폼의 개발과 다양한 제조 디바이스들의 표준 IoT 기반의 연동 등 원활한 움직임을 보이고 있다. 반면, 미국 GE사는 자신들의 IoT 경험을 바탕으로 클라우드 기반의 데이터 분석 기술을 통합한 산업형 IoT 플랫폼인 Predix를 출시하여 화학, 제조, 자동차 등 다양한 산업 도메인에 빠르게 적용하고 있다[7].

한편, 국내 스마트 제조 시장 규모는 국내 스마트 제조 시장 규모는 2020년 78.3억 달러, 2022년 127.6억 달러까지 매년 12.2%의 높은 성장률을 달성할 것으로 예측되고 있다. 국내 기업 중 LG CNS는 제조업 혁신 3.0을 지원하는 솔루션으로 사물인터넷, 빅데이터 기반의 예측기술을 활용한 에너지, 안전, 보안 서비스 제공하는 ‘Smart Factory 2.0’을 개발하였으며, 삼성은 인공지능을 기반으로 개발, 생산, 품질, 운영 등 제조 전 과정을 통합하여 처리할 수 있는 ‘넥스트 플랜트’를 출시하였다[6].

다양한 영역에서 지능 서비스에 대한 필요성을 인식하고 있으나, 대부분 머신러닝 모델의 학습 정확도를 만족시키기 위한 노력에 집중되어 있다. 하지만 실제 지능 서비스의 적용이 필요한 공공 및 산업현장에서는 사물들이 발생하는 데이터에 대한 낮은 신뢰성과 데이터소스 자체에서의 데이터의 누락 등 예상치 못한 문제들이 빈번히 발생한다. 또한 다양한 멀티모델 데이터로부터 이벤트를 추출하기 위한 동기화나 실시간성에 대한 보장 등 머신러닝 개발자들이 고려하지 않았던 다양한 이슈들이 현장에 존재한다. 따라서 이러한 환경적 요인을 미처 고려하지 않은 신경망 알고리즘이 현장에 적용되기에는 정확도나 안정성 등 여러 가지 해결해야 할 이슈가 존재한다.

사물마다 스스로 다양한 지능을 가지는 소위 IoT시대로의 전환은 개별 사물에서 발생하는 데이터로부터 지능 알고리즘을 개발하여 지능 서비스를 적용하는 데 대한 수요의 급증으로 이어진다. 하지만 개별 사물지능에 집중하여 개발하다보면 비슷한 기능의 반복적이고 중복인 개발이 야기되고, 결국 SW 결과물에 대한 품질의 저하와 그로 인한 클라우드에서 제공하는 SW 서비스에 의존하게 되는 현상을 초래하게 된다.

한편, 사물 지능 서비스를 제공하는 측면에서도 데이터에 대한 유입 및 처리부터, 학습, 서빙에 대한 요구는 다양한 이종의 인프라 기술을 운영하고 관리하기 위한 인력과 비용이 수반된다. 하지만 이러한 인력은 턱없이 부족할 뿐만 아니라 기술마다 개별적인 모니터링이나 관리 도구를 필요로 하다보니 기업들이 직접 이러한 지능 서비스를 위한 인프라를 운영하고 관리한다는 것은 쉽게 엄두 내기 어려운 일이다.

이러한 다양한 이유로 지능 서비스 개발의 중요성은 강조되고 있으나 기업들의 수요가 클라우드 서비스 솔루션으로 이동하게 되는 현상이 초래되고 있다. 표 1은 지능화 세상을 위한 AI 기술을 현장에 적용함에 있어서 알고리즘, SW, 운영 측면에서의 현상과 문제점들을 나열하고, 더불어 나열된 어려움을 극복하기 위한 BeeAI 플랫폼의 전략을 제시한다.

머신러닝 알고리즘의 측면에서 BeeAI의 전략은 End-to-End 서비스 파이프라인상에 즉각적인 알고리즘을 배포할 수 있는 환경을 제공하는 것이다. 이를 통해 알고리즘의 빠른 현장 최적화를 지원하고자 한다. 다음으로 SW 개발 기술력 측면에서 BeeAI는 기업들이 IT 기술력과 지능 관련 기술을 내재화할 수 있는 구조를 제공함으로써 기업들이 지능형 서비스를 포함한 데이터 기반 기술을 자체적으로 축적하여 확장해 갈 수 있는 기반을 제공한다. 마지막으로, 인프라 운영 기술 측면에서 BeeAI는 지능 서비스의 개발과 배포, 운영, 평가, 재배포를 위한 일원화된 인터페이스를 제공함으로써 현장에서 필요로 하는 실질적인 지능 시스템을 신속하게 구축·운영하여 현장에서의 최적화가 가능하도록 지원한다.

BeeAI는 자가학습형 지식융합 인공지능 서비스를 제공하기 위한 End-to-End 플랫폼이다. 이러한 목적을 달성하기 위해서 다양한 용도의 서비스를 제공하는 단위 논리 시스템(이하, 엔진)을 구성하여 실행하기 위한 구조인 프레임워크 기술과, 하나 이상의 엔진을 파이프라인 하여 다양한 목적의 서비스를 제공하는 논리 시스템(이하, 워크플로우)을 운영하기 위한 플랫폼 기술을 포함한다.

사용자의 편의를 위하여 워크플로우를 손쉽게 정의하고 운영하기 위한 웹 기반의 GUI(Graphic User Interface) 클라이언트 도구인 웹툴킷과 개발자 인터페이스를 통해 엔진을 구성하는 단위 SW 구성요소인 엔진 컴포넌트를 개발할 수 있는 개발자 도구를 함께 제공한다.

가. BeeAI 프레임워크 기술

데이터 기반의 지능 서비스를 제공하기 위해서는 데이터의 수집, 정제, 처리와 같은 데이터를 만들어가는 단계와 만든 데이터를 분석 또는 학습을 통해서 알고리즘을 만드는 단계, 만들어진 모델을 이용한 지능서비스를 제공하는 단계가 필요하다. 프레임워크 기술은 각 단계에서 필요한 단위 기능들을 수행하는 논리 시스템들에 대한 일반화된 규격을 제공한다. 프레임워크는 이러한 단위 기능을 수행하는 개별의 엔진을 하나 이상 파이프라인하여 다양한 기능으로 확장하는 개념을 실현한다.

프레임워크를 이용하면 데이터 처리, 모델 학습, 학습모델 기반 예측 서빙, 융합 응용 서빙 등의 다양한 단위 기능 블록을 수행하는 단일 엔진으로 구성한 워크플로우를 만드는 것뿐만 아니라 단위 블록을 엮어 새로운 서비스를 생성할 수 있는 융합 블록을 만들 수 있다. 더 나아가 하나 이상의 단위 기능 블록인 엔진들을 엮어 데이터 기반의 응용 전 주기를 지원하는 워크플로우까지 확장하는 것이 가능하다.

엔진 내부를 보면 하나의 엔진은 엔진을 구성하는 단위 구성체인 엔진 컴포넌트들로 구성된다. 엔진 컴포넌트의 유형은 5가지의 유형이 존재하며 이를 조합하여 엔진 컨테이너를 채움으로써 엔진의 기능 블럭을 정의하도록 하는 모듈식 구성의 특징을 가진다. 표 2는 엔진 컴포넌트의 유형과 유형별 설명을 보여준다.

엔진을 구성하는 구성품의 조합에 따라 빅데이터 수집/처리, 모델학습, 서빙, 융합응용서빙 등의 다양한 단위 블록을 구성 가능하도록 일원화된 구조, 즉 프레임워크를 제공한다. 이러한 구조적 특징으로 인해 프레임워크를 통한 엔진컴포넌트 단위의 SW 기능 확장과 SW 기술력의 내재화하는 것이 가능하다.

나. BeeAI 플랫폼 기술

BeeAI 플랫폼 기술은 핵심은 응용에 따라 다양한 지능 파이프라인을 만들고 운영하는 도구를 제공하는 데 있다. 부가적으로 워크플로우를 만드는 데 필요한 다양한 자원들을 등록하여 워크플로우 구성 시 활용할 수 있도록 등록 및 관리 기능을 제공하는 리소스 레지스트리 모듈과 리소스 물리 자원을 포함한 파일서비스를 제공하는 레파지토리 모듈, 토큰 발행을 대행해 주는 보안 클라이언트 모듈, 워크플로우 수행에 따른 엔진별 실행로그의 표출과 하드웨어 자원에 대한 사용량에 대한 모니터링 모듈이 존재한다(그림 3 참조).

그림 3

워크플로우 실행제어를 위한 플랫폼 모듈들

출처 ETRI, “자율적이고 지능화된 IoT 세상을 위한 BeeAI 엣지컴퓨팅 기술,” 사물인터넷 국제컨퍼넌스, 2019.

구체적으로, 플랫폼 기능의 핵심인 워크플로우 실행제어 기능은 정의된 워크플로우 사양에 맞게 워크플로우를 구성하는 일련의 엔진을 배포하고 운영하기 위한 기술로서, 응용에 따라 워크플로우 내의 엔진들의 순차 처리방식과 동시 실행방식을 취사선택하여 구동할 수 있다. 예를 들어 모델 학습을 위한 데이터셋을 만들고자 하는 경우, 데이터의 로딩과 정제, 모델 학습을 위한 입력 텐서로의 변환 등의 과정이 순차적으로 수행되어 데이터를 변환하는 작업을 수행할 수 있다. 이와는 달리, 센서나 디바이스로부터 생성되는 실시간 스트림을 이용하여 예측서비스를 제공하고자 하는 경우, 실시간 센서 스트림의 정제 및 시간 동기화, feature engineering을 통한 모델 입력 텐서의 마련, 입력 텐서를 입력으로 한 예측서비스가 동시에 수행되어야 하는데, 이 경우 동시 실행방식을 통해 데이터의 유입에 따른 실시간 데이터 처리 파이프라인 시스템을 논리적으로 만들어 둘 수 있다. 또한 경우에 따라서 주기적인 알고리즘의 정확도 개선을 위해 새로 유입된 데이터를 이용한 모델의 주기적인 갱신 작업과 같은 반복 수행에 대한 요구도 수용할 수 있도록 스케줄링을 통한 수행을 설정할 수 있는데, 이 모든 것은 BeeAI의 오케스트레이션 모듈과 스케줄러 모듈에 의해 제공된다.

다. BeeAI 클라이언트 도구(웹툴킷)

BeeAI 웹툴킷은 플랫폼이 제공하는 다양한 기능을 사용하기 위한 클라이언트 도구로서 워크플로우를 정의할 수 있는 저작도구와 엔진의 상태를 모니터링하고 제어하기 위한 인터페이스를 제공한다. 그 외에도 자원을 등록하고 관리하기 위한 리소스 등록관리 화면과 저장소 화면 등 시각화 기능을 통해 사용자 친화적인 환경을 제공한다. 특히 관리자 화면을 통해 워크플로우를 편집하기 위한 단위 컴포넌트들을 자주 사용되는 엔진의 유형을 등록하여 워크플로우 편집화면을 통해 사용할 수 있다(그림 4 참조).

그림 4

BeeAI 웹툴킷

라. BeeAI 엔진 컴포넌트 개발자 환경

소프트웨어 개발자들이 프레임워크의 기능을 확장할 수 있도록 새로운 엔진 컴포넌트를 개발할 수 있는 개발자 인터페이스를 제공한다. 개발자들은 엔진 컴포넌트를 개발하여 프레임워크 상에 탑재함으로써 SW 기술을 축적하여 내재화하고, 다양한 도메인 서비스를 제공할 수 있도록 기능 사양을 확장할 수 있다.

가. 주요기능

BeeAI 기술은 실시간 데이터 수집 및 처리, 그리고 기계 학습모델을 이용한 실시간 서빙을 위한 시스템을 동적으로 구성하여 실행 및 운영할 수 있는 기술을 제공한다. 더 나아가 하나 이상의 동적 시스템의 파이프라인을 구성하여 다양한 목적의 실시간 지능형 서비스를 쉽게 빠르게 디자인하여 실행하고 운영할 수 있으며, 다수의 지능형 서비스를 융합하여 새로운 서비스를 창출하는 융합 서빙 시스템을 실행하여 운영하는 것도 가능하다.

또한 학습모델을 주기적으로 파인튜닝하여 최적의 모델을 지속적으로 갱신하여 지속적인 최적화된 서비스하는 제공하는 것도 가능하다. 시스템 구성에 활용할 수 있도록 자주 사용하는 지능서비스를 위한 데이터셋, 학습코드, 모델, API 등의 자원을 등록하여 관리할 수 있다. 엣지 플랫폼과의 연동 기능과 토큰 발급 기능을 통해 현장의 데이터와 디바이스를 보다 안전하고 손쉽게 접근하고 제어하는 기능도 제공한다.

그뿐만 아니라, BeeAI를 이용하여 지능형 판단과 예측 결과의 모니터링하고 다양한 실시간 지능형 제어 서비스를 손쉽게 설계-개발-배포-운영할 수 있다. 따라서 지능형 제조공정, 스마트 물류, 스마트 시티 등 스스로 판단하여 제어가 필요한 다양한 도메인에 필요한 지능 서비스 응용 시스템을 빠르게 프로토타이핑하여 현장 최적화하고 필요에 따라 현장에 운영하는 시스템으로 즉각적으로 적용할 수 있다.

플랫폼을 통해서 만들고자 하는 엔진들의 기능을 확장하기 위하여 개발자 인터페이스를 통해 새로운 모듈을 만들어 추가할 수 있다. 기업들은 개발환경을 이용하여 새로운 소프트웨어 모듈을 컴포넌트 형태로 개발하고 등록할 수 있으며, 이를 통해 기능을 확장할 수 있다.

나. 특징 및 장점

BeeAI는 현장에서 일어나는 다양한 문제를 지능적으로 해결하기 위한 현장 적용형 지능서비스를 위한 end-to-end 워크플로우 구성 프레임워크 기술과 워크플로우의 정의-배포-운영을 위한 DevOps 플랫폼 기술 및 웹 기반의 워크플로우 저작도구를 제공한다. 표 3은 대표적인 특징과 장점을 나열한다.

그림 5

BeeAI 기반 인공지능 서비스 데브옵스

출처 ETRI, “자율적이고 지능화된 IoT 세상을 위한 BeeAI 엣지컴퓨팅 기술,” 사물인터넷 국제컨퍼넌스, 2019.

BeeAI의 지능 파이프라인 기술을 활용하여 기계학습모델 기반의 인공지능 서비스를 빠르게 프로덕션화(실제 응용 분야에 배포 및 운영)함으로써 신속한 지능의 개발-배포-운영-피드백의 사이클을 통해 인공지능 수준의 신속하고 점진적인 발달 효과를 얻을 수 있다. 또한 동적 엔진 구성기술을 통해서, 기존의 인공지능 서비스를 위해서 개별적으로 시스템이 개발되고 운영됨으로써 발생하는 시스템 개발, 유지 및 관리하는 데 드는 비용을 현저히 줄일 수 있다.

특히, BeeAI의 프레임워크 기술의 확장성을 기반으로 기업은 인공지능 및 소프트웨어 분야의 인공지능 기술을 지속적으로 축적하여 내재화함으로써 기업 독자적인 인공지능 기술을 확보할 수 있을 것으로 기대한다.