상명대학교 / 서광규 교수
최근 몇 년 동안 “서비스형(aaS)” 개념이 정보 기술(IT) 분야를 비롯한 다양한 산업 분야에서 인기를 얻고 있다. 최근 “aaS” 모델이 도입됨에 따라 시간 집약적이고 비용이 많이 드는 기존 기술 설계 및 배포 모델이 구독 기반 아키텍처로 전환되고 있다. 이는 새로운 기술 도입 및 구현에 있어 유연성을 높여 고객 경험을 향상시키고 IT 자본 비용을 크게 절감할 수 있도록 한다. “aaS” 모델의 전통적인 정의는 공급업체가 다양한 고객 온디맨드 서비스에 대한 액세스를 용이하게 하는 구독 기반 클라우드 인프라를 고려한다. 미국 국립표준기술원(NIST)의 공식 정의에 따르면 “aaS”는 "클라우드 서비스"로도 지칭되며, 이는 클라우드 컴퓨팅 리소스를 사용하여 소프트웨어를 통해 서비스를 제공하는 것을 의미한다.
"aaS" 모델의 성공은 "aaS" 모델 내에 "네트워크 서비스"가 도입되면서 두드러졌다. 데이터 마이닝, 인증, 권한 부여, 책임 및 라우팅 기능은 모두 "aaS" 모델에서 제안되었다. 기술적 성장과 응용 분야에서 상당한 발전을 목격했지만, 진화하는 웹 기술 하에서 새로운 서비스에 대한 새로운 요구 사항이 나타났다. 이러한 요구 사항은 여러 분야에 걸친 AI 서비스의 엄청난 잠재력과 수요, 그리고 "사물 인터넷(IoT)" 기술의 확산에 의해 주도되었다.
AIaaS는 "서비스로서의 인공지능(Artificial Intelligence as a Service)"을 의미하며, 타사 서비스 제공업체가 사용자가 비용 효율적이고 견고한 방식으로 솔루션을 개발할 수 있도록 AI 인프라, 기술 및 메커니즘을 호스팅한다. 로컬 호스팅 솔루션의 대안으로 제공된다. AIaaS의 빠른 도입으로 인해 최종 사용자와 개발자는 애플리케이션 프로그래밍 인터페이스(API), 최소한의 코딩 요구 사항 및 사용자 친화적인 플랫폼을 통해 AI 기술에 접근할 수 있게 되었다. 결과적으로 비용 효율적이고 확장 가능한 솔루션이 제공되면서 AI의 힘이 그 어느 때보다 더 많이 활용되고 있다. 인프라 개발 및 유지 관리를 위해 전문가를 고용하는 대신 중소기업(SME)은 AIaaS를 비즈니스에 직접 활용하여 지능형 AI 기반 솔루션을 개발할 수 있다. IBM Cloud Pak, Vertex AI(Google Cloud ML)는 AIaaS 솔루션의 실제 사례 중 일부이다. 클라우드 기반 서비스가 효과적인 것으로 입증되었지만, 실시간 의사 결정과 향상된 데이터 개인 정보 보호 및 보안이 모두 필요한 저지연 애플리케이션의 증가로 인해 엣지 컴퓨팅에 대한 필요성이 대두되었다. Industry 4.0의 출현으로 엣지 컴퓨팅은 많은 중요 인프라에서 스마트하고 견고하며 적응적이고 비용 효율적인 솔루션의 설계 및 구현에 중추적인 역할을 하고 있다. 오늘날 기업은 실시간으로 엄청난 양의 최종 사용자 및 센서 데이터를 수신하고 있다. 프로세스를 최적화하고 가변적인 통신 지연 시간을 처리하려면 실시간으로 데이터 소스 근처에서 의사 결정을 내려야 한다. 여기에 엣지 컴퓨팅과 AI의 융합 이면의 동기가 있다. IBM에 따르면 엣지에서 AI 솔루션을 통합하면 (i) 실시간 통찰력, (ii) 지속적인 운영 및 (iii) 자율 관리라는 세 가지 주요 이점이 보장된다. 따라서 소프트웨어 및 하드웨어 공급업체 모두 IoT 에지 통합 플랫폼에 적합한 AI 서비스를 개발하여 에지에서 AIaaS 도입을 가능하게 하고 있다. AIaaS는 현재 유망한 솔루션일 뿐만 아니라 스마트 기기, IoT, 블록체인, Industry 4.0, 5G 및 기타 신흥 기술의 광범위한 도입으로 IT 산업에 점점 더 중요해지고 있다는 점에 유의하는 것이 중요하다.
AIaaS는 인공지능 기능을 클라우드, 포그, 엣지 환경에서 서비스 형태로 제공하는 모델로, 기업이나 개발자가 AI 인프라를 직접 구축하지 않고도 모델 학습, 추론, 분석 등의 기능을 활용할 수 있게 해준다. 이러한 서비스는 비용 효율성과 유연성을 제공하며, AI 도입을 가속화하는 주요 수단으로 자리잡고 있다. 클라우드 기반 AIaaS는 대규모 연산이 필요한 AI 모델 학습과 대량의 데이터 분석에 적합하며, 포그 컴퓨팅은 클라우드와 엣지 사이에서 지연을 줄이고 지역적 처리를 가능하게 하며, 엣지 AIaaS는 사물인터넷(IoT) 기기와 가까운 위치에서 실시간 추론을 제공하는 데 유리하다. 이러한 환경에 따라 AIaaS는 점차 분산형·적응형 구조로 진화하고 있다.
최근 AIaaS는 여러 기술 트렌드를 중심으로 급속히 발전하고 있다.
첫째, 모델 경량화 기술의 발전으로 대형 AI 모델을 엣지 장비에서도 실행할 수 있게 되었다. 이를 위해 양자화(quantization), 프루닝(pruning), distillation 등의 기법이 적용되며, 인텔의 OpenVINO, 엔비디아의 TensorRT, 퀄컴의 AI Engine 등이 대표적인 예이다.
둘째, 멀티 클라우드와 하이브리드 클라우드 환경에서 AIaaS가 확대되고 있다. 하나의 클라우드에 종속되지 않고, 다양한 클라우드 서비스를 연동해 AI 워크로드를 유연하게 이동할 수 있게 되었으며, 온프레미스 환경과 클라우드의 혼합 운영을 통해 데이터 주권이나 보안 이슈에 대응하고 있다.
셋째, 데이터 프라이버시를 보호하기 위한 AIaaS 구조도 주목받고 있다. 연합 학습(Federated Learning)이나 동형 암호(Homomorphic Encryption)를 활용해 원본 데이터를 클라우드로 전송하지 않고, 로컬에서 AI 학습과 추론이 이루어지는 형태가 확대되고 있다.
넷째, MLOps 기반의 자동화된 AI 운영도 보편화되고 있다. 학습-배포-모니터링 전 주기를 자동화하고 관리하는 서비스가 확대되면서, Amazon SageMaker, Azure Machine Learning, Google Vertex AI 등 주요 클라우드 AI 플랫폼이 이를 지원하고 있다.
클라우드 AIaaS의 대표적인 사례로는 OpenAI가 제공하는 GPT 모델을 기반으로 한 생성형 AI API가 있으며, Microsoft Azure를 통해 기업용으로 통합되어 다양한 산업에서 활용되고 있다. Google의 Vertex AI는 AutoML, 데이터 라벨링, 모델 모니터링을 통합해 AI 서비스를 보다 쉽게 제공하고 있으며, Amazon의 SageMaker는 산업 전반에서 엔드투엔드 AI 파이프라인을 제공하는 대표적인 플랫폼이다.
포그와 엣지 환경에서도 AIaaS는 점차 확대되고 있다. 예를 들어, 현대자동차는 차량 내 엣지 AI 추론을 통해 자율주행 환경에서 실시간 장애물 인식 및 반응을 구현하고 있다. 지멘스는 스마트팩토리에서 포그 게이트웨이와 AI 추론 기능을 활용하여 공정 이상 탐지와 품질 예측을 수행하고 있다. 또한 SK텔레콤은 건물 내부의 IoT 센서 데이터를 엣지 AI로 분석하고, 실시간 에너지 효율 제어 및 이상 감지를 수행하는 스마트빌딩 AI 서비스를 제공하고 있다.
본 고에서는 AIaaS를 위한 최신 솔루션을 요약하고, 성장 전망과 개념을 발전시킬 수 있는 기회에 대하여 기술한다.
1. 클라우드, 포그, 엣지 분석에서 AI의 역할
현대 사회의 혁신적인 기술로서 AI는 세계 경제에 현실적으로 적용됨으로써 그 가치를 입증했다. 최근 몇 년 동안 전통적인 AI 기술과 딥러닝 기반 방법이 통찰력을 얻고 다양한 실제 사용 사례를 해결하기 위해 널리 채택되었다. 중앙 집중식 클라우드 컴퓨팅 아키텍처는 높은 계산 및 저장 용량 덕분에 다양한 소스에서 생성된 방대한 양의 데이터에 대한 AI 작업을 실행하는 데 광범위하게 사용되었다. 그러나 데이터 소스에 더 가까운 곳에서 계산 작업을 수행해야 한다는 요구가 증가함에 따라 엣지 및 포그 컴퓨팅 아키텍처가 등장했다.
포그와 엣지라는 용어는 종종 같은 의미로 사용되지만, 두 용어를 명확하게 구분하고 그 기능을 강조하려는 시도가 있었다. 에지는 기지국을 통해 연결된 강력한 에지 서버 또는 더 높은 계산 기능을 가진 동일 LAN 내의 다른 장치로 정의될 수 있다. 이상적으로 에지는 IoT 장치가 컴퓨팅 작업을 오프로드하고 저지연 서비스를 제공할 수 있는 단일 홉 장치이다. 에지는 일반적으로 IoT 장치가 작업을 오프로드할 수 있는 단일 또는 여러 장치로 구성된다. 포그 컴퓨팅은 여러 노드에 분산 처리를 제공하여 클라우드 서비스를 에지에 더 가깝게 만든다. 포그는 계산 기능을 가진 여러 장치가 협력하여 에지에 대한 작업의 분산 처리를 제공하는 분산 아키텍처이다.
그림 1은 AI와 다양한 IoT 계층이 고급 분석을 향해 융합되는 모습을 보여준다.
[그림1. AI와 다양한 IoT 패러다임 계층의 융합과 분석]
에지 컴퓨팅은 휴대폰, 데이터를 생성하는 센서와 같은 데이터 소스의 물리적 위치 근처, 네트워크 에지에서 발생하는 데이터 계산을 의미한다. 엣지 서버가 근처에 위치하기 때문에 엣지 장치에서 수신되는 데이터를 처리하는 데 필요한 대역폭 요구 사항이 매우 낮으며, 동시에 높은 개인 정보 보호 및 보안을 보장할 수 있다.
반대로, 포그 컴퓨팅은 엣지와 클라우드 사이의 계층에 위치하여 둘 사이의 중개자 역할을 한다. 데이터 생성 소스에서 멀리 떨어져 있기 때문에 대역폭 요구 사항이 더 높고 데이터가 여러 홉을 통과해야 하므로 보안 위험이 발생한다. 클라우드 컴퓨팅은 클라우드 환경에 설정된 인터넷 기반 컴퓨팅 서비스를 제공하는 것으로, 스토리지, 데이터베이스, 네트워킹, 소프트웨어, 분석 등이 포함된다. 클라우드 컴퓨팅은 설명적 분석, 예측 분석, 처방적 분석, 적응적 분석을 포함한 다양한 유형의 분석을 지원한다. 클라우드 컴퓨팅은 높은 메모리와 높은 연산 능력을 보장할 수 있다. 한편, 엣지 계층은 스마트폰이나 센서와 같은 수십억 개의 최종 사용자 기기에서 데이터를 수집한다. 포그 계층은 데이터를 필터링하여 중요한 정보만 저장 및 처리를 위해 클라우드 계층으로 전송한다. 클라우드, 포그, 엣지 컴퓨팅에 대한 비교는 표 1에 제시되어 있다.
[표1. 클라우드, 포그, 엣지 컴퓨팅의 비교]
1-1. 클라우드의 AI
클라우드 내 AI 기술 및 시스템은 엣지 또는 포그 노드의 AI 시스템에 비해 더욱 성숙한 기술이다. 현재 클라우드 환경에는 여러 오픈 소스 및 독점 AI 도구와 소프트웨어가 배포되어 있으며, 이러한 시스템은 수년에 걸쳐 서비스를 발전시키고 개선해 왔다. 대표적인 예로는 널리 사용되는 인기 있는 퍼블릭 AI 지원 클라우드 솔루션 및 서비스인 Google Cloud AI와 Amazon AI 시스템 둥이 있다.
최근 몇 년 동안 클라우드 기반 기술이 크게 발전하여 클라우드에서 AI를 활용하게 되었다. 디지털 비즈니스 혁신을 목표로 하는 조직은 가치 사슬을 자동화하기 위해 AI 및 빅데이터 분석을 도입해야 한다. 이러한 광범위한 AI 서비스를 처리하려면 클라우드 컴퓨팅 패러다임을 사용해야 한다. AI 기술을 클라우드로 마이그레이션하면 클라우드 구축 비용 절감, 저렴한 데이터 스토리지, AI 애플리케이션 및 서비스의 원활한 통합 등 여러 가지 이점이 있다. AI 서비스는 일반적으로 클라우드 기술에 따라 달라진다. 즉, AI 모듈은 공통 클라우드 스토리지에 저장된 데이터에 의존하며, 로컬 드라이브나 다른 공급업체의 클라우드 스토리지에 있는 데이터를 사용하는 것은 어려울 수 있다. 이러한 과제를 해결하려면 클라이언트의 엔터프라이즈 데이터베이스와 클라우드 공급업체 간의 안전한 데이터 통합이 필요하다. 이러한 과제를 해결할 수 있는 한 가지 잠재적인 해결책은 AI를 잠재적 클라우드 서비스로 고려하는 것이다.
[표2. 에지, 포그 또는 클라우드 환경에서의 AI 기반 분석 사례]
1-1-1. 클라우드에서의 의사 결정을 위한 AI
AI 기술은 탐색적, 예측적, 처방적 분석 기능을 통해 데이터 기반 의사 결정을 내릴 수 있다. 이러한 기능은 이 기술이 클라우드 기반 의사 결정에 효과적이도록 도왔다.
Industry 4.0의 등장으로 IoT를 통한 현대화와 AI 기술과의 통합으로 스마트 팩토리, 제조 공장 및 공급망 시스템이 크게 발전했다.
클라우드 지원 스마트 팩토리(CaSF)는 Industry 4.0 맥락에서 AI 기반 클라우드 의사 결정의 한 예이다. CaSF를 통해 AI를 기반으로 기존 제조 모델이 어떻게 더욱 효과적일 수 있는지 보여주는데 예를 들면 스마트 장치 계층, 네트워크 계층, 클라우드 계층 및 애플리케이션 계층으로 구성된 4계층 모델으로 구성하고 이러한 계층은 서로 통신하고 조정하여 AI 기반 데이터 기반 의사 결정 플랫폼을 구축하는 데 도움을 준다. AI는 4계층 모두에 기여할 수 있는데 예를 들어, 디바이스 계층에서 AI는 "인텔리센스"를 통해 머신 비전을 용이하게 할 수 있다.
다른 AI 기반 컴퓨터 비전 알고리즘 또한 이미지 처리에 많이 사용된다.
AI는 정보 분류에도 도움을 줄 수 있다. 로봇 기술을 활용하면서 AI는 경로 계획, 지능형 이동 제어 및 의사 결정에 도움을 줄 수 있다. 스마트 디바이스 계층은 높은 정확도, 견고성, 그리고 적응성에 크게 의존하며, AI는 이러한 역량을 달성하는 데 도움을 줄 수 있다. 클라우드 계층에서는 MapReduce와 AI 기술을 통해 더 빠른 데이터 추출이 가능하다. 강력한 강화 학습은 클라우드 리소스 관리에 대한 자율적인 의사 결정을 보장할 수 있다. 애플리케이션 계층은 AI 기술에 크게 의존한다. 예를 들어, 고장 진단 및 장비 상태 모니터링에는 AI 기반 예측 및 지능형 의사 결정이 필요하다. 요약하자면, AI와 클라우드 기술의 융합은 일반 공장을 스마트 팩토리로 전환할 수 있다.
1-1-2. 효율적이고 친환경적인 클라우드 및 데이터 센터를 위한 AI 기반 지능형 스케줄링
높은 에너지 소비는 조직과 클라우드 컴퓨팅 패러다임 모두에게 중요한 과제이다. 이 과제를 해결하기 위해 AI 기반 솔루션이 클라우드 프로세스의 지능형 스케줄링 및 제어를 지원하는 데 주목을 받고 있다. 클라우드 데이터 센터의 에너지 소비를 줄이는 스케줄링 및 냉각 엔진 제어를 위한 AI 기반 지능형 알고리즘이 다양하게 개발되는데 이는 최적화 및 AI 기술이 친환경 클라우드 패러다임을 촉진하는 데 강력한 잠재력을 가지고 있음을 보여준다.
그러나 센서와 클라우드 간의 통신 지연 시간은 여전히 ??주요 병목 현상이다. 이로 인해 실시간 데이터 기반 애플리케이션 개발이 어렵다. 이 경우 포그 또는 엣지 컴퓨팅 패러다임을 사용하는 것이 좋다. 이러한 접근 방식은 지연 시간과 대역폭 관련 문제를 모두 해결할 수 있지만, 처리 및 저장 용량이 제한되는 경우가 많다. 이러한 모든 측면을 고려할 때, 어떤 AI 애플리케이션이 어떤 유형의 IoT 패러다임에 적합한지 판단하는 것이 중요하며 엣지, 포그, 클라우드 간의 리소스 관리 알고리즘 전환도 중요하다.
1-2. 포그 분석의 AI
최근 들어 IoT 시스템은 크게 발전했다. IoT 패러다임 내의 포그 컴퓨팅은 데이터가 생성되는 IoT 최종 기기 가까이에서 컴퓨팅을 수행하는 개념을 도입한다. 이러한 접근 방식은 통합 포그-IoT 패러다임으로 이어졌다. 최근 스마트 인프라 내에서 IoT 최종 기기에서 생성되는 막대한 양의 데이터는 실시간 저지연 애플리케이션을 지원하기 위해 더 빠른 처리 속도를 요구한다. 따라서 기존의 클라우드 기반 중앙 집중식 아키텍처는 대역폭과 지연 시간이 주요 문제인 애플리케이션에는 적용하기 어렵다. 이러한 경우 포그-IoT는 분산(지리적) 컴퓨팅, 상황 인식을 촉진하고 대역폭/지연 시간 관련 문제를 해결하는 효과적인 솔루션이다. 포그 컴퓨팅은 정의상 데이터 소스와 중앙 클라우드 플랫폼 사이에 분산 컴퓨팅 계층을 배치한다. 에지 기기의 리소스가 제한적이고 클라우드 서버가 너무 멀리 떨어져 있는 상황에서 포그 컴퓨팅은 애플리케이션의 컴퓨팅, 대역폭 및 지연 시간 요구 사항을 관리하는 효과적인 솔루션으로 작동한다. 예를 들면 Elastic Intelligent Fog(EiF)라는 AI 기반 유연한 포그 아키텍처에서는 클라우드 및 IoT 플랫폼 도입을 통해 AI가 스마트 사물의 효율적이고 동적인 관리를 확장하는 제안된 아키텍처를 보여준다[1]. EiF 시스템의 몇 가지 속성으로는 클라우드 서버에서 가상 AI/IoT 기능 지원, 가상화 기술 사용, 오케스트레이션을 위한 지능형 AI 사용, 리소스의 동적 활용을 위한 AI 기반 고급 최적화 기술이다.
[그림2. EiF의 아키텍처 관점(1)]
EiF 프레임워크의 사용 사례는 보행자와 운전자에게 대기 질 정보, 특히 미세먼지 수준을 예측하는 것이다. 포그 장치에서 머신러닝을 활용하여 시스템은 샘플링 지점에서 20m 떨어진 정확한 위치에서 온도 및 습도와 같은 환경 데이터를 분석한다. 또한 감시 카메라의 도로 정보도 수집한다. 분산형 포그 엔진은 환경 데이터를 수집하고 처리하는데, 이를 "먼지 분석"이라고 한다. 또한 "비디오 분석" 프로세스는 비디오 스트림 입력에 적용된다. 피어 투 피어 포그 노드 설정에서, 포그 노드 중 하나의 처리 능력이 부족한 경우 근처의 다른 포그 노드 또는 중앙 집중식 IoT 서버와 공유/확장할 수 있다. 따라서 EiF는 국경 간 AI 서비스를 촉진한다. AI 지원 솔루션은 포그 무선 접속 네트워크(RAN)에서도 유망한 응용 분야를 가지고 있다.
이러한 네트워크에서 계층적 AI는 클라우드, 포그 및 장치 계층 간의 교차 계층 학습으로 인해 의사 결정에 유망한 솔루션을 제공할 수 있다[2]. 여러 응용 시나리오에서 ML 도구가 포그 지원 RAN에서 데이터 처리 및 네트워크 최적화를 어떻게 촉진할 수 있는지 보여주고 있다. 포그 기반 무선 네트워크는 매우 유망하다. 특히 지연 시간을 줄이고 다양한 응용 프로그램을 지원한다. 기존의 클라우드 기반 설계가 RAN에서 가장 일반적이었지만, 최근에는 포그 기반 무선 접속 네트워크에 중점을 두고 연구하고 있는데 클라우드 기반 모델과 포그 기반 모델을 통합하는 하이브리드 아키텍처 등이 제안되고 있다. 이는 5G RAN과 포그 컴퓨팅의 융합은 최적화된 통신 및 컴퓨팅 리소스를 제공하여 에지 인텔리전스, 동적 리소스 할당(AI 기반 스펙트럼 할당, AI 기반 네트워크 슬라이싱 오케스트레이션)을 지원하고 로컬에서 계산을 수행하여 에너지 효율성을 향상시킨다. 고급 분석 및 AI는 통신 지연 시간을 줄이고 분석을 데이터 소스에 가깝게 배치함으로써 효율적인 컴퓨팅에 중요한 역할을 할 수 있다. 그러나 IoT 서비스를 크게 개선하기 위해서는 IoT-포그 패러다임에 다음과 같은 과제를 해결해야 한다.
1-2-1. 리소스 관리 개선을 위한 다계층 아키텍처
현재 데이터는 많은 조직의 가장 큰 자산 중 하나이다. IoT 생태계의 주요 이점 중 하나는 스마트 기기와 센서가 엄청난 양의 실시간 데이터를 생성한다는 것이다. 이 데이터는 유용하며 까다로운 문제를 해결하고 효율적인 데이터 기반 솔루션을 보장하는 데 사용될 수 있다. 그러나 먼저 해결해야 할 몇 가지 과제가 있다. 포그 계층에서의 오케스트레이션은 컴퓨팅 리소스의 최적 사용, 이기종성, 기기 이동성, 불안정한 네트워크 연결과 같은 여러 과제를 안고 있다. 적절한 아키텍처가 없으면 리소스를 최적으로 활용하기 어렵다.
1-2-2. AI 기반 포그 네트워크의 가상화 및 소프트웨어화
오늘날 네트워크 액세스 및 코어 네트워크에 가상화를 적용하는 것은 매우 일반적이다IoT 서비스 엔진과 AI 엔진을 모두 가상화할 수 있는데 이러한 절차는 더 나은 서비스 품질(QoS)을 달성하고 리소스 최적화에 도움이 될 수 있다. AI 애플리케이션은 IoT 포그 노드에 위치한 소프트웨어 계층 위에 구축될 수도 있다. 따라서 포그-IoT 아키텍처에서 AI 애플리케이션의 가상화 및 소프트웨어화를 사용하면 QoS를 개선하고 리소스를 더욱 효율적이고 안정적으로 관리할 수 있다.
1-2-3. 컨셉 드리프트를 활용한 실시간 정보 기반 의사 결정
일반적인 AI 설정에서 AI 엔진은 클라우드에 저장된 학습 데이터를 기반으로 학습한 후 예측 의사 결정 등을 지원한다. 그러나 한 가지 주요 과제는 실제 상황에서 정보에 기반한 의사 결정과 관련이 있으며, 특히 기반 데이터 분포가 변화하고 거의 실시간으로 의사 결정을 내려야 할 때 더욱 그렇다. 이러한 기반 데이터 모델의 변화를 "컨셉 드리프트"라고 한다. 포그-IoT 플랫폼은 데이터 소스 근처에서 빈번한 데이터 캡처 및 마이닝을 수행하고 지속적인 프로세스 마이닝을 통해 AI 모델을 지속적으로 업데이트함으로써 이러한 과제를 해결할 수 있는데 클라우드 계층이 프로세스 거버넌스를 담당하는 반면 포그 계층에서 컨셉 드리프트를 사용하는 적응형 프로세스 검색 메커니즘을 수행할 수 있다. 다른 응용 분야, 예를 들어 주거용 에너지 시스템에서 포그 AI는 컨셉 드리프트와 관련된 중요한 문제를 해결하는 데 도움이 될 수 있다. 예를 들어, 옥상 태양 에너지 이상은 시간에 따라 달라진다. 예를 들어, 오전 10시의 비정상적인 태양 에너지 발전량은 오후 1시의 태양 에너지 발전량과 다른 임계값을 가지는데, 이는 태양 에너지 발전량이 시간별로 다르기 때문이다. 이러한 경우, 포그 기반 AI는 컨셉 드리프트 메커니즘을 고려하여 적응형 임계값을 도출하는 데 도움이 될 수 있다. AI 기반 기술은 포그와 클라우드를 선택하거나 전환하는 데 점점 더 많이 채택되고 있다.
1-3. 엣지에서의 AI
클라우드 기반 기존 네트워크 아키텍처의 한계와 약점으로 인해 새로운 네트워크 설계가 등장했다. 자율주행차, 금융 거래 시스템, 산업 자동화와 같은 여러 애플리케이션은 신속한 의사 결정을 위해 실시간 또는 저지연에서 초저지연 추론 서비스를 필요로 한다. 이러한 과제를 해결하기 위해 다양한 기술이 문헌에 제안되었다. 최적화된 ML/DL 모델을 엣지 근처에 배포하거나 작업 복잡성에 따라 ML/DL 작업을 여러 컴퓨팅 계층으로 분산함으로써 이를 달성할 수 있다. 한 가지 예로, 네트워크 운영자와 사용자가 네트워크 구성 및 리소스를 동적으로 모니터링 및 조정하고, 실시간 데이터를 효율적으로 처리하고, 스마트 센서, 장치 및 애플리케이션과 통신할 수 있는 AI 기반 스마트 엣지 아키텍처가 있다. AI 기반 스마트 엣지 아키텍처는 공동 최적화, 캐싱 및 통신을 위해 Smart-Edge-CoCaCo 알고리즘을 채택한 스마트 엣지-클라우드 협업 아키텍처이다. 이러한 설정에서 엣지 컴퓨팅 노드는 엣지 캐싱을 수행하고 계산이 원활하게 진행되도록 보장하는 중요한 역할을 한다. 최소화해야 할 목적 함수는 계산, 통신 및 캐싱 지연으로 인해 발생하는 총 지연이었다. 에지-클라우드 컴퓨팅 협업은 클라우드로의 전송 지연 또는 에지로의 전송지연을 발생시킨다. 클라우드 지연에는 데이터 전송 지연, 소스와 목적지 간의 지연, 피드백/응답을 수신하는 시간이 포함된다. 에지 컴퓨팅의 지연에는 에지의 캐싱 지연이 포함된다. 따라서 목표는 두 지연 중 최소값을 선택하고 작업 처리를 에지 또는 클라우드로 오프로드하는 것이다. IoT 네트워크에서 작업 오프로드를 효율적으로 수행하기 위해 재구성 가능한 지능형 표면(RIS)과 심층 강화 학습(DRL)을 결합하는 오프로드 메커니즘을 제안되었는데 RIS는 기지국 근처에 배치되어 무선 채널을 수정하고 네트워크 용량을 늘린다. 최적화 문제에는 오프로드 위치, 빔포밍 제어, 에너지 절감을 위한 전송 전력 조정과 같은 변수가 포함되었다. 비볼록 최적화 문제를 해결하기 위해, 적응형 의사 결정을 위한 DRL을 사용하고 네트워크의 실시간 피드백을 통합된다.
산업용 사물 인터넷(IIoT) 설정에서 IIoT-에지-클라우드 협력은 향상된 QoS를 지원할 수 있다. 일반적인 설정에서 IIoT에 대한 QoS 인식 연산 오프로딩은 "멀티홉" 및 "교차 계층" 문제로 인해 까다로운 작업이다. 대부분의 기존 IoT 아키텍처는 엔드 디바이스가 에지 또는 클라우드 노드에 직접 연결된다고 가정하는데, 이를 "단일 홉" 연결이라고 한다. 실제 사용 사례에서는 단일 홉 설정의 연결성이 좋지 않아 인접한 IoT 디바이스가 연산 오프로딩을 위한 메시지 전송을 서로 돕고 "멀티홉" 아키텍처를 생성할 수 있다. 따라서 IoT 또는 IIoT 아키텍처에서 엔드 디바이스는 서로 협력해야 하며, 멀티홉 연산 오프로딩 및 여러 IoT 계층 간의 통합을 위해 인접 노드에 의존한다. 이러한 "교차 계층"(디바이스-에지-클라우드) 아키텍처에서 통신 비용(예: 지연 시간, 에너지 및 운영 비용)을 연구하는 것이 중요하다. 중요한 과제 중 하나는 계산 지연, 에너지 및 운영 비용을 최소화하여 교차 계층 통신을 보장하는 것이다. 따라서 효율적인 에지-클라우드 계산을 위해서는 이러한 "멀티홉" 및 "교차 계층" 문제를 해결해야 한다.
AI 지원 엣지 컴퓨팅은 산업용 시각 검사, 해충 감, 자율 항법에도 널리 사용된다. 무인 항공기(UAV)는 자율 작동으로 인해 광범위한 응용 분야에서 매우 효과적인 것으로 입증되었다. 드론 동작 제어의 경우 딥 러닝은 효과적일 수 있지만 가벼워야 한다. 드로 동작 제어의 사례로 리소스가 제한된 경량 소형 UAV를 위한 저전력 딥 러닝 엣지 컴퓨팅 플랫폼을 제안되었는데 여기에서는 비전 기반 추론 작업을 엣지에서 직접 실행할 수 있으며, 이를 통해 QoS를 저하시키지 않고 시스템의 에너지 요구 사항을 줄였다. 또한 마찬가지로 드론 자동화를 위한 비전 기반 항법 및 제어 전략이 제안되었는데 농업과 같은 다른 분야에서는 엣지 AI가 정밀 농업을 위한 자동화된 해충 감지를 달성하는 데 도움이 될 수 있다. 이러한 실제 적용 사례는 엣지 컴퓨팅 패러다임 내에서 AI의 역량을 보여준다.
1-4. 사물 AI(AIoT)
컴퓨팅 및 통신 관점에서, 위에서 기술한 세 가지 계층(클라우드/포그/에지)을 결합하여 사물 AI(AIoT) 개념을 도출할 수 있다. 에지 계층의 역할은 센서와 액추에이터를 제어하여 환경에 대한 정보를 감지하고 수집하기 위해 센서가 배치되는 인식 계층과 유사한다. AIoT 패러다임에서 포그 컴퓨팅은 에지 장치 근처에 클라우드 기능을 제공하여 IoT 애플리케이션을 처리하는 데 도움을 준다. 에지 및 포그 기반 인식 및 실행은 분산 방식으로 발생하는 반면, 클라우드는 데이터 수집 및 처리를 위한 중앙 집중식 접점을 제공한다. 이 세 계층의 힘을 결합하면 계산 및 의사 결정 기능이 크게 향상되며, 이를 통해 AIoT 개념이 도출된다. AI와 IoT의 융합은 안정성과 QoS를 향상시켰지만, 실시간 처리의 필요성 또한 부각시켰다. AIoT는 연산 요구를 세 계층으로 분산하여 실시간 또는 거의 실시간으로 처리 속도를 높일 수 있다. 또한, 최근 더 빠른 프로세서와 경량 AI 알고리즘의 개발은 실시간 운영을 달성하고 3계층 AIoT 패러다임의 이점을 보완하는 데 중요한 역할을 한다. 이러한 AIoT 도입은 사이버 물리 시스템(CPS)에 상당한 영향을 미쳤으며 Industry 4.0 혁명에 기여했다. 따라서 AI는 AIoT 패러다임 내에서 연산 및 의사 결정에 중요한 역할을 하며, AI 기술의 서비스 제공은 세 계층 모두에서 실현되어야 한다. 따라서 "AIaaS"라는 개념이 등장하여 최근 몇 년 동안 많은 주목을 받았다.
참 고 문 헌
- JongGwan An,Wenbin Li, Franck Le Gall, Ernoe Kovac, Jaeho Kim, Tarik Taleb, and JaeSeung Song. 2019. EiF: Toward an elastic IoT Fog framework for AI services. IEEE Communications Magazine 57, 5 (2019), 28?33.
- Wenchao Xia, Xinruo Zhang, Gan Zheng, Jun Zhang, Shi Jin, and Hongbo Zhu. 2020. The interplay between artificial intelligence and fog radio access networks. China Communications 17, 8 (2020), 1?13.
- Shi, W., Cao, J., Zhang, Q., Li, Y., & Xu, L. (2016). Edge Computing: Vision and Challenges. IEEE Internet of Things Journal, 3(5), 637?646.
- Cisco Systems. (2015). Fog Computing and the Internet of Things: Extend the Cloud to Where the Things Are. Cisco White Paper.
- Satyanarayanan, M. (2017). The Emergence of Edge Computing. Computer, 50(1), 30?39.
- Zhang, C., Patras, P., & Haddadi, H. (2019). Deep Learning in Mobile and Wireless Networking: A Survey. IEEE Communications Surveys & Tutorials, 21(3), 2224?2287.
- Varghese, B., & Buyya, R. (2018). Next Generation Cloud Computing: New Trends and Research Directions. Future Generation Computer Systems, 79, 849?861.
- OpenFog Consortium Architecture Working Group. (2017). OpenFog Reference Architecture for Fog Computing. https://www.openfogconsortium.org/ra/
- TU-T Y.4208 (2020). Requirements and capabilities for AI-based edge computing.International Telecommunication Union (ITU-T).
https://www.itu.int/rec/T-REC-Y.4208-202006-I - Bahga, A., & Madisetti, V. (2016). Internet of Things: A Hands-on Approach. Universities Press.
- Amazon Web Services. (2023). Machine Learning at the Edge: Overview. AWS Documentation.
https://docs.aws.amazon.com/whitepapers/latest/machine-learning-edge/machine-learning-edge.pdf - Google Cloud. (2022). Edge AI Solutions. Google Cloud White Paper.
https://cloud.google.com/solutions/edge-ai
저작권 정책
SaaS 전환지원센터의 저작물인 『클라우드, 포그, 엣지를 위한 서비스형 인공지능(AIaaS)』은 SaaS 전환지원센터에서 상명대학교 서광규 교수에게 집필 자문을 받아 발행한 전문정보 브리프로, SaaS 전환지원센터의 저작권정책에 따라 이용할 수 있습니다.
다만 사진, 이미지, 인용자료 등 제3자에게 저작권이 있는 경우 원저작권자가 정한 바에 따릅니다.