많은 기업들이 인공지능(AI)을 도입하여 데이터 분석 및 판단과정에서 발생하는 비용을 절감하고, 작업 속도와 정확성을 향상시키고 있습니다. AI는 방대한 양의 데이터를 단기간에 학습할 수 있어 반복적인 작업에 적합합니다. 이에 기업들은 AI를 통해 비용을 줄이는 동시에 더욱 정확하고 빠른 결정을 내릴 수 있게 되었습니다.

AI가 많은 데이터를 기반으로 가장 적합한 답을 찾을 수 있지만, 인간처럼 더 깊은 수준의 정보 해석이나 다양한 견해를 제시할 없다는 한계점이 있습니다. 인간은 경험, 지식, 가치관 등의 다양한 요소를 고려하여 다양한 선택지나 의견을 제시할 수 있습니다. 하지만 AI은 주어진 학습 데이터의 범위 내에서 가장 가능성이 높은 답을 찾으므로 이러한 인간적인 해석과정을 완벽하게 재현하기는 어렵습니다. 

따라서, 현재의 기술 수준에서는 AI가 스스로 완벽한 결과를 도출하는 것은 어려운 일입니다. AI는 인간의 능력을 보완하고 지원하는 도구로서 사용되며, 인간과의 협력을 통해 보다 효과적인 결정과 분석을 이끌어내는 것이 중요합니다. 이를 위해 휴먼인더루프(HITL, Human In The Loop)와 같은 접근 방식이 활용되고 있습니다.

HITL의 정의

HITL는 AI의 한계를 극복하고 성능을 향상시키기 위한 해결책 중 하나입니다. HITL은 인간의 전문적인 지식과 판단력을 학습 과정에 통합하여 AI와 사람이 일종의 ‘피드백 루프(loop)’를 형성한 것입니다. 

HITL은 AI와 인간의 강점을 조합하여 최적의 결과를 얻을 수 있는 방법입니다. AI는 대량의 데이터를 빠르게 처리하고 패턴을 파악하는 능력을 가지고 있으며, 인간은 도메인 지식과 경험, 직관적인 판단 능력을 갖고 있습니다. HITL을 통해 AI와 인간은 상호보완적으로 협력하면서, 더욱 정확하고 유의미한 결정과 분석을 수행할 수 있게 됩니다. AI의 학습과 예측 과정에 개입하여 편향성을 수정하거나 인간의 직관과 판단을 반영할 수 있습니다.

데이터 정제와 라벨링 과정에서 인간과 기계가 협력하여 데이터의 정확성과 일관성을 유지하고 모델을 개선할 수 있습니다. AI가 복잡한 데이터 패턴을 파악하는 데 어려움을 겪거나 잘못된 결론을 도출할 수 있는 경우, 전문가는 중간 결과를 확인하고 필요에 따라 수정하거나 조정함으로써 성능을 개선할 수 있습니다. 이를 통해 모델의 성능을 향상시키고 높은 품질의 훈련 데이터를 확보하는 데 도움을 줍니다.

HITL과 AI 개발 프로세스

AI 개발 과정에서 HITL은 다음과 같은 중요한 역할을 수행합니다. 

1. 설계 구축 (Design & Build)

데이터는 AI 알고리즘의 핵심 구성 요소 중 하나이며, 알고리즘의 성능과 품질에 큰 영향을 미칩니다. 최고의 알고리즘을 개발하기 위해서는 대규모의 데이터가 필요합니다. 데이터는 주로 수집, 정리 및 주석 작업을 통해 준비됩니다. 이 과정에서 HITL 인력은 도메인 지식과 경험을 바탕으로 데이터를 분석하고 평가하여 가장 관련성이 높고 완전한 데이터를 선별할 수 있습니다. 이를 통해 AI 모델이 학습하는 데 필요한 정확하고 품질 높은 데이터를 구성할 수 있습니다.

데이터의 정리 및 보강 과정에서 발생하는 미묘한 내용을 정확하게 처리하는 것은 중요한 작업입니다. 이를 통해 데이터의 일관성을 유지하고 잡음을 제거하여 AI 알고리즘이 올바른 패턴을 학습할 수 있도록 도와줍니다. 

2. 배포 및 운영 (Deploy & Operationalize)

HITL은 데이터 라벨링 과정에서 수동으로 라벨을 지정하는 데 사용될 수 있을 뿐만 아니라, 자동 라벨링된 데이터의 품질 검수(QC) 과정에도 적용할 수 있습니다.

자동 라벨링은 효율성과 속도 면에서 매우 유용하지만, 완전한 자동화가 어려운 경우가 있습니다. 따라서 인간의 판단력이 필요한 경우에는 HITL을 도입하여 자동 라벨링된 데이터의 품질을 확인하고 보완할 수 있습니다. HITL 인력은 자동 라벨링 결과를 검토하고 필요에 따라 수정하거나 보완함으로써 데이터의 정확성과 일관성을 높일 수 있습니다.

또한, HITL은 모델의 출력을 검증하고 모델의 정확도를 결정하는 데에도 사용될 수 있습니다. 모델의 예측 결과를 HITL 인력이 검토하고 평가함으로써 모델의 성능을 평가하고 개선할 수 있습니다. HITL 인력은 모델이 어떤 종류의 오류를 저지르는지 파악하고, 모델의 약점이나 개선이 필요한 영역을 식별할 수 있습니다.

3. 개선 및 최적화 (Refine & Optimize)

AI를 제품 또는 서비스로 제공하기 위해서는 다양한 사항을 고려해야 합니다. AI는 실제 환경에서 사용될 때 데이터의 변화나 외부 요인에 의해 성능이 변할 수 있습니다. 따라서 AI가 원활하게 작동하는지 모니터링하고, 변동을 감지하여 필요한 조치를 취해야 합니다. 이를 통해 정확성과 일관성을 유지할 수 있습니다.

AI 시스템의 높은 성능을 보장하기 위해 모니터링을 수행해야 합니다. AI가 실제 운영 환경에서 어떻게 작동하는지 모니터링하고, 성능 지표를 확인하여 필요한 조치를 취할 수 있습니다. 예를 들어, AI의 정확도가 기준치를 벗어나거나 성능이 저하되는 경우, 재훈련하거나 수정해야 할 수 있습니다.

자동화 예외 상황에 대한 처리 방법을 고려해야 합니다. 자동화된 AI 시스템은 대부분의 상황에서 효과적으로 작동하지만, 예외 상황이 발생할 수 있습니다. 이러한 상황에 대비하여 인간의 개입이 필요한 경우를 고려하고, 이를 위한 프로세스와 절차를 마련해야 합니다. 예를 들어, 일부 경우에 대해 잘못된 결과를 내놓는 경우, 전문가가 결과를 검토하고 수정하는 절차를 도입할 수 있습니다.

또한, 실제 환경의 변화에 따라 데이터를 다시 수집하고 주석 작업하여 모델을 업데이트할 필요가 있을 수 있습니다. 데이터의 변화나 새로운 상황에 대응하기 위해 데이터를 보강하고, 모델을 새로운 데이터로 훈련시켜야 합니다. 이 과정에서 전문가의 개입은 매우 중요합니다. 전문가는 데이터의 품질을 평가하고, 필요한 주석 작업을 수행하며, 모델을 새로운 데이터에 맞게 업데이트할 수 있습니다.

HITL로 더 안전한 운전 환경을 제공하는 자율주행

자율주행에서 AI는 자동차가 주변 상황을 스스로 인지하고 판단하여 목표 지점까지 주행하도록 지원합니다. 다양한 센서 데이터를 수집하여 주변 차량, 보행자, 신호등, 표지판, 도로 조건 등을 식별하고 해석하고, 주행에 필요한 정보를 추출합니다. AI는 수집한 데이터를 분석하고, 주행 상황을 판단하여 적절한 의사결정을 내려 안전한 주행을 제공합니다. 

기술의 발전은 지속되고 있지만, 자동차가 운전자 없이 움직이는 상황에 대한 우려와 불신은 여전히 존재합니다. 기술적 한계와 안전성, 인간의 통제와 책임 문제, 새로운 기술에 대한 불신과 불편함 등이 원인입니다. 이에 대한 해결책으로 HITL 기술이 꼽히고 있습니다. HITL은 자율주행 자동차가 판단하기 어려운 상황에서 인간의 개입과 결정을 허용하여 완전한 자동화와 인간의 안전을 모두 고려합니다. 

자율주행 시스템은 다양한 도로 상황과 주행 조건을 인식하고 처리해야 합니다. 하지만 실제 도로에서 자동차가 마주칠 수 있는 상황은 매우 다양하므로, 어떤 상황에서는 AI가 완벽한 판단을 내리기 어려울 수 있습니다. 이때 HITL은 전문가의 개입을 통해 예외 상황을 처리하고 안전을 보장할 수 있습니다.

예를 들어, 건설 현장이나 도로 공사 구역을 주행하는 경우 일시적인 도로 장애물이나 방향 변경으로 인해 예기치 않은 상황이 발생할 수 있습니다. 협소하거나 복잡한 도로 상황에서는 AI가 완벽한 판단을 내리기 어렵기 때문입니다. 따라서, 자율주행 AI는 해당 지역에서의 운전을 중단하고 인간 운전자에게 제어를 넘기는 것이 안전한 선택일 수 있습니다.

이처럼, 일부 상황에서는 인간의 경험과 판단력이 필요하며, 자율주행 시스템만으로는 적절한 대응이 어려울 수 있습니다. HITL을 통해 인간과 AI가 상호보완적으로 협력하면서, 자율주행 시스템은 더욱 안전하고 신뢰할 수 있는 주행을 실현할 수 있습니다. AI의 능력과 인간의 판단력을 결합하여 최적의 결과를 도출할 수 있으며, 자율주행 기술의 발전을 가속화할 수 있습니다.

HITL을 활용한 99% 정확도의 산불 감지 시스템

알체라의 FireScout는 AI 알고리즘을 통해 산불 연기를 조기에 감지하여 대응에 도움을 주는 산불감지 솔루션입니다. FireScout는 산불 주시 지역에 배치된 다수의 카메라를 활용하여 연기를 신속히 감지하는 AI 알고리즘을 적용하고 있습니다. AI는 단순 지표면의 열기, 아지랑이, 인근 지역의 쓰레기 소각 연기 등 다양한 연기 중에서 실제 산불과 관련된 연기를 실시간으로 정확하게 구분합니다. 

FireScout은 인간의 개입을 허용하여 더욱 정확하고 신뢰성 있는 결과를 얻을 수 있도록 합니다. 산불과 관련된 연기를 정확히 구분하기 위해서는 훈련 데이터의 신뢰성과 품질이 매우 중요합니다. FireScout에서는 전문가들은 데이터 학습 과정에 개입하여 데이터를 검증하고 수정하는 역할을 수행합니다. 실제 산불과 관련된 연기를 정확하게 구분하기 위한 학습 데이터를 선별함으로써 AI는 산불과 관련된 연기의 특징과 패턴을 더욱 잘 파악할 수 있게 됩니다.

 
FireScout의 알고리즘이 감지한 연기는 200개의 카메라당 1명의 전문가가 2차 확인을 진행하고 오검출물을 필터링하는 작업을 거칩니다. 이 과정에서 전문가는 실제로 산불과 관련된 연기를 식별하고 그에 맞는 조치를 취할 수 있도록 데이터를 검증하고 수정합니다. 산불로 발전할 수 있는 연기 발생에 대한 정보를 대시보드에 기록하고, 대응인력에게 신속한 알림을 전달하여 적절한 출동과 진압을 가능하게 합니다. 

특히, 알체라는 최근 FireScout의 HITL을 강화하고 체계화하기 위해 CVTC(Computer Vision Task Certification) 제도를 도입했습니다. CVTC는 전문가들의 업무 능력을 평가하고 필요한 수준에 맞는 인증을 제공하기 위한 프로그램입니다. CVTC 제도에서는 화재를 정확하게 구분하는지(오알람율), 작업 처리 시간은 어떠한 지(처리속도), 커뮤니케이션 능력, 근태 및 업무태도 등 다양한 기준을 통해 전문가들을 평가합니다. 

CVTC 인증을 받은 전문가들은 자신의 전문성을 확보하고 업무 능력을 강화할 수 있습니다. CVTC 도입으로 인해 업무 성과를 객관적으로 평가하고 파악할 수 있어 FireScout의 감지 능력을 향상시키고 오류를 최소화하는 데 도움이 됩니다. 전문가들의 업무 능력 강화와 CVTC를 통해 FireScout 시스템이 효율적이고 신뢰성 있는 화재 탐지 및 대응 시스템으로 발전할 수 있습니다.

HITL은 앞으로도 다양한 분야에서 적용될 것으로 예상되며, 미래의 AI 기술 발전과 함께 그 중요성이 더욱 부각될 것으로 예상됩니다. 인간과 AI의 협력은 자동화 시스템과 기술의 성공적인 적용에서 핵심적인 역할을 맡을 것입니다. 인간의 지식, 직관, 판단력과 AI의 계산 능력, 데이터 처리 능력을 융합함으로써 최적의 결과를 얻을 수 있습니다. 이러한 협력은 안전, 보안, 의료, 운송, 제조 등 다양한 분야에서 혁신적인 성과를 이룰 수 있을 것입니다. 미래에는 인간과 AI가 상호 보완적으로 협업하며, 더욱 발전된 자동화 시스템과 기술을 구현할 것으로 전망됩니다.