알리 LLM Ops 구현 이미지
서울--(뉴스와이어)--자연어 인지 검색 솔루션 기업 올거나이즈(대표 이창수)가 기업이 데이터 유출 걱정 없이 내부에서 AI 거대 언어 모델을 자유롭게 활용할 수 있는 솔루션 ‘알리 LLM Ops’를 출시했다고 14일 밝혔다.
알리 LLM Ops는 오픈소스 LLM(Large Language Model, 거대 언어 모델)을 활용해 기업이 사내 구축형으로 LLM을 자유롭게 선택하고 활용할 수 있는 서비스로, 민감한 개인 정보를 다루거나 데이터 유출을 걱정하는 기업들을 위해 출시됐다.
알리 LLM Ops를 활용하면 올거나이즈의 자연어 기반 인지 검색 솔루션인 알리(Alli)에서 노코드 기반 LLM 애플리케이션을 쉽게 개발할 수 있다. 기업 고객은 자신의 상황에 가장 잘 맞은 언어 모델을 자유롭게 선택하고, 개발 현장에 노코드로 바로 반영할 수 있다. 비개발자 역시 단시간에 애플리케이션을 완성할 수 있을 만큼 직관적인 사용자 인터페이스(UI)를 갖추고 있으며, 회계·인사·마케팅 등 직무별 업무 자동화 LLM 애플리케이션을 개발할 수 있다.
알리에서 업무 자동화 시나리오를 만들 때 원하는 LLM을 선택해서 활용하면 된다. 돌리(Dolly), 스테이블LM, 블룸(Bloom) 등 파라미터 30억~1760억 개의 오픈소스 거대 언어 모델을 기업이 원하는 대로 자유롭게 선택할 수 있다. 기업 환경에 맞춰 사내에 언어 모델을 구축하기 때문에 머신러닝 과정에서의 데이터 외부 유출을 막을 수 있고, 개인 정보 제어로 보안을 강화할 수 있다.
오픈AI의 GPT나 구글의 바드 등 빅테크 기업의 거대 언어 모델을 선택해 서비스형 소프트웨어(SaaS, Software as a Service) 형태로 활용할 수도 있다. 기업의 정책·예산·태스크 종류 등 비즈니스 상황을 다방면으로 고려한 뒤, 가장 적합한 언어 모델을 선택해서 사용하면 된다. 빅테크 기업의 LLM을 사용해도 각 기업 특성에 맞게 파인 튜닝하기 때문에 기업 특화 프롬프트 엔지니어링 및 버전 관리가 쉽다.
한편 올거나이즈는 자연어 이해 AI 답변봇 ‘알리(Alli)’와 문서 내 주요 정보 추출, 감정 및 리뷰 분석 API를 개발·공급하고 있다.
대표 서비스 알리는 AI가 기업 내 다양한 형태의 문서에서 질문에 대한 답을 자동으로 찾아준다. 일상적인 문장(자연어)의 질문에도 정확한 답변 도출이 가능해 기업의 업무 생산성을 높인다. 최근 챗GPT의 기반 언어 모델인 ‘GPT-3.5 API’를 연동한 알리의 업그레이드 버전인 ‘알리GPT’를 출시했다.
올거나이즈 이창수 대표는 “사내 구축형 LLM은 기업 데이터가 외부에 공개되는 것을 꺼리는 기업에 최적화된 형태”라며 “알리 LLM Ops를 활용하면 기업마다 각각 니즈에 맞는 인공지능 언어 모델을 선택해 노코드 기반 앱을 쉽게 만들 수 있고, 원할 경우 언어 모델을 변경하는 것도 가능하다”고 설명했다.
올거나이즈코리아 소개
2017년 설립된 올거나이즈코리아는 문서를 빠르고 정확하게 검색해 기업의 업무 생산성을 혁신하는 인공지능(AI) 인지 검색 솔루션 스타트업이다. 파이브록스(5Rocks)를 창업하고 2014년 미국 모바일 광고업체 탭조이(Tapjoy)에 약 500억원에 매각했던 이창수 대표가 세운 두 번째 회사다. 올거나이즈는 AI 태스크봇 ‘알리(Alli)’와 문서 내 주요 정보 추출, 감정 및 리뷰 분석 API를 개발, 공급하고 있다. 대표 서비스 알리는 사전 데이터 처리 작업 없이 바로 사용할 수 있어 효율적이며, AI가 기업 내 다양한 형태의 문서에서 일상적인 문장(자연어)의 질문에도 정확한 답변을 자동으로 찾아준다. 현재 미국, 일본, 한국에서 2500곳 이상의 고객사에 서비스를 제공하고 있으며 현대카드, KB증권, 일본 미쓰이스미토모은행(SMBC) 금융그룹, AEON(아시아 1위 리테일), KDDI(일본 2위 민간 통신사), KAO(일본 화장품 매출 2위), 미국 트래블러스, 오클라호마주 정부 등에서 사용하고 있다. 올거나이즈는 한국, 미국, 일본 투자자들로부터 누적 198억원(1500만달러)를 유치했고, 2022년 8월 일본 시장 확대 및 도쿄거래소 상장을 목표로 본사 기능을 미국 휴스턴에서 일본 도쿄로 이전했다.