KMAC 콘텐츠

  • NEWS
  • BIZ & INSIGHT
  • ISSUE & TREND
  • 경영의 창

BIZ & INSIGHT

비즈니스 혁신을 위한 KMAC 전문가들의 인사이트를 공유합니다.
  • 고객센터
  • KMAC 컨텐츠
  • BIZ & INSIGHT

  • sLLM과 기업 경영의 얼라인먼트

  • 첨부파일 작성자 관리자


  • 오픈AI의 챗GPT를 시작으로 대형 언어 모델(Large Language Model : LLM)의 활용이 본격화되며 AI 산업의 급속한 변화를 가져오고 있다. 기존 LLM의 강점을 살리면서도 경량화된 sLLM(Small LLM) 모델이 등장하며 AI와 경영의 조화로운 상호 작용을 통해 비즈니스 혁신의 새로운 기회가 열리고 있다. 이런 시점에 기업의 경쟁력은 어떻게 확보할 수 있을까.
    DX | 윤정욱 KMAC DX·ESG 그룹장
     


    오픈AI의 챗GPT를 시작으로 대형 언어 모델(Large Language Model : LLM)의 활용이 본격화되며 AI 산업의 급속한 변화를 가져오고 있다. 기존 LLM의 강점을 살리면서도 경량화된 sLLM(Small LLM) 모델이 등장하며 AI와 경영의 조화로운 상호 작용을 통해 비즈니스 혁신의 새로운 기회가 열리고 있다. 이런 시점에 기업의 경쟁력은 어떻게 확보할 수 있을까.

    기존의 AI 모델은 분석형 AI로서 각 분야의 활용 목적에 따라 독립적으로 개발돼 왔다. 그러나 초거대 AI 모델이 등장하며 독립적인 AI 모델의 통합적 활용이 가능해졌고 텍스트 데이터 기반의 LLM 모델의 상용화가 급물살을 탔다. 이에 따라 글로벌 기업들은 LLM 개발에 집중하고 있으며 국내에서도 네이버, KT, 카카오 등의 대기업을 중심으로 한국어에 특화된 LLM 개발에 주력하고 있다.




    LLM은 업무 활동의 70%를 자동화할 수 있을 것으로 전망되며 최근 성능의 우수성도 입증되고 있다. 그럼에도 불구하고 개발과 운영에 필요한 막대한 컴퓨팅 자원 및 비용은 LLM 활용에 대한 장벽을 만들었다. 실질적으로 기업이 비즈니스 현안에 맞게 LLM을 활용하는 것이 가능할지에 대한 실효성 측면에서의 의문도 제기된다.
    이에 따라 LLM 모델의 크기를 축소해 개발과 유지 비용을 낮추는 경량화된 형태의 모델을 구축해 활용하고자 하는 수요가 발생했다. 이와 같은 LLM의 경량화 모델을 sLLM이라고 칭한다. 이는 기초(Foundation) 모델을 기반으로 매개 변수(Parameter)의 축소와 미세 조정(Fine-tuning)을 통해 모델 학습에 필요한 비용을 최소화하고 특정 영역에 대한 성능을 최적화한 맞춤형 LLM을 의미한다. 
    sLLM은 목적에 따른 소량의 데이터만으로 미세 조정을 통해 기존의 LLM과 유사한 정도의 성능을 낼 수 있다는 것이 주요 강점이다. 따라서 LLM보다 더 효율적이고 경제적이다. 
    즉 sLLM은 모델 파라미터 수가 적어 계산 효율성이 뛰어나며 비교적 적은 메모리를 활용해 모델을 학습할 수 있다. 이에 따라 필요한 컴퓨팅 리소스 자원이 LLM만큼 거대하지 않기 때문에 비용 효율성을 확보할 수 있다. 일례로 데이터브릭스의 sLLM 돌리(Dolly)는 데이터 학습에 소요되는 시간이 약 3시간이며 그 비용도 30달러에 불과하다.
    한편 사용자 최적화를 통해 도메인에 특화된 모델의 구축이 가능하다는 점은 sLLM의 가장 큰 이점이다. 즉 특정 분야에 대한 최적화된 모델의 구축을 통해 신속하게 비즈니스에 적용할 수 있으며 해당 분야와 활용 목적에 대해서 일반적인 LLM을 활용하는 것보다 더 나은 결과를 생성할 수 있다. 
    보안 문제로 LLM 도입을 꺼리는 기업에게도 sLLM은 좋은 선택지가 될 수 있다. sLLM은 크기가 작아진 만큼 기업의 자체 서버에 온프레미스 형태로 직접 모델을 설치해 활용할 수 있어 정보 유출 문제를 완화할 수 있기 때문이다.




    최근 다양한 파라미터 크기를 가진 LLM인 라마(LLaMa) 모델을 메타가 공개하면서 기업의 sLLM 모델 개발이 촉진되었고 이는 기업의 AI 활용 생태계의 변화를 가져오고 있다. sLLM의 유행과 함께 기존의 방대한 데이터보다는 소규모의 고품질 데이터를 통한 모델 학습이 중요해졌다. 기업에서도 양질의 데이터를 확보하고 관리하는 데이터 거버넌스의 수립 및 준용의 중요성이 증대되고 있다. 
    또한 sLLM 모델을 일반 기술 자체로 활용하는 것이 아니라 검색 증강 생성(Retrieval Aug-mented Generation : RAG), 프롬프트 엔지니어링 등의 기술을 결합해 성능을 고도화하는 형태로 전환할 필요성이 높아지고 있다.
    예를 들어 올거나이즈에서 출시한 알리 파이낸스 LLM은 메타의 라마 2를 기반으로 구축된 금융 특화 sLLM 모델로 금융 데이터에 대한 학습을 통해 금융 특화 단어를 이해하고 생성할 수 있다. 
    일례로 챗GPT에게 ‘LTV’의 정의를 물어보면 마케팅에서 주로 사용되는 ‘고객 생애 가치(Lifetime Value)’에 대해 이야기하는 반면 알리 파이낸스 LLM은 금융 용어인 ‘담보 인정 비율(Loan to Value)’에 대해 설명한다. 이처럼 sLLM은 특정 도메인에 대한 전문 정보를 기반으로 지식을 생성함으로써 사용자의 이해를 돕는다.
    아울러 sLLM을 활용해 기업의 생산성을 제고하려는 움직임도 활성화되고 있다. sLLM에 기업 내부의 매뉴얼, 규정 등 기본 문서를 학습시켜 직원들이 쉽게 정보를 찾고 활용할 수 있도록 하는 편의성 중심의 QA 서비스부터 기업 내부에 축적된 전문 지식을 토대로 실제 업무 시 보고서 생성, 민원 응대를 위한 답변 생성, 일정 관리 등 다양한 업무를 지원하는 생성형(Generative) 서비스까지 sLLM을 중심으로 기업의 지식을 고도화하고 활용성 및 편의성을 개선하기 위한 노력이 이어지고 있다.
    데이터브릭스의 CEO 알리 고드시는 “챗GPT는 세상의 모든 정보로 훈련했을지 몰라도 모든 회사가 세상의 모든 정보를 필요로 하지는 않는다. 또한 챗GPT는 회사가 비공개로 보유한 데이터를 학습한 적이 없다”라며 sLLM이 특정 도메인에 대한 깊이 있는 지식을 학습할 수 있음을 강조했다. 
    이처럼 기업의 데이터를 회사의 중요한 자산으로 여기는 최근 경영 환경에서 기업 내부 지식정보를 기반으로 구축된 sLLM은 사내 지식에 최적화된 전문성을 지닌 지식 경영 시스템(Knowledge Management System)으로서 기능할 수 있다. 이제 기업에 축적된 전문 지식을 토대로 자체적 sLLM 도입을 통한 기업 경쟁력 강화를 위해 집중해야 할 때다.



    기업의 sLLM 도입을 위해서는 준비해야 할 다양한 항목들이 있다. 그중 가장 먼저 고려해야 하는 사항은 어떤 기능을 사용할 것인지를 정의하는 것이다. 즉 기업의 업무 중 어떤 부분에 AI 기술을 접목하고 자동화할 것인지, 이를 통해 어떠한 가치를 창출할 것인지에 대해 명확히 정의하는 과정이다. 이는 기업이 현재 부족한 점이 무엇인지를 발견하고 그것을 보완하기 위한 구체적인 계획을 수립하는 데 도움이 된다.
    다음으로 모델 학습을 위한 양질의 데이터를 준비해야 한다. 앞서 언급한 것과 같이 sLLM의 유행과 함께 양질의 데이터 확보를 위한 데이터 거버넌스 수립의 중요성이 강조되고 있다. 따라서 기업의 지식 자산을 최대한 활용해 고품질의 데이터를 구축하고 이를 sLLM에 학습시킴으로써 기업에 최적화된 결과를 창출할 수 있도록 하는 것이 매우 중요하다. 
    마지막으로 sLLM을 어떻게 서비스화할 것인지에 대한 기획이 선행되어야 한다. 아무리 좋은 모델이라도 사용자 편의성이 없다면 활용되지 못하고 도태될 수 있다. 따라서 sLLM을 기업의 활용 목적에 따라 어떻게 서비스화하고 배포할 것인지에 대한 고민을 통해 사용자 편의성과 활용성을 극대화해야 한다.
    이와 같이 sLLM은 특정 산업이나 분야에 특화된 AI, 즉 버티컬 AI(Vertical AI)로 활용하기에 적합한 모델이다. 이 모델은 LLM에 비해 일반적인 대화 기능이 다소 부족할 수 있지만 도메인에 특화된 고품질의 학습 데이터를 기반으로 할 때 더 전문화된 답변을 제공하는 잠재력을 가지고 있다. 이는 sLLM이 해당 도메인의 깊이 있는 지식을 학습하고 그에 맞춰 최적화하기 때문이다. 
    또한 sLLM은 비용 및 활용성의 측면에서 미세 조정을 통해 필요한 매개 변수의 수를 줄여 비용을 절감하며 동시에 정확도를 높일 수 있다. 이러한 특성으로 인해 sLLM은 특정 도메인에 최적화된 맞춤형 언어 모델로서 활용 가능성이 높다. 또한 기업 내부의 축적된 고품질의 데이터를 활용해 지식 자산의 활용성을 제고할 수 있으며 외부 유출을 방지할 수 있다. 
    이에 따라 sLLM은 다양한 활용 목적에 따라 기업의 서비스 고도화를 위한 수단으로 활용되고 있다. 앞으로도 sLLM에 대한 기업 수요가 증가할 것으로 보여 시장 규모는 더욱 성장할 전망이다.



    과거에 기업이 기술을 수용할 것인지 여부를 고민하던 시기를 넘어서 현재의 인공 지능 생태계에서는 누가 더 기술을 잘 수용하고 효율적으로 활용할 수 있는가가 기업의 경쟁력을 결정하는 중요한 요인이 됐다. 
    경영 환경이 급격히 변화함에 따라 지금까지와는 다른 시각에서 기업의 현안을 살펴보고 비즈니스 모델 및 서비스를 혁신하는 과정은 필수적이다. 이러한 상황에서 비즈니스 현안에 따라 인공 지능 기술 도입을 고민하고 있다면 sLLM은 가장 좋은 선택지 중 하나가 될 것이다. 
    기업들은 디지털 트랜스포메이션을 통해 기업이 보유하고 있는 지식을 디지털화하고 관리함으로써 지식 자산을 지속해서 축적해야 하며 그 자산을 기반으로 인공 지능 기반 기술을 적극적으로 수용하되 경각심을 잃지 않아야 할 것이다. 기업 특성에 최적화된 sLLM 도입을 통해 새로운 가치를 창출하고 비즈니스 혁신을 이루어 낼 수 있기를 고대한다. 
     
     
     



     
     

    컨설턴트

    윤정욱DXㆍESG 그룹장

    • 컨설팅 경력: 17년
    • 사업전략/디지털전략, AI, 빅데이터, 시스템 구축, PI/ISP
    • 담당 사업 영역
      1. 디지털전략센터
      2. AI/빅데이터센터
      3. 디지털테크센터
      4. 스마트/PI센터
      5. 에너지/기후본부
      6. ESG/전략센터

    MORE

    경력사항

    • jwyoon@kmac.co.kr

    • 02-3786-0475