엑스보스 정리 1편 : 업무자동화,AI 전문용어

 

 

회의나 제안서에서 이런 말을 자주 듣습니다. “LLM 붙이면 되죠”, "HITL 삽입해서 정확도를 올려보죠", “RAG로 할루시네이션 잡으면 되죠”, “노코드로 빨리 만들면 되죠.”

 

문제는 이 문장 안에 모델, 학습, 비용, 데이터 검색, 운영, 자동화 실행이 한꺼번에 섞여 있다는 점입니다. 그래서 오늘은 용어를 같은 성격끼리 묶어서 하나씩 풀어보려고 합니다.기업이 AI를 도입할 때 가장 먼저 하는 착각이 있습니다. “AI다 비슷한 같은 AI아니야?”

현실은 정반대입니다. AI는 종류가 다르면, 가능한 업무도 다르고, 비용 구조도 다르고, 운영 방식도 완전히 달라집니다.

AGI는 “범용 인공지능”을 뜻합니다.

 

인간처럼 한 가지 일을 잘하는 수준이 아니라, 여러 영역의 일을 스스로 학습하고 전환해가며 해결하는 능력을 목표로 합니다. 쉽게 말해 “한 직무용 도구”가 아니라 “회사 전반을 두루 이해하고 일할 수 있는 존재”에 가깝습니다.

 

AGI는 대부분 기업이 지금 당장 구매해서 쓰는 제품이 아닙니다. 그런데도 경영진이 AGI를 말하는 이유는, 보통 “AI가 일부 업무가 아니라 모든 직무에 스며드는 시대”를 전제로 전략을 세우기 때문입니다. 그래서 회의에서 “AGI 시대가 온다”라는 말이 나오면, 실제 의미는 “AI가 조직 구조와 업무 운영 방식 자체를 바꾸는 방향으로 간다”는 선언에 가깝습니다.

AGI를 목표로 말하더라도, 실행은 늘 현실에서 시작합니다. 기업이 당장 해야 하는 질문은 이것입니다. “미래의 큰 그림을 말하는 동안, 지금 ROI가 나는 업무 단위를 쪼개서 실행할 준비가 되어 있습니까?” 준비가 되어 있지 않다면 AGI 담론은 오히려 실행을 늦춥니다.

 

LLM은 Large Language Model,그 뜻 그대로 인공지능의 큰 언어 모델입니다.

문장을 이해하고, 문장을 만들고, 질문에 답하고, 요약하고, 기획안을 쓰는 능력에 강합니다.

 

SLM은 Small Language Model, 상대적으로 작은 언어 모델입니다. 여기서 “작다”는 것은 단순히 성능이 낮다는 뜻이 아니라, 특정 업무 목적에 맞게 가볍고 빠르게 돌도록 설계되거나 선택되는 모델이라는 의미로 쓰이는 경우가 많습니다.

 

LLM은 범용성이 좋습니다. 기획, 요약, 고객 응대, 내부 지식 QnA 같은 “언어 중심 업무”에 강합니다. 다만 비용과 보안과 통제가 이슈가 되기 쉽습니다. 반대로 SLM은 특정 업무에 맞추면 비용과 속도와 통제가 유리해질 수 있습니다. 예를 들어 분류, 라우팅, 짧은 추출, 규칙 기반 판단 보조 같은 업무는 큰 모델이 아니라도 충분히 성과가 나오는 경우가 많습니다.

 

모달리티는 “데이터의 형태”입니다.

 

모달리티는 텍스트, 이미지, 음성, 영상, 표, 로그 같은 데이터의 형태를 뜻합니다.멀티모달은 여러 형태를 함께 이해하고 처리하는 능력입니다. 즉, 텍스트만 읽는 것이 아니라 이미지 속 문서, 스캔본, 캡처, 음성 녹취 같은 형태도 함께 처리하는 능력입니다.

 

기업에서는 왜 멀티모달의 필요성이 커질까요

현실 업무 데이터는 애초에 텍스트만으로 존재하지 않습니다. 영수증은 사진으로 오고, 거래명세서는 PDF로 오고, 계약서는 스캔본으로 들어오고, 승인 요청은 메신저로 오고, 최종 입력은 ERP 화면에서 이뤄집니다.

그래서 “텍스트 전용 자동화”는 도입 초반에는 좋아 보이지만, 실제 운영에서는 금방 한계가 드러납니다. 멀티모달은 선택이 아니라 “현장 데이터의 기본값”에 가까워지고 있습니다.

 

업무 자동화를 설계할 때 “우리 업무의 입력 데이터는 어떤 형태로 들어옵니까?”를 먼저 적어봐야 합니다. 이 목록이 텍스트만으로 끝나지 않는 순간, 멀티모달 대응이 필요해집니다.

 

매개변수는 AI 언어 모델이 학습을 통해 갖게 되는 내부 조정값(파라미터)의 개수입니다.

 

흔히 모델 규모를 가늠하는 지표로 쓰입니다. 매개변수가 크면 AI모델의 표현력이 좋아지는 경향은 있습니다.

 

하지만 기업 실무에서는 “그럴듯함”보다 “틀리지 않음”이 중요합니다.큰 모델은 똑똑해 보이지만, 비용이 커지고 통제가 어려워질 수 있습니다. 반대로 작더라도 업무에 맞게 설계된 모델이 정확도, 통제, 재현성에서 더 좋은 결과를 주는 경우도 많습니다.

 

 

AI에서 토큰은 흔히 “AI 사용량을 계산하는 단위”로 사용됩니다.

 

토큰은 모델이 입력과 출력을 처리할 때 쓰는 텍스트 단위입니다. 기업 입장에서는 사실상 “AI 사용량 과금의 기준 단위”로 이해하는 편이 실무에 도움이 됩니다.

 

PoC 때는 토큰사용에 대한 비용이 부담이 되지 않습니다. 그런데 운영으로 들어가면 비용이 새기 시작합니다. 긴 문서를 통째로 넣는다, 같은 질문을 반복 호출한다, 불필요한 로그를 과하게 남긴다, 프롬프트가 장황하다 같은 이유로 토큰이 폭증할 수 있습니다.

 

머신러닝, 딥러닝 : 둘은 비슷해 보이지만 같은 말이 아닙니다. 머신러닝은 “데이터에서 패턴을 학습하는 방법”의 총칭

 

딥러닝은 그중에서도 신경망을 깊게 쌓아 복잡한 패턴을 학습하는 방식입니다. 즉, 딥러닝은 머신러닝의 한 종류입니다.

 

기업에서 머신러닝, 딥러닝을 “모든걸 알아서 해주는 기술”로 오해하면 실패합니다. AI는 데이터 품질이 낮으면 성능이 흔들리고, 운영 설계가 없으면 결과가 유지되지 않습니다.

그래서 실무에서는 “모델 성능”만 보는 것이 아니라 “데이터 흐름, 예외 처리, 검증, 운영 책임”까지 같이 설계해야 합니다.

 

파인튜닝은 기존 AI 모델을 “우리 회사 업무에 맞게 추가 학습”시키는 방식입니다

 

파인튜닝은 이미 학습된 모델에 우리 도메인 데이터, 우리 업무 사례를 추가로 학습시켜 특정 업무에 더 잘 맞게 만드는 방식입니다.

 

파인튜닝은 “정답이 있고, 반복 패턴이 충분하며, 기준이 비교적 안정적인 업무”에서 효과가 큽니다. 예를 들어 분류 기준이 명확하고, 과거 사례가 많이 쌓여 있고, 예외가 적은 업무라면 파인튜닝이 성과를 내기 쉽습니다.

반대로 정책과 규정이 자주 바뀌고, 예외가 많고, 데이터가 꾸준히 바뀌는 업무는 파인튜닝만으로는 유지가 어렵습니다. 이때는 2편에서 다룰 RAG, HITL 같은 운영 설계가 더 현실적일 때가 많습니다.

 

 

RLHF 은 “사람이 채점해 AI의 답변 방향을 교정”하는 방식입니다

RLHF는 Reinforcement Learning from Human Feedback입니다. 사람이 좋은 답과 나쁜 답을 평가하고, 그 선호를 모델이 학습해 더 나은 답을 하도록 유도하는 방식입니다.

 

현장에서 RLHF의 핵심은 예쁜 문장보다 “금지 행동을 줄이고, 규정 위반을 줄이고, 실수 패턴을 줄이는 것”에 더 가깝습니다.다만 대부분 기업은 RLHF를 직접 수행하기보다는, 이미 RLHF가 적용된 상용 모델을 사용하거나, 제품 제공사가 만든 안전장치를 활용하는 경우가 많습니다.

 

마무리: 용어를 아는 순간, AI자동화를 위한 실행은 더 빨라집니다

우리가 AI를 공부하고 활용하는 이유는 예산을 제대로 쓰고, 업무효율을 높이고, 운영 가능한 자동화를 만들기 위해서입니다. 기업들은 AI 활용을 다각도로 모색하고 있지만, 막상 시작하려고 하면 이런 벽을 만납니다. 인력도 부족하고, 기술도 부담스럽고, 인프라 비용도 걱정되고, 무엇보다 운영까지 책임질 로드맵이 없어서 멈추게 됩니다.

 

엑스보스는 이 문제를 기업에서 고민하는 AI, 자동화 도입을 위한 인프라, 자동화개발, 운영지원을 모두 제공하는 E2E 통합 솔루션을 제공하고 있습니다.업무효율을 높일수 있을지, 우리기업의 업무가 자동화가 될지 궁금하신분은 아래 링크를 통해 3분 진단을 받아보시기 권합니다.