언어 모델의 내재적 모호성 문제
대규모 언어 모델(LLM)은 방대한 텍스트 데이터를 학습하여 인간의 언어를 모방하지만, 그 본질은 확률에 기반한 텍스트 생성기입니다. 이는 모델의 출력이 항상 일관성을 보장하지 않으며, 종종 화려하지만 불필요한 수사나 모호한 표현을 포함하게 되는 근본적인 원인이 됩니다.
사용자가 ‘간결하고 명확하게’라는 지시어를 추가하더라도, 이는 또 다른 해석의 여지를 낳는 주관적인 요청일 뿐 근본적인 해결책이 되기 어렵습니다. 문제의 핵심은 자연어 자체가 가진 다의성과 모호성을 LLM이 때로 증폭시킨다는 데 있습니다.
이러한 상황에서, AI 분야의 저명한 연구자인 안드레이 카르파시(Andrej Karpathy)가 던진 짤막한 아이디어 하나는 LLM과의 상호작용 방식을 근본적으로 재고하게 만듭니다. 그는 LLM에게 결과물을 요청할 때, 항공우주 산업 등에서 사용되는 기술 문서 표준인 ‘ASD-STE100’ 형식을 요구해보라는 흥미로운 제안을 했습니다.
ASD-STE100: 명확성을 위한 공학적 접근
카르파시가 언급한 ASD-STE100, 즉 ‘Simplified Technical English(단순 기술 영어)’는 무엇일까요? 이는 영어가 모국어가 아닌 기술자가 기술 문서를 오해 없이 이해하도록 설계된 ‘통제된 언어(Controlled Language)’입니다. 단순히 ‘쉬운 영어’를 쓰는 것을 넘어, 명확성을 극대화하기 위해 사전에 정의된 엄격한 규칙을 따르는 언어 체계입니다.
STE의 핵심 원칙은 해석의 여지를 줄이는 데 있습니다. 예를 들어, ‘start’, ‘begin’, ‘initiate’처럼 비슷한 의미의 여러 단어 대신, 승인된 하나의 단어(e.g., ‘start’)만 사용하도록 권장합니다. 또한 복잡한 수동태 문장이나 여러 아이디어를 한 문장에 담는 것을 지양하고, 하나의 아이디어는 하나의 짧고 명료한 능동태 문장으로 표현하도록 유도합니다. 이처럼 단어의 의미와 문장 구조를 사전에 제약함으로써, STE는 언어의 모호함을 원천적으로 줄이고자 합니다.
왜 STE는 LLM을 위한 효과적인 ‘가드레일’이 될 수 있을까
카르파시의 제안이 흥미로운 지점은, 바로 이 STE가 LLM의 광활한 출력 가능성 속에서 일종의 ‘가드레일(Guardrail)’ 역할을 할 수 있다는 잠재력 때문입니다. 이는 마치 소프트웨어 API가 정해진 데이터 형식(Schema)에 맞춰 결과를 반환하도록 강제하는 것과 유사한 원리로 해석할 수 있습니다.
LLM에게 ‘STE100 규칙에 따라 작성하라’고 지시하는 것은 ‘명확하게 써라’는 모호한 요청과는 차원이 다릅니다. 이는 모델에게 어휘, 문법, 구조에 대한 구체적인 규칙의 틀을 제공하는 것이며, 모델은 학습 데이터에서 발견한 해당 형식의 패턴을 기반으로 훨씬 더 예측 가능하고 정제된 결과물을 생성하도록 유도될 수 있습니다.
이 접근법은 LLM의 확률적 특성에서 비롯되는 결과물의 무작위성과 표현의 ‘방황’을 효과적으로 줄여줄 수 있습니다. 결과물의 불확실성을 낮춰, 엔지니어링 관점에서 신뢰도를 높인 텍스트를 얻을 가능성을 열어주는 것입니다.
실용적 함의와 미래 전망
STE 형식의 출력을 요구하는 방식은 기술 문서 자동 생성, 코드 주석 작성, 사용자 매뉴얼 초안 작성 등 명확성과 정확성이 중요한 분야에서 즉각적인 효용을 기대하게 합니다.
물론 모든 작업에 STE가 적합한 것은 아닙니다. 창의적인 글쓰기나 미묘한 감정을 다루는 대화에서는 오히려 표현력을 심각하게 저해할 수 있습니다. 이것은 만능 해결책이 아니라, 특정 목적을 위한 정밀 도구로 이해해야 합니다.
카르파시가 던진 화두는 LLM과의 상호작용이 단순한 ‘대화’를 넘어 ‘설계’와 ‘엔지니어링’의 영역으로 진입하고 있음을 시사합니다. 앞으로 법률, 의료, 금융 등 각 전문 분야의 특성을 반영한 ‘도메인 특화 통제 언어(Domain-Specific Controlled Language)’를 활용하여 AI의 출력을 제어하는 방식이 표준으로 자리 잡을 가능성도 점쳐볼 수 있습니다. 이는 LLM을 단순한 조수에서 신뢰할 수 있는 전문 시스템으로 격상시키는 중요한 진일보가 될 것입니다.