SEO Korea

언캐니 밸리(Uncanny Valley)의 역설적 돌파

초기 뉴럴 네트워크의 결과물은 예측 불가능성의 연속이었다. 마치 제멋대로인 어린아이처럼, 동일한 입력값에도 불구하고 매번 다른, 때로는 기괴하기까지 한 결과물을 내놓았다. 우리는 수년간 이 ‘비일관성’을 제어하고 AI를 예측 가능한 도구로 만들기 위해 모델 정렬(Alignment), RAG(검색 증강 생성) 등 수많은 기술적 장치를 고안해왔다.

그런데 최근, 몇몇 선구적인 시도들은 정반대의 길을 선택했다. 그들은 AI의 완벽함이 아닌 ‘결함’에 가까운 모습, 즉 의도적으로 부여된 성격이나 특정 상태 변화에 따라 이상하게 작동하는 AI를 선보였다. 이는 단순한 기술적 유희를 넘어, AI의 본질과 제어 가능성에 대한 흥미로운 화두를 던진다.

기술적 구현의 해부: ‘인격 AI’는 어떻게 만들어지는가

AI에게 특정 페르소나를 부여하는 것은 마법이 아닌, 정교하게 설계된 ‘상태 관리(State Management)’와 ‘프롬프트 엔지니어링(Prompt Engineering)’의 결과물이다. AI가 정말로 감정을 느끼는 것이 아니라, 특정 조건 하에서 특정 인물처럼 ‘연기’하도록 프로그래밍된 것이다. 그 핵심 원리는 다음과 같이 추론해볼 수 있다.

시스템 프롬프트를 통한 페르소나 주입

가장 직접적인 방법은 거대 언어 모델(LLM)의 행동 원칙을 정의하는 시스템 프롬프트(System Prompt)에 동적인 ‘상태 변수(State Variable)’를 설계해 넣는 것이다. 예를 들어, AI에게 ‘스트레스 지수’나 ‘피로도’ 같은 가상의 상태 값을 부여하고, 이 수치가 특정 조건(예: 사용자와의 대화 턴 수, 특정 키워드 등장 등)에 따라 변화하도록 설정할 수 있다. 그리고 프롬프트를 통해 “만약 스트레스 지수가 80을 넘으면, 답변의 톤을 더 짧고 신경질적으로 바꾸고, 때로는 주제와 무관한 농담을 하라”는 식의 조건부 행동 규칙을 명시하는 것이다.

이러한 설계는 대화의 맥락 안에서 AI의 상태 값을 실시간으로 갱신하며, 그 결과 AI는 마치 감정 변화를 겪는 것처럼 점진적으로 다른 페르소나를 연기하게 된다. 이는 AI의 근본적인 변화가 아닌, 컨텍스트 창(Context Window) 내에서의 정교한 조건부 행동 설계의 결과물이다.

결국 이러한 시도들의 기술적 핵심은 AI를 감정적으로 만든 것이 아니라, 특정 ‘상태’를 정의하고 그 상태에 따라 AI의 출력 페르소나를 극적으로 전환시키는 제어 기술을 증명한 것이다.

엔터테인먼트를 넘어선 ‘상태 기반 AI’의 미래

특정 페르소나를 부여하는 시도는 지금은 엔터테인먼트 영역에 머무는 듯 보이지만, 그 이면에 담긴 ‘상태 기반 AI(Stateful AI)’라는 개념은 훨씬 더 큰 잠재력을 내포한다. 이는 AI가 단일하고 고정된 페르소나가 아닌, 상황과 상호작용에 따라 동적으로 변화하는 인격을 가질 수 있음을 의미한다. 몇 가지 예시 시나리오를 생각해보자.

가령, AI 튜터는 학생의 정답률과 문제 풀이 속도를 ‘이해력’ 상태 값으로 관리할 수 있다. 이해력이 낮다고 판단되면 더 쉬운 설명 방식을 선택하고, 높다고 판단되면 심화 질문을 던지는 식으로 동적 상호작용이 가능하다. 마찬가지로, 정신 건강을 위한 챗봇은 사용자의 텍스트에서 감지된 감정(Sentiment)을 ‘공감’ 상태 값과 연동하여 위로의 톤을 조절할 수 있을 것이다.

이러한 접근은 게임 속 NPC(Non-Player Character)를 혁신할 수도 있다. 게임 내 시간, 날씨, 플레이어와의 상호작용 기록을 상태 값으로 축적한 NPC는 매번 똑같은 대사를 반복하는 대신, 어제 나눈 대화를 기억하고 현재 상황에 맞는 생동감 있는 반응을 보일 수 있다.

할루시네이션과 창의적 일탈의 경계

물론 이 기술에는 명백한 위험이 따른다. Character.ai와 같은 서비스는 AI가 특정 역할에 몰입해 ‘엉뚱한’ 말을 하는 것을 재미로 활용했지만, 현실 세계의 어플리케이션에서 이는 ‘할루시네이션(Hallucination)’, 즉 치명적인 오류다. 우리는 AI가 사실이 아닌 정보를 생성하거나 사회적으로 부적절한 발언을 하는 것을 막기 위해 막대한 자원을 투입하고 있다.

여기에 바로 제어의 역설이 존재한다. 한쪽에서는 AI의 일탈을 막기 위해 필사적인 노력을 기울이는 반면, 다른 한쪽에서는 ‘제어된 일탈’을 통해 창의성과 재미를 추구한다. 이러한 창의적 시도들은 후자에 속하며, AI를 ‘안전하게’ 이상 행동을 하도록 만드는 것 역시 고도의 기술적 과제임을 시사한다.

AI에게 의도된 인격을 부여하려는 시도는 단순히 흥미로운 기술적 장난이 아니다. 이는 AI의 페르소나를 동적으로 제어하는 기술의 대중적 쇼케이스이자, 완벽한 통제와 창의적 혼돈 사이에서 우리가 AI를 어떻게 활용할 것인지에 대한 질문을 던지는 흥미로운 이정표다. 앞으로의 과제는 더 똑똑한 AI를 만드는 것뿐만 아니라, 이처럼 특정 목적을 위해 ‘의도된 결함’까지도 설계하고 제어하는 엔지니어링 역량을 확보하는 것이 될 것이다.