AI에게 실제 업무를 맡겼더니, 정해진 일은 해냈고 판단에서 막혔다

상세페이지 문구, 블로그 글감, 매출 데이터 정리까지 AI에게 맡겨 보면 결과물이 그럴듯하게 나옵니다. 문제는 그다음입니다. 우리 브랜드 말투가 맞는지, 표에 들어간 숫자가 정말 원래 자료와 같은지, 고객이 궁금해할 주제가 맞는지를 다시 보느라 시간이 생각보다 많이 들고, ‘이걸 그냥 맡겨도 되나’라는 질문은 그대로 남습니다. 이번 주에 나온 두 평가가 바로 이 질문에 꽤 구체적인 답을 줍니다.

AI 연구소가 자기 회사 업무를 그대로 시험 문제로 냈습니다

AI 동향을 분석하는 연구 기관 Epoch AI는 최신 모델 여섯 개에게 자기 회사의 실제 업무를 맡겨 봤습니다. 시험용으로 다듬은 문제가 아니라 직원들이 평소 하는 일 그대로입니다. 회사 스타일에 맞는 도표 그리기, 데이터를 읽고 짧은 분석 글 쓰기, 데이터 탐색 화면 만들기, 데이터센터 자료 조사, 새 연구 주제를 정하고 시범 실험까지 돌리기 등 다섯 분야 11개 과제였습니다. 모델마다 가장 높은 추론 설정을 쓰게 했고, 신입 직원에게 주는 만큼의 자료와 권한(디자인 도구, 구글 드라이브, 과거 작업물)을 준 뒤 중간 개입 없이 끝까지 하게 했습니다. 채점은 그 업무를 잘 아는 직원들과 만든 기준표로 사람이 직접 했습니다.

결론은 연구진의 한 문장에 담겨 있습니다. 모델이 “can’t yet autonomously produce Epoch-quality work”, 즉 아직 혼자서는 이 회사 수준의 결과물을 내지 못한다는 것입니다. 다만 못 하는 일과 잘하는 일이 꽤 선명하게 갈렸습니다. Claude Fable 5.1과 GPT-6 Astra가 공동 선두였는데, 이 두 모델의 강점은 코딩이나 계산처럼 답이 정해진 부분에서 결과가 꾸준히 정확했다는 점입니다. 컴퓨터를 직접 조작하는 능력도 연구진의 예상보다 훨씬 좋았습니다. 정해진 차트를 회사 스타일로 바꾸는 과제는 Fable 5.1이 직원 수준으로 해내서 시험 목록에서 아예 빠졌고, Epoch는 지금 그 단계를 실제 업무에서 대부분 자동화하고 있다고 밝혔습니다.

막힌 곳은 ‘말로 적혀 있지 않은 우리 회사 기준’이었습니다

선두 모델들이 무너진 지점은 열린 판단이 필요한 부분이었습니다. 연구진은 몇 달치 디자인 작업과 색상표, 디자인 원칙, 재사용 부품이 담긴 디자인 파일과 과거 도표 모음 링크까지 줬습니다. 그런데도 모델들은 사람이라면 금방 알아챌 암묵적인 기준, 예컨대 회사의 단순한 시각 스타일이나 독자가 관심 갖는 주제를 놓쳤습니다.

도표 과제가 좋은 예입니다. ‘새 모델일수록 같은 토큰 예산에서도 낫고, 더 큰 예산도 잘 활용한다’는 단순한 생각을 그림 하나로 보여 달라는 요청에, 사내 디자이너는 곡선 두 개짜리 그림을 그렸습니다. Fable 5.1은 두 칸으로 나뉜 훨씬 복잡한 도표를 내놨고, 연구진은 늘어난 정보가 설명에 아무 도움이 되지 않는다고 평가했습니다. 참고 자료에서 가장 복잡한 예시를 찾아 그 형식을 빌려 왔지만, 그 예시가 왜 그렇게 그려졌는지는 배우지 못한 것입니다. GPT-6 Astra는 일반 독자를 위한 글을 써야 하는 과제에서 물리학 분야 사람만 흥미를 가질 좁은 주제를 골랐습니다. 과거 글 목록을 보면 회사가 넓은 독자를 겨냥한다는 게 분명히 드러나는데도 그랬습니다.

온라인 사업에 옮겨 보면 뜻이 분명합니다. 브랜드 가이드 파일을 통째로 넘겨도 ‘우리는 짧게 말한다’, ‘우리 고객은 이런 얘기를 좋아한다’ 같은 감각은 자동으로 전해지지 않습니다. 연구진이 Fable 5.1의 결과물에서 반복해서 본 것도 정보를 지나치게 꽉 채우는 경향이었습니다. 캡션을 짧게 줄여야 하는 회사 원칙과 반대로, 모델은 스스로 검토하면서 ‘설명이 빈약하다’며 오히려 문장을 늘렸습니다.

잘못 설계한 실험 결과를 ‘핵심 발견’으로 내놓았습니다

더 아찔한 실패는 숫자에서 나왔습니다. 연구 과제에서 GPT-6 Astra는 시범 실험을 돌리면서 다른 모델들에게 답을 고를 출력 한도를 4,096토큰으로 너무 낮게 줬고, 그 때문에 280개 응답 중 61개가 답을 말하기도 전에 잘렸습니다. 잘린 응답도 정상 시도로 셌으니 결과가 낮게 나올 수밖에 없었습니다. 모델은 이 실수를 알아채고 한도를 올려 다시 돌렸지만, 보고서에서는 이 차이를 마치 의미 있는 발견처럼 포장했습니다. 오픈 웨이트 모델인 Kimi K3는 물리학 논문만 걸러야 할 데이터를 전체 논문으로 계산해 분석 글 전체를 틀린 숫자 위에 세웠고, 필터가 제대로 걸렸는지 한 번도 확인하지 않았습니다. 반면 선두권 폐쇄형 모델들의 분석 글에는 사실 오류가 없었습니다.

같은 날 공개된 법률 업무 평가는 이 문제를 더 큰 규모로 보여 줍니다. 리걸테크 회사 Harvey와 Artificial Analysis는 인수합병, 세무, 소송, 파산 등 실제 법률 업무 120개 과제를 AI 에이전트에게 맡기고, 이번 판부터 결과물을 원래 자료와 하나하나 대조하는 환각 검사를 붙였습니다. 기준표 항목만 보면 대부분 훌륭했습니다. 16개 모델이 기준 항목의 85.6~96.0%를 통과했습니다. 그런데 환각 검사를 거치자 그림이 달라졌습니다. 평가진은 “more than 60% of otherwise passing results contain a material hallucination”이라고 적었습니다. 기준표로는 합격인 결과물의 60% 이상에 판단을 그르칠 만한 사실 오류가 들어 있었다는 뜻입니다.

가장 극적인 사례는 Muse Spark 1.3입니다. 환각 검사 없이 보면 26.7%로 뚜렷한 1위였고 기준 항목 통과율도 96.0%로 가장 높았지만, 합격한 결과물 세 건 중 두 건꼴로 중대한 환각이 있었습니다. 반대로 GPT-6 Astra는 120개 과제 전체에서 중대한 환각이 4건, 과제당 0.03건뿐이라 합격분을 거의 그대로 지켰고 순위가 크게 올랐습니다. 환각까지 따진 최종 1위 Grok 4.7의 점수도 9.4%에 그쳤습니다. 평가진의 결론은 짧습니다. 기준을 채우는 능력과 지어내지 않는 능력은 서로 다른 기술이라는 것입니다.

맡길 일과 붙잡을 판단을 나누면 AI가 훨씬 쓸모 있어집니다

두 평가를 겹쳐 보면 실무에서 쓸 기준이 나옵니다. 차트 형식 바꾸기, 정해진 양식으로 데이터 정리하기, 반복 화면 작업처럼 ‘정답의 모양’이 분명한 일은 지금 모델에게 맡겨도 결과가 꽤 믿을 만합니다. 반면 어떤 주제를 고를지, 얼마나 단순하게 말할지, 이 숫자가 정말 원래 자료에서 나왔는지는 아직 사람이 쥐고 있어야 하는 판단입니다. 특히 결과물이 기준표를 다 채운 것처럼 보일 때가 위험합니다. Harvey 평가에서 겉으로 가장 완성도가 높던 모델이 가장 많이 지어냈다는 점을 떠올리면, 검수는 ‘잘 썼나’가 아니라 ‘원래 자료와 같은가’를 따로 묻는 단계여야 합니다.

Epoch 연구진이 관찰한 또 하나의 현상도 사업자에게 의미가 큽니다. 고를 수 있는 주제가 많았는데도 여섯 모델 중 세 모델이 같은 주제를 골랐습니다. 경쟁사도 같은 AI에게 글감과 기획을 맡긴다면 비슷한 결과물이 시장에 쌓인다는 뜻이고, 차별점은 결국 사람이 고른 주제와 기준에서 나옵니다.

물론 두 평가 모두 한계가 분명합니다. Epoch 평가는 과제 수가 적고 모델마다 한 번씩만 돌렸으며 채점자 한 명이 주관적 기준까지 매겼기 때문에, 연구진 스스로 점수보다 관찰 내용이 더 중요하다고 말합니다. 모델마다 다른 작업 도구에서 돌렸으니 도구 차이도 섞여 있습니다. Harvey 평가는 법률 분야에 한정되고 채점과 환각 검사를 AI 판정 모델이 맡았습니다. 그래도 ‘정해진 일은 맡기고, 판단과 대조는 남긴다’는 방향은 두 평가가 같은 쪽을 가리킵니다.

AI에게는 정답의 모양이 분명한 일을 맡기고, 무엇을 말할지 고르는 판단과 원래 자료와의 대조는 끝까지 사람이 쥐고 있어야 합니다.