Jev란 무엇인가? TypeSafe AI의 System One 모델 설명

올해 대부분의 AI 출시는 더 스마트한 채팅 경쟁에 집중했습니다. TypeSafe AI는 반대 방향을 택했습니다. 2026년 9월 15일, TypeSafe AI는 첫 번째 "System One 모델"인 Jev를 공개했습니다. 이 AI는 문장을 생성하지 않고, 코드가 직접 처리할 수 있는 타입이 지정된 확률적 결정을 반환합니다. 에이전트나 자동화를 구축한다면 Jev를 이해할 가치가 있습니다. LLM이 느리고 비용이 많이 드는 방식으로 처리하는 단순하고 대용량의 결정을 타겟으로 하기 때문입니다. Jev가 무엇인지, 어떻게 작동하는지, 비용은 얼마인지, 그리고 어떤 주장에 회의적인 시각이 필요한지 살펴보겠습니다.

Jev를 한 문장으로 설명하면?

Jev는 TypeSafe AI의 프론티어 모델로, 프로그램 상태와 타입이 지정된 질문 세트를 입력받아 단일 병렬 패스로 모든 질문에 답변합니다. 생성된 텍스트 대신 보정된 확률이 포함된 구조화된 값을 반환합니다.

TypeSafe는 이를 단순히 더 작은 LLM이 아닌 새로운 카테고리의 모델로 정의합니다. TypeSafe는 Daniel Kahneman의 빠르고 직관적인 시스템 1 사고와 느리고 신중한 시스템 2 추론의 구분을 차용해 이를 "System One"이라고 부릅니다. 핵심 가설은 소프트웨어 내부의 대부분의 결정이 빠른 판단("이것은 어느 카테고리에 속하는가?", "이것이 긴급한가?")이며, 우리는 이를 위해 완전한 추론 모델을 사용해왔다는 것입니다.

Jev는 OpenAI에서 ChatGPT의 기반이 된 RLHF와 InstructGPT 연구를 도운 Diogo Almeida가 개발했으며, DCVC가 주도한 4,000만 달러 투자 라운드와 함께 출시되었습니다. 이름은 경제학자 William Stanley Jevons에서 따온 것으로, 결정 비용이 낮아질수록 결정에 대한 수요가 폭발적으로 증가한다는 아이디어를 담고 있습니다.

Jev가 LLM과 다른 점

핵심 차이는 출력 방식입니다. LLM은 토큰 단위로 문자열을 생성하며, 이후 해당 문자열을 파싱하고 검증해야 하고 환각이나 잘못된 형식의 반환이 없기를 바라야 합니다. Jev는 가능한 답변을 미리 정의하고 타입이 지정된 값으로 반환하므로 파싱이 필요 없고, 구조적으로 타입 오류가 발생하지 않습니다.

두 가지가 눈에 띕니다. 첫째, 병렬 샘플링: Jev는 요청의 모든 질문을 동시에 평가하므로 열 번째 질문을 추가해도 응답 시간이 거의 변하지 않습니다. 둘째, 보정된 신뢰도: Jev는 TypeSafe가 RLCD(Reinforcement Learning for Calibrated Decisions, 보정된 결정을 위한 강화학습)라고 부르는 방법으로 훈련되며, 인간의 선호도가 아닌 결과에 대해 확률을 최적화합니다. 전체적으로 높은 신뢰도는 높은 정확도를 의미하도록 설계되어 있으며, 이는 자동으로 행동할 시점과 에스컬레이션할 시점을 결정하는 데 정확히 필요한 것입니다.

또한 LLM처럼 자연어 입력을 이해하지만, 현재는 텍스트만 허용합니다 — 문자열, JSON, 또는 텍스트 배열. 이미지, 오디오, 비디오는 아직 지원되지 않습니다.

세 가지 기본 요소

전체 API는 세 가지 질문 유형으로 구성됩니다. 이는 설계 철학이지 제한이 아닙니다:

• Choice — 세트에서 하나의 옵션 선택 (최대 255개). 선택 항목, 옵션별 확률, 신뢰도 점수를 반환합니다. 모델이 "해당 없음"을 표현할 수 있도록 명시적인 other 옵션을 추가하세요.
• Score — 단어로 설명하는 2~10단계 척도에서의 위치. 단계 사이에 위치할 수 있는 점수를 반환합니다 (예: 1.4).
• Noul — 0에서 1 사이의 단일 확률로 반환되는 예/아니오 질문.

지원 티켓 처리 호출은 단일 요청으로 다음을 물을 수 있습니다: 어느 팀이 처리해야 하는가 (Choice), 고객이 얼마나 불만족스러운가 (Score), 그리고 고객이 명시적으로 환불을 요청했는가 (Noul). 코드는 그 타입이 지정된 답변들을 일반적인 if 문으로 결합합니다. TypeSafe의 문서는 Jev를 "스마트 if 문"으로 정의합니다 — 수작업 규칙이 너무 취약한 곳에서 분류, 라우팅, 점수 매기기, 추출, 또는 분기 처리를 수행합니다.

Jev가 잘하는 것 — 그리고 못하는 것

Jev는 알려진 답변 세트에 대한 대용량 반복 결정을 위해 구축되었습니다: 티켓 분류, 인텐트 라우팅, 콘텐츠 모더레이션, 추출, 점수 매기기, 그리고 다른 모델의 출력에 대한 가드레일 검사. 질문이 병렬로 실행되고 출력이 무료이므로, 미리 모든 것을 "팬 아웃"하여 물어보고 코드가 중요한 것을 결정하도록 할 수 있습니다.

글쓰기가 필요한 모든 것에는 적합하지 않습니다: 채팅, 코드 생성, 또는 추론 설명. 주목할 만한 두 가지 추가 제한 사항:

• 세계 지식 없음. Jev는 전달받은 상태만 알고 있으며 아무것도 조회할 수 없습니다. 이 단계가 Jev를 중심으로 구축된 모든 워크플로우의 상한선을 설정합니다.
• 보정은 그룹 속성입니다. TypeSafe는 보정이 많은 예측에 걸쳐 유지된다고 명확히 밝힙니다 — 단일 답변이 정확하다는 것을 보장하지 않습니다. Jev도 여전히 틀릴 수 있습니다.

가격과 속도: 세부 사항을 확인하세요

TypeSafe의 헤드라인 수치는 인상적입니다: 백만 토큰당 $0.042의 입력 비용에 무료 출력, 70–500 ms의 지연 시간, 그리고 워크플로우 벤치마크에서 LLM 대비 "193.6배 빠르고, 444.6배 저렴하다"는 홈페이지 주장.

이를 독립적인 결과가 아닌 벤더 주장으로 취급하세요. TypeSafe 자체도 유용한 주의사항을 추가합니다: 평가는 서부 해안에 있는 자체 노트북에서 실행되었으며, 가격이 보조금을 받지 않는다는 것을 증명할 수 없고, 워크플로우는 훈련 세트에 없지만 자체 팀이 구축했습니다. 벤치마크는 또한 GPT-6 Astra와 Fable 5.1의 평균을 "정확한" 기준으로 사용하는데, 이는 해당 모델들에 대한 편향을 내포합니다. 이 dev.to 가이드와 같은 출시 관련 실용 가이드도 동일한 경고를 반복합니다: 속도와 비용 수치는 자체 실행되었으며 재현되지 않았습니다. 논쟁하기 어려운 한 가지 주장은 0% 타입 오류입니다 — 스키마 매칭이 보장되므로 단 하나의 반례가 이를 반증할 것입니다.

에이전트 루프에서 Jev의 위치

멀티 에이전트 시스템을 구축하는 팀에게 흥미로운 패턴은 신뢰도 기반 라우팅입니다. 전체 시스템에 대한 단일 정확도 임계값 대신, 잘못되었을 때의 비용에 따라 조정된 액션별 임계값을 설정합니다: 높은 신뢰도 이상의 저렴하고 읽기 전용 결정에서는 자율적으로 행동하고, 비용이 많이 드는 결정에서는 확인을 요청하며, 신뢰도가 낮을 때는 사람 — 또는 완전한 추론 모델 — 에게 라우팅합니다.

이는 Jev를 LLM의 대체재가 아닌 에이전트 루프 내의 결정 레이어로 만듭니다. 일반적인 형태는 캐스케이드입니다: Jev가 저렴하게 분류하고 라우팅하며, 결정론적 코드가 처리할 수 있는 것을 처리하고, 프론티어 모델이 어려운 소수를 담당합니다. 가치는 더 적은 비용의 LLM 호출과 "기계가 결정했다"와 "사람이 봐야 한다" 사이의 명확하고 감사 가능한 경계입니다.

결론

Jev는 진정으로 다른 아이디어입니다: 챗봇이 아닌 함수 호출처럼 형성된 AI 기본 요소. 벤더 자체 벤치마크 외부에서도 유지된다면, System One 모델은 현재 LLM 프롬프트 내에 어색하게 자리 잡고 있는 수백만 개의 작은 판단을 대체할 수 있습니다. 현재로서는 얼리 액세스, 텍스트 전용이며 모든 성능 수치는 자체 보고된 것입니다 — 유망하지만 아직 검증되지 않았습니다. 올바른 접근 방식은 하나의 좁고 대용량 결정에 시도해보고 현재 설정과 비교 측정하는 것입니다.

자체 AI 인력으로 결정 기반 워크플로우 구축하기

Jev는 자동화 스택의 한 레이어입니다 — 빠른 결정. 나머지는 오케스트레이션입니다: 상태 수집, 올바른 도구 호출, 그리고 실제 앱 전반에 걸친 결과 처리. 그것이 Eigent가 오픈소스 멀티 에이전트 "Cowork" 데스크톱 앱으로 하는 일입니다. GitHub PR 검토나 수신 작업 분류와 같은 엔드투엔드 워크플로우를 통해 에이전트를 조율합니다. 로컬에서 신뢰도 기반 자동화를 구축하고 싶으신가요? Eigent를 다운로드하고 결정을 실행하는 인력에 연결하세요.