Token Engineer
Twelve Labs
- Location
- Seoul, South Korea
- Employment
- Full Time
- Work model
- Remote
- Level
- Mid
- H-1B history
- 2 approvals (FY2023)
- Posted
- 1h ago
Skills
About this role
Who we are 영상은 전 세계 데이터의 90%를 차지하지만, 그 대부분은 아직 기계가 이해할 수 없는 영역에 머물러 있습니다. 트웰브랩스(TwelveLabs)는 이 문제를 해결하기 위해 기계가 영상을 이해할 수 있도록 하는 AI 인프라를 구축합니다. 사람보다 더 정교하고 깊이 있게 영상을 이해하는 AI 모델을 통해 영상 속 시·청각 정보를 종합 분석하여 미디어·엔터테인먼트, 스포츠, 보안, 공공 분야 전반의 워크플로우에 적용하고 있습니다. NEA, Radical Ventures, Amazon, NVIDIA, Snowflake, Databricks, Index Ventures, 네이버벤처스, 한국투자파트너스, Quadrille Capital, Red Bull Ventures 등 글로벌 투자자들로부터 누적 3천억원 이상의 투자를 유치했습니다. 또한 Fei-Fei Li, Silvio Savarese, Alexandr Wang 등 세계적인 AI 리더들이 자문진으로 함께하고 있습니다. 트웰브랩스는 샌프란시스코, 서울, 뉴욕, 런던 네 개의 오피스를 거점으로 운영되는 글로벌 기업입니다. 핵심 연구개발은 서울에서 이루어지며, 전 세계 오피스의 구성원들이 이를 기반으로 다양한 산업과 시장에 영상 이해 기술을 적용해가고 있습니다. 세상의 복잡함을 이해하는 기술을 만드는 만큼, 서로 다른 배경과 관점을 가진 사람들이 모일 때 더 나은 제품을 만들 수 있다고 믿습니다. 아직 세상에 없는 답을 정의해보고 싶으신 분, 내 손으로 직접 변화를 만들어내고 싶어하시는 분을 찾고 있습니다. 트웰브랩스에서 세상을 이해하는 기술을 함께 만들어가세요. About the Role 토큰(token) 은 대규모 언어 모델과 AI 코딩 도구가 입력과 출력을 처리하는 사용량 단위입니다. Token Engineer는 AI 사용을 단순히 줄이거나 비용을 사후 점검하는 역할이 아닙니다. 연구자와 엔지니어가 AI를 적극적으로 활용하면서도 비용, 성능, 보안, 안정성을 일관되게 관리할 수 있도록 토큰 관리 및 최적화 솔루션을 만드는 역할입니다. 여러 AI 도구와 모델 제공자가 각기 다른 사용량 및 비용 정보를 제공하는 환경에서, 이 역할은 요청 단위의 계측부터 중앙 정책과 자동 통제까지 이어지는 하나의 시스템을 설계하고 구현합니다. 어떤 도구와 모델이 실제 업무 성과에 도움이 되는지 측정하고, 비정상적인 사용을 빠르게 감지하며, 근거 있는 사용 기준을 운영 가능한 정책으로 바꿉니다. 초기 설계부터 프로덕션 운영까지 직접 책임지게 됩니다. Infrastructure, Security, Finance, IT, Research, Product, Engineering과 협업하면서, 사람의 수동적인 개입에 의존하지 않는 안전하고 투명한 AI 사용 환경을 구축합니다. In this role, you will 여러 AI 코딩 도구와 모델 API의 토큰 사용량, 비용, 모델, 지연 시간, 오류, 재시도, 사용자 및 팀 정보를 하나의 표준 데이터 모델로 수집하는 계측 파이프라인을 설계하고 구현합니다. 일별 사용량과 비용을 거의 실시간으로 파악할 수 있는 대시보드, 자동 알림, 이상 징후 탐지 시스템을 구축하고, 제공자 청구 내역과 내부 계측 결과가 일치하는지 지속적으로 검증합니다. 인증, 권한, 사용 한도, 예산 기준, 요청 속도 제한, 모델 및 제공자 라우팅, 캐시, 재시도, 감사 로그를 중앙에서 관리하는 AI 게이트웨이와 제어 계층을 설계하고 운영합니다. 과거 사용 데이터와 실제 업무 효과를 바탕으로 합리적인 기준선을 만들고, 생산성과 실험 속도를 해치지 않으면서 과도한 비용과 운영 위험을 막는 정책을 정의합니다. 원시 토큰 수나 청구 금액만 보지 않고, 성공한 작업당 비용, 지연 시간, 실패율,