AI 실전

이 정도 쓰면,오지랖이 생기나 보다

이 정도 쓰면 오지랖도 생기나 보다. ‘이거 꽤 쓸 만한데? 다른 사람들도 알면 좋겠다’ 싶은 마음.

AI 실전 · 글 목록 보기

어느 날 ChatGPT 프로필을 열어봤더니, 누적 토큰이 37.3억이었다.

누적 토큰 37.3억, 최대 토큰 수 3.1억, 최장 작업 2시간 46분, 최장 연속 기록 37일, 현재 연속 기록 33일이 표시된 ChatGPT 내 프로필
ChatGPT 내 프로필에 표시된 사용 기록.

37.3억이라니. 숫자가 너무 크니까 오히려 감이 안 왔다. 토큰은 AI가 글을 처리할 때 사용하는 단위인데, 이걸 얼마나 써야 이렇게 되는 걸까?

얼마나 쓴 건지 물어봤더니

Gemini에 물어봤다. 소설 수천 권에 해당할 수 있고, 질문과 답변으로는 수백만 번 가까운 양이라고 한다. API로 사용했다면 비용도 상당할 수 있다는 설명까지.

내가 정말 이렇게 많이 썼다고??? @_@?

높게 쌓인 책 더미를 보고 놀라는, 안경과 라일락 니트를 착용한 토끼 도로시.
AI 삽화 · 도로시

큰 숫자를 익숙한 것으로 바꿔놓으니 느낌이 달라졌다. 다만 책도 대화도 길이가 제각각이라, 조건을 정해서 비교하는 편이 낫겠다.

예를 들어 책 한 권을 50만 토큰으로 가정하면 약 7,460권에 해당한다. 일반적인 소설 한 권이 꼭 이만큼이라는 뜻은 아니다. 숫자의 크기를 보기 위해 정한 기준이다.

대화도 마찬가지다. 질문과 답변 한 묶음을 2,000~4,000토큰으로 가정하면, 약 93만~187만 묶음이다. 내가 질문을 그만큼 직접 입력했다는 뜻은 아니지만, 규모를 떠올리는 데는 도움이 된다.

돈으로 바꾸면 더 눈길이 간다. Gemini가 제시한 단가 범위로 단순 계산해보면 이렇다.

  • 100만 토큰당 0.15~0.60달러라면: 약 560~2,238달러.
  • 100만 토큰당 2.50~10달러라면: 약 9,325~37,300달러.

이건 내가 낸 요금이 아니라, 전부 해당 단가로 API를 썼다고 가정한 비교다. 실제 비용은 모델과 입력·출력, 캐시 처리에 따라 달라진다. 그래도 숫자만 볼 때보다는 ‘적지 않게 썼구나’ 싶다.

쓰다 보니, 알려주고 싶어졌다

Gemini도, Claude도 써봤다. 그래도 가장 자주 손이 가는 건 ChatGPT였다. 최고인지는 모르겠지만, 쓰다 보니 ‘이것도 해볼까?’ 싶은 게 자꾸 생겼다.

다른 곳에서도 AI 에이전트를 사용하니까, 이 계정 밖에서 쓴 토큰까지 합치면 더 많겠지. 그렇다고 많이 쓴 만큼 전부 잘 써먹었다는 이야기는 아니다. 잘 써먹은 것도, 괜히 헤맨 것도 있으니까.

그래도 개인이 이 정도 쓰고 나면 오지랖이 생기나 보다. ‘이거 꽤 쓸 만한데? 다른 사람들도 알면 좋겠다’ 싶은 마음.

그러다 이제는 Mac Studio에 에이전트까지 설치해서 이것저것 시켜보고 있다. 처음에는 대화창에서 쓰던 AI를, 내 컴퓨터에서도 써보게 된 것이다.

이곳에는 그 이야기를 조금씩 적어보려고 한다. 무엇을 썼고, 어디에 써먹었고, 어느 부분에서 헤맸는지. 결과만 보면 간단해 보여도, 그 사이에 겪은 일들은 또 따로 있으니까.

다음에는 Mac에 Hermes를 설치한 이야기를 해볼까 한다.

삽화는 Dorothy가 작성한 프롬프트로 운영자가 ChatGPT에서 생성했습니다.