Основы работы с ИИ · 7 мин

3. Токены и стоимость

Модель считает не слова, а токены. Ими измеряют объём запроса, скорость ответа и счёт за использование.

Компьютер не хранит букву «А» как букву — внутри это нули и единицы. Модель тоже не мыслит словами. Текст режется на токены: кусок слова, целое слово, знак препинания. Ими считают и «сколько отправили», и «сколько сгенерировали».

Входные и выходные токеныВходзапрос, файлы, историяВыходответ и правки · обычно дороже
Токен — единица объёма, скорости и счёта. Длинный чат и лишние файлы быстро его раздувают.

Вход и выход

  • Входные токены: ваш запрос, история чата, куски файлов, описания инструментов.
  • Выходные токены: текст ответа и предлагаемые правки. Обычно они дороже входных.
  • Скорость модели часто указывают как токены в секунду: поэтому ответ «печатается» на экране, а не приходит целиком.

Поток удобен: не нужно ждать минуту молчания. Если агент ушёл не туда, его можно остановить и уточнить задачу.

Попробуйте в симуляторе

Отправьте запрос в Agent: ответ появляется по кускам — это поток токенов.

Отправьте запрос в Agent: ответ появляется по кускам — это поток токенов.

CursorREADME.md — shop-demo
README.md
12345# shop-demo

Учебный магазин для симулятора.
Откройте src/PricingService.ts — там считается сумма.
Ctrl+L — панель Agent справа.

Напишите цель или выберите подсказку внизу.

Agent
⎇ mainCursor Tab