gigachain icon indicating copy to clipboard operation
gigachain copied to clipboard

Published 20 hours ago • verified publisher icon ai-forever

Реализовать подсчет израсходованных токенов в GigaChat

Open v-yurchenko opened this issue 1 year ago • 0 comments

Feature request

Реализовать подсчет токенов как для OpenAI https://python.langchain.com/docs/modules/model_io/models/llms/token_usage_tracking

Motivation

Нужно понимать сколько при использовании GigaChat было использовано токенов и в будущем ресурсов.

Your contribution

Предлагаю адаптировать код https://github.com/ai-forever/gigachain/blob/4f63280bebbdc4c925732c0749f660d3e97eb3e3/libs/langchain/langchain/callbacks/openai_info.py#L116 под эти цели. За исключение валюты :)

v-yurchenko avatar Sep 26 '23 12:09 v-yurchenko