Ограничения модели
Каждый запрос к нейросети ограничен максимальным размером токенов, который модель может потратить на его обработку.
Так, GPT-3.5 Turbo ограничивается 4096 токенов. Это соответствует примерно 2000 символов кириллицей. Более продвинутая модель GPT-4 поддерживает уже вдвое больше — до 8192 токенов (до 4000 символов кириллицей).