Локальные модели ИИ: какая скорость считается нормальной?
Когда запускаются локальные модели, какое время генерации ответов вы считаете разумным? Я интересуюсь, как другие воспринимают нормальные скорости обработки, особенно когда речь идет о фильтрации контекста, что я считаю самым утомительным. По крайней мере, при медленной генерации вы все еще можете оставаться вовлеченными, читая вывод по мере его появления. Для меня скорость генерации, показанная на <a class="more-link" href="https://www.wumeicn.com/ru/ru-local-ai-models-whats-a-normal-speed/">Read more</a>
View review