fix ticks

This commit is contained in:
Zhang Minghan 2024-02-13 08:38:34 +08:00
parent 65acc65d5d
commit b52f7b6617
2 changed files with 15 additions and 3 deletions

View File

@ -113,17 +113,19 @@ func (c *ChatInstance) CreateStreamChatRequest(props *ChatProps, callback global
isCompletionType := props.Model == globals.GPT3TurboInstruct
ticks := 0
err := utils.EventScanner(&utils.EventScannerProps{
Method: "POST",
Uri: c.GetChatEndpoint(props),
Headers: c.GetHeader(),
Body: c.GetChatBody(props, true),
Callback: func(data string) error {
ticks += 1
partial, err := c.ProcessLine(props.Buffer, data, isCompletionType)
if err != nil {
return err
}
return callback(partial)
},
})
@ -136,7 +138,7 @@ func (c *ChatInstance) CreateStreamChatRequest(props *ChatProps, callback global
return err.Error
}
if props.Buffer.IsEmpty() {
if ticks == 0 {
return errors.New("no response")
}

View File

@ -516,7 +516,17 @@
"articleTip": "Группировка функций пакетного пост-генерации, после проверки текущей группы пользователей можно использовать функцию пакетного пост-генерации",
"generate": "Группировка конструкторов ИИ-проектов",
"generateTip": "Группировка генераторов ИИ-проектов, после проверки текущей группы пользователей можно использовать генератор ИИ-проектов",
"groupPlaceholder": "Выбрано групп: {{length}}"
"groupPlaceholder": "Выбрано групп: {{length}}",
"cache": "Кэшируемая модель",
"cacheTip": "Кэшируемая модель, после проверки текущая модель может быть кэширована и попасть в кэш",
"cachePlaceholder": "Выбрано моделей: {{length}}",
"cacheAll": "Сделать все кэшируемыми",
"cacheFree": "Сделать бесплатную модель кэшируемой",
"cacheNone": "Сделать все некэшированными",
"cacheExpired": "Время истечения срока действия кэша",
"cacheExpiredTip": "Время истечения срока действия кэша (в секундах), по умолчанию 1 час",
"cacheSize": "Максимальный размер вероятности кэширования",
"cacheSizeTip": "Максимальная вероятность кэширования, то есть максимальная вероятность кэширования одного и того же типа входного параметра. Если параметр равен 1, максимальное содержимое кэша равно 1, и запрашиваемое содержимое будет напрямую затронуто. Если параметр равен 4, возвращается 4 содержимого, и запрашиваемое содержимое будет затронуто одним из них."
},
"user": "Управление пользователями",
"invitation-code": "Код приглашения",