91 lines
3.3 KiB
Go
91 lines
3.3 KiB
Go
package proto
|
||
|
||
import (
|
||
"github.com/ollama/ollama/api"
|
||
"gorm.io/gorm"
|
||
)
|
||
|
||
type AIQueueMessage struct {
|
||
Type string `json:"type"` //声明不同消息类型
|
||
ID uint `json:"id"` //消息id
|
||
Msg api.GenerateResponse `json:"msg"` //原始消息
|
||
}
|
||
|
||
type WSMessage struct {
|
||
Type string `json:"type"` //接收及发送消息类型
|
||
Msg AIQueueMessage `json:"msg"` //消息内容,只进行转发，不做处理
|
||
SessionID int `json:"session_id"` //应用层会话id
|
||
ToID int `json:"to_id"` //接收者id
|
||
}
|
||
|
||
type WSMessageReq struct {
|
||
Type string `json:"type"` //接收及发送消息类型
|
||
Function string `json:"function"` //功能名称
|
||
Msg string `json:"msg"` //消息内容,只进行转发，不做处理
|
||
SessionID int `json:"session_id"` //应用层会话id
|
||
ToID int `json:"to_id"` //接收者id
|
||
ModelID uint `json:"model_id"` //模型id
|
||
IsImage bool `json:"is_image"` //是否为图片(图片消息)，如果是图片消息，则msg为图片消息结构为{"img_url":"","text":""}
|
||
}
|
||
|
||
type ModelParam struct {
|
||
Model string `json:"model"` //模型名称
|
||
Domain string `json:"domain"` //domain参数，spark需要
|
||
Url string `json:"url"` //模型地址
|
||
APPID string `json:"appid"` //应用id
|
||
APISecret string `json:"apiSecret"` //应用密钥
|
||
APIKey string `json:"apiKey"` //应用key
|
||
System string `json:"system"` //
|
||
//其他参数
|
||
Temperature float64 `json:"temperature"` //温度,默认0.5,核采样阈值。取值越高随机性越强，即相同的问题得到的不同答案的可能性越大
|
||
MaxTokens int `json:"maxTokens"` //最大生成长度,默认4096
|
||
TopK float64 `json:"topK"` //取概率最大的前k个词
|
||
TopP float64 `json:"topP"` //取
|
||
}
|
||
|
||
func (m *ModelParam) SetDefaultParams() {
|
||
if m.Temperature == 0 {
|
||
m.Temperature = DefaultTemperature
|
||
}
|
||
if m.MaxTokens == 0 {
|
||
m.MaxTokens = DefaultMaxTokens
|
||
}
|
||
if m.TopK == 0 {
|
||
m.TopK = DefaultTopK
|
||
}
|
||
if m.TopP == 0 {
|
||
m.TopP = DefaultTopP
|
||
}
|
||
}
|
||
|
||
type SessionResponse struct {
|
||
gorm.Model
|
||
UserID int `gorm:"column:user_id"` //只能由用户创建
|
||
Name string `gorm:"column:name"`
|
||
Context []int `gorm:"column:context;type:json"` //会话上下文
|
||
MsgCount int `gorm:"column:msg_count"` //消息数量
|
||
TokenUsage uint `gorm:"column:token_usage"` //token使用数量
|
||
}
|
||
|
||
type IMParamContext struct {
|
||
UserID int `json:"user_id"` //用户id
|
||
SessionID int `json:"session_id"` //会话id
|
||
FunctionID int `json:"function_id"` //功能id
|
||
ModelID int `json:"model_id"` //模型id
|
||
ModelType string `json:"model_type"` //模型类型
|
||
Question string `json:"question"` //问题
|
||
Channel string `json:"channel"` //消息队列
|
||
IsHasImage bool `json:"is_has_image"` //是否有图片
|
||
}
|
||
|
||
type ImageMsgContent struct {
|
||
ImgName string `json:"img_name"` //图片名称
|
||
ImgUrl string `json:"img_url"` //图片url
|
||
}
|
||
|
||
// 用户向模型发送图片的消息结构
|
||
type UserImageMsg struct {
|
||
ImageContent []ImageMsgContent `json:"image_content"` //图片内容
|
||
Text string `json:"text"` //问题文本
|
||
}
|