AuthToken

在线服务的 AuthToken 数据

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Base	AuthTokenBase	否	AuthToken 基础信息
Limits	Array of AuthTokenLimit	否	AuthToken 限流数组

AuthTokenBase

AuthToken 的基础信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Value	String	否	token 值
Name	String	否	token 别名
Description	String	否	token 描述
CreateTime	String	否	token 创建时间
Status	String	否	token状态
Id	String	否	token的唯一id，与value一一对应，重置后id也会一并变化

AuthTokenLimit

AuthToken 限流信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Strategy	String	否	限频策略：PerMinute 每分钟限频；PerDay 每日限频
Max	Integer	否	上限值

CBSConfig

CBS存储配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
VolumeSizeInGB	Integer	是	存储大小

CFSConfig

CFS存储的配置

被如下接口引用：CreateTrainingTask, DescribeModelServiceGroups。

名称	类型	必选	描述
Id	String	是	cfs的实例的ID
Path	String	是	存储的路径
MountType	String	否	cfs的挂载类型，可选值为：STORAGE、SOURCE 分别表示存储拓展模式和数据源模式，默认为 STORAGE
Protocol	String	否	协议 1: NFS, 2: TURBO
IsPresetStorage	Boolean	否	是否平台预置存储

CFSTurbo

配置CFSTurbo参数

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Id	String	否	CFSTurbo实例id
Path	String	否	CFSTurbo路径

CodeRepoConfig

代码仓库配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Id	String	是	代码仓库Id
TargetPath	String	是	代码仓下载目标地址

Container

容器信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Name	String	是	名字
ContainerId	String	是	id
Image	String	是	镜像地址
Status	ContainerStatus	是	容器状态

ContainerStatus

容器状态

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
RestartCount	Integer	是	重启次数
State	String	是	状态
Ready	Boolean	是	是否就绪
Reason	String	是	状态原因
Message	String	是	容器的错误信息

CosPathInfo

cos的路径信息

被如下接口引用：CreateTrainingTask, DescribeModelServiceGroups。

名称	类型	必选	描述
Bucket	String	是	存储桶
Region	String	是	所在地域
Paths	Array of String	是	路径列表，目前只支持单个

CronScaleJob

定时扩缩任务

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Schedule	String	是	Cron表达式，标识任务的执行时间，精确到分钟级
Name	String	否	定时任务名
TargetReplicas	Integer	否	目标实例数
MinReplicas	Integer	否	目标min
MaxReplicas	Integer	否	目标max
ExcludeDates	Array of String	否	例外时间，Cron表达式，在对应时间内不执行任务。最多支持3条。

CrossTenantENIInfo

跨租户弹性网卡下Pod调用信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
PrimaryIP	String	否	Pod IP
Port	String	否	Pod Port

DataConfig

数据配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
MappingPath	String	否	映射路径
DataSourceUsage	String	否	存储用途 可选值为 BUILTIN_CODE, BUILTIN_DATA, BUILTIN_MODEL, USER_DATA, USER_CODE, USER_MODEL, OUTPUT, OTHER
DataSourceType	String	否	DATASET、COS、CFS、CFSTurbo、GooseFSx、HDFS、WEDATA_HDFS
DataSetSource	DataSetConfig	否	来自数据集的数据
COSSource	CosPathInfo	否	来自cos的数据
CFSSource	CFSConfig	否	来自CFS的数据
HDFSSource	HDFSConfig	否	来自HDFS的数据
GooseFSSource	GooseFS	否	配置GooseFS的数据
CFSTurboSource	CFSTurbo	否	配置TurboFS的数据
LocalDiskSource	LocalDisk	否	来自本地磁盘的信息
CBSSource	CBSConfig	否	CBS配置信息
HostPathSource	HostPath	否	主机路径信息
PublicDataSource	PublicDataSourceFS	否	公有云数据源
ReadOnly	Boolean	否	是否是只读存储

DataSetConfig

数据集结构体

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Id	String	是	数据集ID

EncodedStartCmdInfo

编码后的启动命令信息

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
StartCmdInfo	String	否	任务的启动命令，以base64格式输入，注意转换时需要完整输入{"StartCmd":"","PsStartCmd":"","WorkerStartCmd":""}

EnvVar

环境变量

被如下接口引用：CreateTrainingTask, DescribeModelServiceGroups。

名称	类型	必选	描述
Name	String	否	环境变量key
Value	String	否	环境变量value

ExecAction

执行命令探针检查行为

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Command	Array of String	否	执行命令列表

ExposeNetworkConfig

暴露网络配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
SSHConfig	SSHConfig	否	ssh配置
ExposePortConfig	ExposePortConfig	否	容器端口暴露到公网配置

ExposePortConfig

暴露端口信息

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Enable	Boolean	否	是否开启暴露容器服务端口
VpcId	String	否	vpc id
ClbId	String	否	clb id
ClbHost	String	否	clb domain

Filter

过滤器

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Name	String	否	过滤字段名称
Values	Array of String	否	过滤字段取值
Negative	Boolean	否	是否开启反向查询
Fuzzy	Boolean	否	是否开启模糊匹配

GatewayConfig

描述网关相关配置

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
GatewayType	String	否	网关类型
SchedulingAlgorithm	String	否	网关调度算法：轮询、一致性哈希等
HashHeaderKey	String	否	一致性哈希使用的Header字段名

GooseFS

配置GooseFS参数

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Id	String	否	goosefs实例id
Type	String	否	GooseFS类型，包括GooseFS和GooseFSx
Path	String	否	GooseFSx实例需要挂载的路径
NameSpace	String	否	GooseFS命名空间
MountOptions	String	否	客户端的挂载参数，逗号分隔的参数名

GooseFSx

GosseFSx的配置

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Id	String	否	goosefsx实例id
Path	String	否	GooseFSx实例需要挂载的路径

GpuDetail

gpu 详情

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Name	String	否	GPU 显卡类型；枚举值: V100 A100 T4
Value	Integer	否	GPU 显卡数；单位为1/100卡，比如100代表1卡

HDFSConfig

HDFS的参数配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Id	String	是	集群实例ID,实例ID形如: emr-xxxxxxxx
Path	String	是	路径

HTTPGetAction

http get 行为

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Path	String	否	http 路径
Port	Integer	否	调用端口

HealthProbe

健康探针

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
LivenessProbe	Probe	否	存活探针
ReadinessProbe	Probe	否	就绪探针
StartupProbe	Probe	否	启动探针

HorizontalPodAutoscaler

hpa的描述

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
MinReplicas	Integer	是	最小实例数
MaxReplicas	Integer	是	最大实例数
HpaMetrics	Array of Option	是	支持： "gpu-util": GPU利用率。范围{10, 100} "cpu-util": CPU利用率。范围{10, 100} "memory-util": 内存利用率。范围{10, 100} "service-qps": 单个实例QPS值。范围{1, 5000} "concurrency-util":单个实例请求数量值。范围{1,100000}
ScaleUpStabilizationWindowSeconds	Integer	否	扩容观察期，单位秒
ScaleDownStabilizationWindowSeconds	Integer	否	缩容观察期，单位秒

HostPath

主机路径挂载配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Path	String	否	需要挂载的主机路径

ImageInfo

镜像描述信息

被如下接口引用：CreateTrainingTask, DescribeModelServiceGroups。

名称	类型	必选	描述
ImageType	String	是	镜像类型：TCR为腾讯云TCR镜像; CCR为腾讯云TCR个人版镜像，PreSet为平台预置镜像，CUSTOM为第三方自定义镜像
ImageUrl	String	是	镜像地址
RegistryRegion	String	否	TCR镜像对应的地域
RegistryId	String	否	TCR镜像对应的实例id
AllowSaveAllContent	Boolean	否	是否允许导出全部内容
ImageName	String	否	镜像名称
SupportDataPipeline	Boolean	否	是否支持数据构建
ImageSecret	ImageSecret	否	镜像仓库用户名密码信息(仅当ImageType为CUSTOM第三方镜像的时候需要)

ImageSecret

自定义镜像仓库凭据

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
KeyId	String	否	用于加密密码的KMS公钥ID
Username	String	否	用户名
Password	String	否	密码,base64编码； 当keyId不为空时，密码是加密后的
SecretId	String	否	用户凭据ID

InferCodeInfo

推理代码的信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
CosPathInfo	CosPathInfo	是	推理代码所在的cos详情

LocalDisk

本地磁盘信息

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
InstanceId	String	是	节点ID
LocalPath	String	否	本地路径

LogConfig

日志配置

被如下接口引用：CreateTrainingTask, DescribeModelServiceGroups。

名称	类型	必选	描述
LogsetId	String	是	日志需要投递到cls的日志集
TopicId	String	是	日志需要投递到cls的主题

ModelInfo

模型描述信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
ModelVersionId	String	是	模型版本id, DescribeTrainingModelVersion查询模型接口时的id 自动学习类型的模型填写自动学习的任务id
ModelId	String	否	模型id
ModelName	String	否	模型名
ModelVersion	String	否	模型版本
ModelSource	String	否	模型来源
CosPathInfo	CosPathInfo	否	cos路径信息
GooseFSx	GooseFSx	否	GooseFSx的配置，ModelSource为GooseFSx时有效
AlgorithmFramework	String	否	模型对应的算法框架，预留
ModelType	String	否	默认为 NORMAL, 已加速模型: ACCELERATE, 自动学习模型 AUTO_ML
ModelFormat	String	否	模型格式
IsPrivateModel	Boolean	否	是否为私有化大模型
ModelCategory	String	否	模型的类别 多模态MultiModal, 文本大模型 LLM
PublicDataSource	PublicDataSourceFS	否	数据源的配置

NumOrPercent

用于表示百分比或数量

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Type	String	否	Num,Percent ,分别表示数量和百分比，默认为 Num
Value	Integer	否	数值

Option

键值对

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Name	String	是	指标名
Value	Integer	是	指标值

Pod

Pod信息展示

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Name	String	否	pod名
Uid	String	否	pod的唯一id
ChargeType	String	否	服务付费模式
Phase	String	否	pod的状态
IP	String	否	pod的IP
CreateTime	String	否	pod的创建时间
ContainerInfos	Array of Container	否	容器列表
CrossTenantENIInfo	CrossTenantENIInfo	否	容器调用信息
Status	String	否	实例的状态信息
StartScheduleTime	String	否	实例的开始调度时间
Message	String	否	实例状态的补充信息
NodeIP	String	否	当前实例所在的节点 IP
NodeId	String	否	当前实例所在节点id
ResourceGroupId	String	否	当时实例所属资源组 id
ResourceGroupName	String	否	资源组名称
ResourceInfo	ResourceInfo	否	实例的资源占用信息

PodSSHInfo

SSH pod访问信息

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Host	String	否	pod访问ip
Port	Integer	否	pod ssh访问端口
LoginCommand	String	否	ssh访问命令

Probe

探针结构信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
ProbeAction	ProbeAction	否	探针行为
InitialDelaySeconds	Integer	否	等待服务启动的延迟
PeriodSeconds	Integer	否	轮询检查时间间隔
TimeoutSeconds	Integer	否	检查超时时长
FailureThreshold	Integer	否	检测失败认定次数
SuccessThreshold	Integer	否	检测成功认定次数，就绪默认 3，存活/启动默认 1

ProbeAction

探针行为

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
HTTPGet	HTTPGetAction	否	http get 行为
Exec	ExecAction	否	执行命令检查 行为
TCPSocket	TCPSocketAction	否	tcp socket 检查行为
ActionType	String	否	探针类型，默认 HTTPGet，可选值：HTTPGet、Exec、TCPSocket

PublicDataSourceFS

公有云数据源结构

被如下接口引用：CreateTrainingTask, DescribeModelServiceGroups。

名称	类型	必选	描述
DataSourceId	String	否	数据源id
SubPath	String	否	相对数据源子路径

RDMAConfig

RDMA配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Enable	Boolean	否	是否开启RDMA

ResourceConfigInfo

资源配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Role	String	是	角色，eg：PS、WORKER、DRIVER、EXECUTOR
Cpu	Integer	否	cpu核数，使用资源组时需配置。单位：1/1000，即1000=1核
Memory	Integer	否	内存，使用资源组时需配置。单位为MB
GpuType	String	否	gpu卡类型，使用资源组时需配置
Gpu	Integer	否	gpu卡数，使用资源组时需配置。单位：1/100，即100=1卡
InstanceType	String	否	算力规格ID 计算规格 (for后付费)，可选值如下： TI.S.LARGE.POST: 4C8G TI.S.2XLARGE16.POST: 8C16G TI.S.2XLARGE32.POST: 8C32G TI.S.4XLARGE32.POST: 16C32G TI.S.4XLARGE64.POST: 16C64G TI.S.6XLARGE48.POST: 24C48G TI.S.6XLARGE96.POST: 24C96G TI.S.8XLARGE64.POST: 32C64G TI.S.8XLARGE128.POST : 32C128G TI.GN10.2XLARGE40.POST: 8C40G V1001 TI.GN10.5XLARGE80.POST: 18C80G V1002 TI.GN10.10XLARGE160.POST : 32C160G V1004 TI.GN10.20XLARGE320.POST : 72C320G V1008 TI.GN7.8XLARGE128.POST: 32C128G T41 TI.GN7.10XLARGE160.POST: 40C160G T42 TI.GN7.20XLARGE320.POST: 80C32
InstanceNum	Integer	否	计算节点数
InstanceTypeAlias	String	否	算力规格名称 计算规格 (for后付费)，可选值如下： 4C8G 8C16G 8C32G 16C32G 6C64G 24C48G 24C96G 32C64G 32C128G 8C40G V1001 8C80G V1002 32C160G V1004 72C320G V1008 32C128G T41 40C160G T42 80C32
RDMAConfig	RDMAConfig	否	RDMA配置

ResourceGroupInfo

在线服务中服务的资源组简略信息结构

被如下接口引用：DescribeModelServiceGroups。

名称	类型	描述
ResourceGroupId	String	资源组 id
ResourceGroupName	String	资源组名称

ResourceInfo

描述资源信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Cpu	Integer	是	处理器资源, 单位为1/1000核
Memory	Integer	是	内存资源, 单位为1M
Gpu	Integer	否	Gpu卡个数资源, 单位为0.01单位的GpuType. Gpu=100表示使用了“一张”gpu卡, 但此处的“一张”卡有可能是虚拟化后的1/4卡, 也有可能是整张卡. 取决于实例的机型 例1 实例的机型带有1张虚拟gpu卡, 每张虚拟gpu卡对应1/4张实际T4卡, 则此时 GpuType=T4, Gpu=100, RealGpu=25. 例2 实例的机型带有4张gpu整卡, 每张卡对应1张实际T4卡, 则 此时 GpuType=T4, Gpu=400, RealGpu=400.
GpuType	String	否	Gpu卡型号 T4或者V100。仅展示当前 GPU 卡型号，若存在多类型同时使用，则参考 RealGpuDetailSet 的值。
RealGpu	Integer	否	创建或更新时无需填写，仅展示需要关注 后付费非整卡实例对应的实际的Gpu卡资源, 表示gpu资源对应实际的gpu卡个数. RealGpu=100表示实际使用了一张gpu卡, 对应实际的实例机型, 有可能代表带有1/4卡的实例4个, 或者带有1/2卡的实例2个, 或者带有1卡的实力1个.
RealGpuDetailSet	Array of GpuDetail	否	创建或更新时无需填写，仅展示需要关注。详细的GPU使用信息。
EnableRDMA	Boolean	否	是否开启rdma
RootDisk	Integer	否	root disk size(GB)
DataDisk	Integer	否	data disk size(GB)

ResourceSupplyAttribute

资源供应属性

被如下接口引用：CreateTrainingTask, DescribeModelServiceGroups。

名称	类型	必选	描述
SupplyType	String	否	资源供应类型。TIDE:潮汐;SPOT:竞价;空:常规按量后付费
ClusterType	String	否	集群类型 枚举值： DEFAULT： 默认集群 THIRD： 第三方集群 默认值：DEFAULT

RollingUpdate

滚动更新策略

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
MaxUnavailable	NumOrPercent	否	滚动更新的最大不可用
MaxSurge	NumOrPercent	否	滚动更新的最大新增实例

SSHConfig

notebook ssh端口配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
Enable	Boolean	否	是否开启ssh
PublicKey	String	否	公钥信息
Port	Integer	否	端口号
LoginCommand	String	否	登录命令
IsAddressChanged	Boolean	否	登录地址是否改变
PodSSHInfo	PodSSHInfo	否	POD访问信息

ScheduledAction

定时的事务和行为

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
ScheduleStop	Boolean	否	是否要定时停止服务，true or false。true 则 ScheduleStopTime 必填， false 则 ScheduleStopTime 不生效
ScheduleStopTime	String	否	要执行定时停止的时间，格式：“2022-01-26T19:46:22+08:00”

SchedulingPolicy

服务的调度策略配置

被如下接口引用：DescribeModelServiceGroups。

名称	类型	描述
CrossResourceGroupScheduling	Boolean	是否启用了跨资源组调度开关

Service

描述在线服务

被如下接口引用：DescribeModelServiceGroups。

名称	类型	描述
ServiceGroupId	String	服务组id
ServiceId	String	服务id
ServiceGroupName	String	服务组名
ServiceDescription	String	服务描述
ServiceInfo	ServiceInfo	服务的详细信息
ClusterId	String	集群id
Region	String	地域
Namespace	String	命名空间
ChargeType	String	付费类型
ResourceGroupId	String	包年包月服务的资源组id，按量计费的服务为空
ResourceGroupName	String	包年包月服务对应的资源组名字
Tags	Array of Tag	服务的标签
IngressName	String	服务所在的 ingress 的 name
CreatedBy	String	创建者
CreateTime	String	创建时间
UpdateTime	String	更新时间
Uin	String	主账号
SubUin	String	子账号
AppId	Integer	app_id
BusinessStatus	String	服务的业务状态 CREATING 创建中 CREATE_FAILED 创建失败 CREATE_SUCCEED 创建成功 ARREARS_STOP 因欠费停止 WHITELIST_STOP 白名单额度不足 RELEASE_FAILED 资源释放失败 WHITELIST_RELEASE_FAILED 白名单资源释放失败 TIMEOUT_EXCEPTION 创建超时异常 BILLING 计费中 WHITELIST_USING 白名单试用中
CreateFailedReason	String	服务创建失败的原因，创建成功后该字段为默认值 CREATE_SUCCEED
Status	String	服务状态 CREATING 创建中 CREATE_FAILED 创建失败 TIMEOUT_EXCEPTION 创建超时异常 Normal 正常运行中 Stopped 已停止 Stopping 停止中 Abnormal 异常 Pending 启动中 Waiting 就绪中
BillingInfo	String	费用信息
Weight	Integer	模型权重
CreateSource	String	服务的创建来源 AUTO_ML: 来自自动学习的一键发布 DEFAULT: 其他来源
Version	String	版本号
LatestVersion	String	服务组下服务的最高版本号
ResourceGroupSWType	String	资源组类别 托管 NORMAL，纳管 SW
ArchiveStatus	String	服务的归档状态 Waiting 等待归档中，Archived 已归档
DeployType	String	服务的部署类型 [STANDARD 标准部署，DIST 分布式多机部署] 默认STANDARD
InstancePerReplicas	String	单副本下的实例数，仅在部署类型为DIST时生效，默认1
MonitorSource	String	用于监控查询的Source 枚举值，部分情况下与CreateSource不同，通过该字段兼容
SubUinName	String	服务创建者的子账号名称
SchedulingPolicy	SchedulingPolicy	服务的调度策略
ExternalResourceGroups	Array of ResourceGroupInfo	外部的资源组信息，表示借调了哪些资源组的资源
ProjectId	String	服务所属的项目 id,0表示默认空间
Changer	String	变更服务的子账户
ChangerName	String	变更服务的子账户名称
ResourceSupplyAttribute	ResourceSupplyAttribute	资源供应属性(潮汐/竞价等供应模式);空表示常规按量后付费

ServiceEIP

服务共享弹性网卡设置

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
EnableEIP	Boolean	否	是否开启TIONE内网到外部的访问
VpcId	String	否	用户VpcId
SubnetId	String	否	用户subnetId

ServiceGroup

在线服务一个服务组的信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	描述
ServiceGroupId	String	服务组id
ServiceGroupName	String	服务组名
CreatedBy	String	创建者
CreateTime	String	创建时间
UpdateTime	String	更新时间
Uin	String	主账号
ServiceCount	Integer	服务组下服务总数
RunningServiceCount	Integer	服务组下在运行的服务数量
Services	Array of Service	服务描述
Status	String	服务组状态，与服务一致 CREATING 创建中 CREATE_FAILED 创建失败 Normal 正常运行中 Stopped 已停止 Stopping 停止中 Abnormal 异常 Pending 启动中 Waiting 就绪中
Tags	Array of Tag	服务组标签
LatestVersion	String	服务组下最高版本
BusinessStatus	String	服务的业务状态 CREATING 创建中 CREATE_FAILED 创建失败 ARREARS_STOP 因欠费被强制停止 BILLING 计费中 WHITELIST_USING 白名单试用中 WHITELIST_STOP 白名单额度不足
BillingInfo	String	服务的计费信息
CreateSource	String	服务的创建来源
WeightUpdateStatus	String	服务组的权重更新状态 UPDATING 更新中 UPDATED 更新成功 UPDATE_FAILED 更新失败
ReplicasCount	Integer	服务组下运行的pod数量
AvailableReplicasCount	Integer	服务组下期望的pod数
SubUin	String	服务组的subuin
AppId	Integer	服务组的app_id
AuthorizationEnable	Boolean	是否开启鉴权
AuthTokens	Array of AuthToken	限流鉴权 token 列表
MonitorSource	String	用于监控的创建来源字段
SubUinName	String	子用户的 nickname
GatewayLogConfig	LogConfig	网关日志投递相关配置
GatewayConfig	GatewayConfig	网关路由相关配置
Changer	String	变更服务的子账户
ChangerName	String	变更服务的子账户名称

ServiceInfo

推理服务在集群中的信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Replicas	Integer	是	期望运行的Pod数量，停止状态是0 不同计费模式和调节模式下对应关系如下 PREPAID 和 POSTPAID_BY_HOUR: 手动调节模式下对应 实例数量 自动调节模式下对应 基于时间的默认策略的实例数量 HYBRID_PAID: 后付费实例手动调节模式下对应 实例数量 后付费实例自动调节模式下对应 时间策略的默认策略的实例数量
ImageInfo	ImageInfo	是	镜像信息
Env	Array of EnvVar	是	环境变量
Resources	ResourceInfo	是	资源信息
InstanceType	String	是	后付费实例对应的机型规格
ModelInfo	ModelInfo	是	模型信息
LogEnable	Boolean	是	是否启用日志
LogConfig	LogConfig	是	日志配置
AuthorizationEnable	Boolean	是	是否开启鉴权
HorizontalPodAutoscaler	HorizontalPodAutoscaler	是	hpa配置
Status	WorkloadStatus	是	服务的状态描述
Weight	Integer	是	权重
ResourceTotal	ResourceInfo	是	资源总量
OldReplicas	Integer	是	历史实例数
HybridBillingPrepaidReplicas	Integer	是	计费模式[HYBRID_PAID]时生效, 用于标识混合计费模式下的预付费实例数, 若不填则默认为1
OldHybridBillingPrepaidReplicas	Integer	是	历史 HYBRID_PAID 时的实例数，用户恢复服务
ModelHotUpdateEnable	Boolean	是	是否开启模型的热更新。默认不开启
InstanceAlias	String	否	服务的规格别名
ScaleMode	String	否	实例数量调节方式,默认为手动 支持：自动 - "AUTO", 手动 - "MANUAL"
CronScaleJobs	Array of CronScaleJob	否	定时伸缩任务
ScaleStrategy	String	否	定时伸缩策略
ScheduledAction	ScheduledAction	否	定时停止的配置
PodInfos	Array of Pod	否	Pod列表信息
ServiceLimit	ServiceLimit	否	服务限速限流相关配置
ModelTurboEnable	Boolean	否	是否开启模型的加速, 仅对StableDiffusion(动态加速)格式的模型有效。
VolumeMount	VolumeMount	否	挂载
InferCodeInfo	InferCodeInfo	否	推理代码信息
Command	String	否	服务的启动命令
ServiceEIP	ServiceEIP	否	开启TIONE内网访问外部设置
ServicePort	Integer	否	服务端口，默认为8501
TerminationGracePeriodSeconds	Integer	否	服务的优雅退出时限。单位为秒，默认值为30，最小为1
PreStopCommand	Array of String	否	服务实例停止前执行的命令，执行完毕或执行时间超过优雅退出时限后实例结束
GrpcEnable	Boolean	否	是否启用grpc端口
HealthProbe	HealthProbe	否	健康探针
RollingUpdate	RollingUpdate	否	滚动更新配置
InstancePerReplicas	Integer	否	单副本下的实例数，仅在部署类型为DIST、ROLE时生效，默认1
VolumeMounts	Array of VolumeMount	否	批量数据盘挂载配置
SchedulingStrategy	String	否	调度策略 [binpack] 优先占满整机，尽量避免碎卡（默认值）[spread] 优先分散在各个节点，确保服务高可用
NodeCount	Integer	否	服务实际运行的节点数
InferTemplateId	String	否	推理模板Id 参数格式：推理模板 ID

ServiceLimit

服务的限流限速等配置

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
EnableInstanceRpsLimit	Boolean	否	是否开启实例层面限流限速，true or false。true 则 InstanceRpsLimit 必填， false 则 InstanceRpsLimit 不生效
InstanceRpsLimit	Integer	否	每个服务实例的 request per second 限速, 0 为不限流
EnableInstanceReqLimit	Boolean	否	是否开启单实例最大并发数限制，true or false。true 则 InstanceReqLimit 必填， false 则 InstanceReqLimit 不生效
InstanceReqLimit	Integer	否	每个服务实例的最大并发

StartCmdInfo

启动命令信息

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
StartCmd	String	否	启动命令
PsStartCmd	String	否	ps启动命令
WorkerStartCmd	String	否	worker启动命令

StatefulSetCondition

实例状况

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Message	String	是	信息
Reason	String	是	原因
Status	String	是	Status of the condition, one of True, False, Unknown.
Type	String	是	类型
LastTransitionTime	String	是	上次更新的时间
LastUpdateTime	String	否	上次更新的时间

TCPSocketAction

tcp socket 健康探针检查行为

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Port	Integer	否	调用端口

Tag

描述腾讯云标签

被如下接口引用：CreateTrainingTask, DescribeModelServiceGroups。

名称	类型	必选	描述
TagKey	String	是	标签键
TagValue	String	是	标签值

TagFilter

Tag过滤参数

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
TagKey	String	否	标签键
TagValues	Array of String	否	多个标签值

TrainToolConfig

训练诊断工具配置

被如下接口引用：CreateTrainingTask。

名称	类型	必选	描述
EnableHangMonitor	Boolean	否	是否开启 Hang 检测 默认值：false
HangMonitorNodes	Array of String	否	Hang 检测的节点列表
LogHangTimeoutInMinute	Integer	否	Hang 超时时间 取值范围：[1, 14400] 单位：分

VolumeMount

外部挂载信息

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
CFSConfig	CFSConfig	否	cfs的配置信息
VolumeSourceType	String	否	挂载源类型，CFS、COS、PUBLIC_DATA_SOURCE，默认为CFS
MountPath	String	否	自定义容器内挂载路径
PublicDataSource	PublicDataSourceFS	否	挂载数据源时的配置信息

WorkloadStatus

工作负载的状态

被如下接口引用：DescribeModelServiceGroups。

名称	类型	必选	描述
Replicas	Integer	是	当前实例数
UpdatedReplicas	Integer	是	更新的实例数
ReadyReplicas	Integer	是	就绪的实例数
AvailableReplicas	Integer	是	可用的实例数
UnavailableReplicas	Integer	是	不可用的实例数
Status	String	是	Normal 正常运行中 Abnormal 服务异常，例如容器启动失败等 Waiting 服务等待中，例如容器下载镜像过程等 Stopped 已停止 Pending 启动中 Stopping 停止中
Conditions	Array of StatefulSetCondition	否	工作负载历史的状况信息
Reason	String	否	状态异常时，展示原因