tencent cloud

腾讯云 TI 平台

产品简介
产品概述
产品定价
客户价值
应用场景
购买指南
计费概述
购买方式
续费说明
欠费说明
安全合规
数据安全保护机制
监控、审计与日志
安全合规资质
快速入门
平台使用准备
操作指南
大模型广场
任务式建模
开发机
模型管理
模型评测
在线服务
资源组管理
数据源管理
Tikit
GPU 虚拟化
实践教程
LLM 部署及推理
LLM 训练及评测
内置训练镜像列表
自定义训练镜像规范
Angel 训练加速功能介绍
基于标签实现子用户间资源隔离
相关协议
TI Platform 隐私协议
TI Platform 数据处理和安全协议
开源软件信息
联系我们

模型优化

PDF
聚焦模式
字号
最后更新时间: 2026-02-04 18:33:38
def create_model_accelerate_task(self,
model_acc_task_name,
model_source,
model_format,
model_name,
model_version,
model_input_path,
model_output_path,
tensor_infos,
acc_engine_version = None,
optimization_level = None,
gpu_type = None,
hyper_parameter = None,
tags = None,
model_signature = None):
"""创建模型加速任务

:param model_acc_task_name: 任务名称
:type model_acc_task_name: str
:param model_source: 模型来源(JOB/COS)
:type model_source: str
:param model_format: 模型格式(TORCH_SCRIPT/DETECTRON2/SAVED_MODEL/FROZEN_GRAPH/MMDETECTION/ONNX/HUGGING_FACE)
:type model_format: str
:param model_name: 模型名称
:type model_name: str
:param model_version: 模型版本
:type model_version: str
:param model_input_path: 模型输入cos地址
:type model_input_path: :class:`tikit.models.CosPathInfo`
:param model_output_path: 优化模型输出cos地址
:type model_output_path: :class:`tikit.models.CosPathInfo`
:param acc_engine_version: 优化引擎版本,不传则默认使用最新版本
:type acc_engine_version: str
:param tensor_infos: tensor信息
:type tensor_infos: list of str
:param optimization_level: 优化级别(NO_LOSS/FP16),默认FP16
:type optimization_level: str
:param gpu_type: GPU卡类型(T4/V100),默认T4
:type gpu_type: str
:param hyper_parameter: 专业参数设置
:type hyper_parameter: :class:`tikit.tencentcloud.tione.v20211111.models.HyperParameter`
:param tags: 标签
:type tags: list of :class:`tikit.tencentcloud.tione.v20211111.models.Tag`
:param model_signature: SAVED_MODEL保存时配置的签名
:type model_signature: str
:rtype: :class:`tikit.tencentcloud.tione.v20211111.models.CreateModelAccelerateTaskResponse`
"""

def stop_model_accelerate_task(self, model_acc_task_id):
"""停止模型加速任务

:param model_acc_task_id: 模型加速任务id
:type model_acc_task_id: str
:rtype: :class:`tikit.tencentcloud.tione.v20211111.models.StopModelAccelerateTaskResponse`
"""

def delete_model_accelerate_task(self, model_acc_task_id):
"""删除模型加速任务

:param model_acc_task_id: 模型加速任务id
:type model_acc_task_id: str
:rtype: :class:`tikit.tencentcloud.tione.v20211111.models.DeleteModelAccelerateTaskResponse`
"""

def restart_model_accelerate_task(self,
model_acc_task_id,
model_source,
model_format,
model_name,
model_version,
model_input_path,
model_output_path,
tensor_infos,
acc_engine_version = None,
optimization_level = None,
gpu_type = None,
hyper_parameter = None,
tags = None,
model_signature = None):
"""重启模型加速任务

:param model_acc_task_id: 任务id
:type model_acc_task_id: str
:param model_source: 模型来源(JOB/COS)
:type model_source: str
:param model_format: 模型格式(TORCH_SCRIPT/DETECTRON2/SAVED_MODEL/FROZEN_GRAPH/MMDETECTION/ONNX/HUGGING_FACE)
:type model_format: str
:param model_name: 模型名称
:type model_name: str
:param model_version: 模型版本
:type model_version: str
:param model_input_path: 模型输入cos地址
:type model_input_path: :class:`tikit.models.CosPathInfo`
:param model_output_path: 优化模型输出cos地址
:type model_output_path: :class:`tikit.models.CosPathInfo`
:param tensor_infos: tensor信息
:type tensor_infos: list of str
:param acc_engine_version: 优化引擎版本,不传则默认使用最新版本
:type acc_engine_version: str
:param optimization_level: 优化级别(NO_LOSS/FP16),默认FP16
:type optimization_level: str
:param gpu_type: GPU卡类型(T4/V100),默认T4
:type gpu_type: str
:param hyper_parameter: 专业参数设置
:type hyper_parameter: :class:`tikit.tencentcloud.tione.v20211111.models.HyperParameter`
:param tags: 标签
:type tags: list of :class:`tikit.tencentcloud.tione.v20211111.models.Tag`
:param model_signature: SAVED_MODEL保存时配置的签名
:type model_signature: str
:rtype: :class:`tikit.tencentcloud.tione.v20211111.models.RestartModelAccelerateTaskResponse`
"""

def describe_model_accelerate_tasks(self, filters=None, order_field=None, order=None, offset=None, limit=None,
tag_filters=None):
"""查看加速任务列表

:param filters: 过滤器
:type filters: list of Filter, 支持ModelAccTaskName/ModelSource
:param order_field: 排序字段,默认为CreateTime
:type order_field: str
:param order: 排序方式,ASC/DESC,默认为DESC
:type order: str
:param offset: 偏移量
:type offset: int
:param limit: 返回结果数,默认为10
:type limit: int
:param tag_filters: 标签过滤
:type tag_filters: list of TagFilter
:rtype: :class:`tikit.tencentcloud.tione.v20211111.models.DescribeModelAccelerateTasksResponse`
"""

def describe_model_accelerate_task(self, model_acc_task_id):
"""查询模型加速任务详情

:param model_acc_task_id: 模型加速任务id
:type model_acc_task_id: str
:rtype: :class:`tikit.tencentcloud.tione.v20211111.models.DescribeModelAccelerateTaskResponse`
"""

def create_optimized_model(self, model_acc_task_id, tags = None):
"""保存优化模型

:param model_acc_task_id: 模型加速任务id
:type model_acc_task_id: str
:param tags: 标签
:type tags: list of :class:`tikit.tencentcloud.tione.v20211111.models.Tag`
:rtype: :class:`tikit.tencentcloud.tione.v20211111.models.CreateOptimizedModelResponse`
"""


帮助和支持

本页内容是否解决了您的问题?

填写满意度调查问卷,共创更好文档体验。

文档反馈