triton系列:注意事项
从 21.08 开始,您可以在 Python 模型中实现 BLS。一组新的实用函数允许您在执行 Python 模型时对 Triton 提供的其他模型执行推理请求。请注意,BLS 只能在函数内部使用execute,不支持initialize或finalize方法。
从 21.08 开始,您可以在 Python 模型中实现 BLS。一组新的实用函数允许您在执行 Python 模型时对 Triton 提供的其他模型执行推理请求。请注意,BLS 只能在函数内部使用execute,不支持initialize或finalize方法。