当前位置: 首页 >> 资讯 > > 正文

旷视科技发布轻量级LLM模型推理框架InferLLM

2023-07-28 15:46:55来源:鞭牛士


(资料图片仅供参考)

鞭牛士 7月28日消息,旷视科技发布全新轻量级LLM模型推理框架InferLLM,提供一个比llama.cpp更简单更容易上手的本地部署框架,助力大模型实现落地。

标签: