通过分布式模型部分协作运行大语言模型的工具。
一个开源工具,用于协作运行像BLOOM-176B这样的超大语言模型。用户在自己的机器上加载模型的一小部分,并与其他人协作提供模型的其他部分,以进行推理或微调。
本文由Toolifies编辑团队实测整理,最后更新时间:2026年7月27日,如果信息有误欢迎联系我们更正。
我可以帮您: