Skip to content

模型分块

Jump to bottom
Li Yudong (李煜东) edited this page May 24, 2023 · 2 revisions

使用转换脚本将模型分块

示例：

python3 scripts/convert_model_into_blocks.py \
        --input_model_path chatflow_13b.bin \
        --output_model_path models/chatflow_13b/
        --block_size 10

--input_model_path 输入模型路径 --output_model_path 输出模型目录 --block_size 分块大小

使用 TencentPretrain 加载转换后的文件时，将 pretrained_model_path 改为以上输出的目录即可

Clone this wiki locally