ChatLM-mini-Chinese为中文对话小模型,模型参数只有0.2B(算共享权重约210M),可以在最低4GB显存的机器进行预训练(batch_size=1,fp16或者 bf16),float16加载、推理最少只需要512MB显存。
batch_size=1
fp16
bf16
float16
评论删除后,数据将无法恢复
暂无更多评论