将 Huggingface 模型转换为 CoreML 的脚本和信息
拥抱脸到 CoreML
此存储库包含将 Huggingface 模型转换为 CoreML 的脚本和信息。
信息
- 要转换的模型:“facebook/blenderbot-400M-distill”使用示例通过在命令行中执行来尝试
$ python3 try.py
链接
- 抱脸
- 抱脸变形金刚
- HuggingFace 核心 ML 模型
- 在 Apple Silicon 上使用 Stable Diffusion 和 Core ML
- 将 Hugging Face 模型导出到 Core ML 和 TensorFlow Lite
- Transformers 的 Swift Core ML 实现:GPT-2、DistilGPT-2、BERT、DistilBERT,更多即将推出!
- 弄清楚 Transformer 模型的形状 将其转换为 coreML 模型
- Core ML 稳定扩散
- 在 Apple 神经引擎上部署变形金刚
- Swift 应用演示 Core ML Stable Diffusion
- Apple Core ML – BenderbotTokenizer 文档
- BenderbotTokenizer 实现
初始步骤
- 克隆回购:
$ git clone https://github.com/madcato/huggingface-coreml.git
- 执行聊天机器人下载模型,
$ python3 try.py
- 安装 huggingface exporters 子模块,
$ git submodule init && git submodule update
$ cd exporters && pip3 install -e . && cd ..
python3 -m exporters.coreml --model=facebook/blenderbot-400M-distill exported/ --feature=text2text-generation
最后一步将在文件夹mlpackage
中创建一个文件exported
。这个文件可以用 Xcode 打开,模型可以在 playground 或项目中进行测试。
出口商特点
- '特征提取',
- '过去的特征提取',
- '填充掩码',
- '图像分类',
- '蒙面人',
- '多项选择',
- '下一句预测',
- '物体检测',
- “问答”,
- '语义分割',
- '文本分类',
- '文本生成',
- '过去的文本生成',
- 'text2text-generation',
- '令牌分类',
- '序列分类',
- '因果-lm',
- '因果关系 lm-with-past',
- 'seq2seq-lm',
- 'seq2seq-lm-with-past',
- 'speech2seq-lm',
- 'speech2seq-lm-with-past',
- '蒙面 lm',
- 'vision2seq-lm',
- '默认',
- '默认与过去',
- '自动语音识别',
- 'CTC'