phi-3安装指南:如何在 MacBook Pro 上微调 phi-3
CSS站长资源(ChinaZ.com) 4月25日 消息:博主Abhishek Thakur在博客中向大家展示了如何在 MacBook Pro 上训练/微调 Microsoft 的南何最新 phi-3模型!用户需要使用 M1或 M2mac 来执行此操作。之后将使用 AutoTrain Advanced来微调 phi-3。上微
要安装 AutoTrain Advanced,南何您可以执行以下操作:
$pipinstallautotrain-advanced注意:autotrain不安装pytorch、上微torchvision等,南何所以需要自己安装。上微您可以创建 conda 环境并安装这些依赖项:
$condacreate-nautotrainpython=3.10完成后,南何您可以在 Mac 计算机上使用 AutoTrain CLI 或 UI!我们将看看两者!
AutoTrain 不仅提供 LLM 微调,上微还提供许多其他任务,南何例如文本分类、上微图像分类、南何dreambooth lora 等。上微但在这篇博文中,南何我们正在研究 LLM 微调。上微
您可以通过执行以下操作来查看可以调整 llm 微调的南何所有参数
$autotrainllm--help下一步是抓取数据。在这篇博客中,我将向您展示如何在 MacBook 上通过 SFT 训练和 ORPO 调整(DPO 的大而小的兄弟)进行训练。
- 对于 SFT 训练,我们需要一个具有单个文本列的数据集。我们可以使用timdettmers/openassistant-guanaco或 alpaca 之类的数据集。注意:这些数据集已经格式化为带有系统提示、用户指令和辅助消息的文本。如果它们的格式如下:
您可以使用 AutoTrain 的 chat-template 参数。我们将在本文后面看到它,但用于 ORPO 培训。因此,我们将介绍使用预格式化数据集进行 SFT 训练,并使用聊天模板进行 ORPO 训练。
- 对于 ORPO 训练,您可以使用argilla/distilabel-capybara-dpo-7k-binarized等数据集。该数据集有很多列,但我们只对chosen&列感兴趣rejected。
使用 AutoTrain,仅创建或查找数据集将是最耗时的部分。现在,当我们拥有数据集时,我们可以使用以下方法进行 SFT 训练:
autotrainllm\其中 $HF_TOKEN 是您的拥抱面部写入令牌,以防您希望将经过训练的模型推送到拥抱面部中心以方便部署和共享。您可以在这里找到您的代币。
请注意,我们使用的是 lora,这就是我们有--peft参数的原因。另外,如果text您的数据集中未调用文本列,您可以添加另一个参数--text-column your_datasets_text_column。如果您想使用自己的 CSV/JSON 文件而不是拥抱面部中心数据集,您可以将其命名为 train.csv / train.jsonl 并将其放置在本地文件夹中。训练命令将略有变化:
autotrainllm\接下来,我们来进行orpo培训。对于 orpo 训练,我们更改--trainer sft为--trainer orpo.
autotrainllm\以上有4处变化。只有列映射发生了变化,训练器,当然还有数据集。另一项主要变化是--chat-template设置为 的参数的使用chatml。对于--chat-template,选项有:zephyr、chatml或tokenizer无。如果您已经像我们在 SFT 训练中那样自行正确格式化了数据,则不会使用任何内容。
现在,如果 CLI 对您来说太难了,您还可以使用 UI!这更容易,并且还允许您上传文件。
要使用用户界面:
$exportHF_TOKEN=your_huggingface_write_token然后在浏览器中访问https://127.0.0.1:10000并享受AutoTrain UI! 🚀 与上面 ORPO 训练具有相同参数的屏幕截图如下所示:
如果您无法在模型下拉列表中找到 phi3,您可以使用以下 URL:https://127.0.0.1:7860/?custom_models=microsoft/Phi-3-mini-4k-instruct。注意:我已添加 phi-3作为自定义模型。您可以对 Hub 中的任何其他兼容型号执行相同的操作。 ;)
SFT 和 ORPO 训练均在 M2Max MacBook Pro 上成功进行了测试。
详细文档点此查看:https://huggingface.co/docs/autotrain/index
(责任编辑:业界)
- ·Shopify发布“Magic”图像编辑器等AI增强功能,助力商家智能经营
- ·专访荣耀赵明:荣耀做小折应该是“水到渠成之作”
- ·全球量产风阻低过小米SU7 极狐阿尔法S5上市:17.68万起
- ·Redmi K70 618卖疯了!卢伟冰:大家更加期待K70版了吧
- ·泰国小镇被3500只猴子占据 昔日繁荣已荡然无存
- ·工资到账:小米汽车员工实发工资曝光 年入百万不是梦
- ·郭明錤:骁龙8 Gen4涨价30%是开始!3nm制约下苹果、安卓手机都要涨价
- ·小米MIX Fold 4通过3C认证:支持天通卫星通信功能
- ·你的城市有这素质吗:杭州斑马线前礼让行人感动外地游客 特别好的城市
- ·不宜久穿!洞洞鞋鼻祖一年卖了200亿