添加链接
link管理
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接

2023年11月28日苹果创建了开源项目 MLX :适用于 macOS 和 Apple Silicon 的高效灵活的机器学习框架,这可能是苹果在开源AI上最大的举动!2023年12月14日,MLX正式发布了第一个版本,在很短的时间内,MLX取得了非常快的进展。截止到2024年1月16日,MLX项目在Github上已经有了11.6K星,216次代码提交,版本号也进化到了0.0.9。

我希望能够在Apple Silicon Mac上微调自己的大语言模型,作为这个领域的初学者,我记录下我学习的每一个步骤,希望对您也有所帮助。

  1. 选择一个大语言模型
  2. 准备数据集
  3. 使用MLX微调LLM
  4. 由于MLX进展非常快,也许这些内容很快就会过时。比如最初的0.0.5版本需要我们自己下载转换模型,而从0.0.7版本开始,就可以直接使用 huggingface 上的模型;最初的示例代码可以微调LLM,而从0.0.9版本开始,增加了如何把微调后的权重合并到原始模型并发布到 huggingface 上。

    我希望我的笔记对您有所帮助! 如果您有任何反馈、问题或建议,请将其放在 Twitter/X 线程 上。