新闻动态
- 发布日期:2025-04-12 16:44 点击次数:89
大家好,公众号停更了几个月了,这几个月一直有计划写文章的,现在草稿里还躺着几篇未完结的文章,待后面有时间了完善以后再发出。
要说这个春节最火的非DeepSeek莫属了,各种朋友圈、公众号全是有关deepseek的消息。我自己也试了官方的网页版本和APP,但重试率太高,没办法官方的计算资源抗不住大家伙的热情。 今天给大家介绍一个工具,可以零代码训练出自己的任意大模型,也支持了deepseek(我本地ollama部署了一个deepseek-r1:14b)进行了小测试;它就是Kiln AI.项目地址
图片
图片
官方仓库地址:https://github.com/Kiln-AI/Kiln
文档地址:https://docs.getkiln.ai/docs/quickstart (目前仅英文)
软件特点
图片
图片
🚀 直观的桌面应用程序:适用于 Windows、MacOS 和 Linux 的一键式应用程序。真正直观的设计。
🎛️ 微调:Llama、GPT4o 和 Mixtral 的零代码微调。自动无服务器部署模型。
🤖 合成数据生成:使用我们的交互式可视化工具生成训练数据。
🧠 推理模型:训练或提炼您自己的自定义推理模型。
🤝 团队协作:基于 Git 的 AI 数据集版本控制。直观的用户界面让您可以轻松地与 QA、PM 和主题专家就结构化数据(示例、提示、评分、反馈、问题等)进行协作。
📝 提示词生成:自动从您的数据中生成提示,包括思路链、小样本和多样本等。
🌐 广泛的模型和提供商支持:通过 Ollama、OpenAI、OpenRouter、Fireworks、Groq、AWS 或任何与 OpenAI 兼容的 API 使用任何模型。
🧑💻 开源库和 API:我们的 Python 库和 OpenAPI REST API 是 MIT 开源的。
🔒 隐私优先:我们看不到您的数据。自带 API 密钥或使用 Ollama 在本地运行。
🗃️ 结构化数据:构建使用 JSON 的 AI 任务。
💰 免费:我们的应用程序是免费的,我们的库是开源的。
(以上内容基于官方文档google翻译)
使用体验
图片
图片
使用起来也很简单,官方有支持各平台的安装包,只要下载运行就好,会自动打开浏览器并访问 http://localhost:8757/
根据提示一步步往后走就行了
图片
如果ollama不在本地机器上,先点一次“Connect”后会弹出配置ollama配置.
使用中有些框的数据也不需要自己填写,如下图
图片
只要点击'Create an example' 就自动把表单填上了。
图片
创建任务这里也是,对新手来说相当友好了;不了解每个参数意义的,先自动填充跑一遍看看流程,也不需要自己胡乱填写。
任务主要界面
图片
成本
图片
图片
由于我是在一个只有12G的显卡上跑的测试(就是慢.....),ollama部署不需要其它额外成本,官方文档上有一个18分钟(不包括等待训练和数据生成的时间)微调9个大模型的说明,里面有提到成本。
生成训练数据:OpenRouter 上 2.06 美元在 Fireworks 上微调 5 个模型(Llama 3.2 1b、Llama 3.2 3b、Llama 3.1 8b、Llama 3.1 70b 和 Mixtral 8x7b):1.47 美元在 OpenAI 上微调 GPT 4o-Mini:2.03 美元在 OpenAI 上微调 GPT 4o:16.91 美元在 Unsloth 上对 Llama 3.2 1b 和 3b 进行微调:0.00 美元(免费 Google Colab T4)如果没有 GPT-4o,整个项目的成本将不到 6 美元!
同时,我们最快的微调(Llama 3.2 1b)比我们在合成数据生成期间使用的模型快 10 倍,便宜 150 倍(来源:OpenRouter 性能统计和价格)。
文档连接:https://docs.getkiln.ai/docs/fine-tuning-guide
结束语
图片
图片
这只是一个小的测试,后面会结合业务场景做深入的测试,看是否能训练一个专用的模型为自己所用。
大家有这方面经验或者有其它更好工具的可以互相交流!!!
图片
谢谢 关注、转发、收藏 本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请点击举报。