分享好友 最新动态首页 最新动态分类 切换频道
Datawhale AI冬令营
2024-12-27 04:10

重生之不写代码得到定制小助手

第一次参加DataWhale的开源AI课程,迫不及待分享自己的第一篇note,如遇错误/不完善的点欢迎大家批评指正

Datawhale AI冬令营


步入正题,今天我们的任务是,定制基于《甄嬛传》剧本中的甄嬛台词,打造一个模仿甄嬛语气、风格的专属聊天模型—— Chat-嬛嬛。

STEP 1

进入讯飞形成MaaS平台注册账号

STEP 2

下载微调数据集

地址 : https://github.com/datawhalechina/self-llm/blob/master/dataset/huanhuan.json

Q:为什么会用到数据集

A:我们所谓的微调模型实际上是因为原模型在我们特定任务上变现的不够好,所以我们需要给模型找一份学习资料,通过学习这份学习资料,模型能够更好的学习到其中的知识,这里的学习资料就是训练数据,上文提到的微调数据集。由此我们也可以知道,模型最后能够学的好还是不好,一方面与模型本身有关外,还与数据质量有关。就好比让人做一些可口的饭菜,不仅与这个人的厨艺有关(相当于模型本身,还与菜品本身的质量有关(相当于数据质量,毕竟从肥沃土地长出的蔬菜和从贫瘠土地长出的蔬菜差别还是很大的。

STEP 3

按照教程中的步骤走即可

1. 点击【创建模型】

2. 配置基础信息, 注意不要选错模型

3. 点击【创建数据集】

4. 配置数据集信息

5. 导入嬛嬛数据集

6. 提交任务

7.开始炼丹

此部分有一些常见的问题在此处解答

1.使用的是我们自己的数据集,我们已经将数据集下载到本地了,但是上传的时候不可以上传

:我们下载的数据集是压缩包,而上传数据集的要求是json、jsonl、csv格式,只需将压缩包解压后将数据集上传即可

2.教程中使用的是Qwen2.5-7B-instruct,可不可以使用其他的模型

:当然可以,讯飞星辰MaaS平台提供了除Qwen外,还有自家的Spark系列以及Llama3、上海AILab的InternLM模型,大家可以自行选择模型进行微调

有关数据集Alpaca格式将会在下次文章中仔细讲解,各位可以稍稍期待一下

STEP 4

在模型训练过程中我们还需要做一件事,那就是为自己的模型创建一个应用,此应用非我们在手机上使用的APP,而是提供一个模型推理对话的容器,用于将我们微调的模型放在这个容器中,每当我们想要体验对话时就可以运行这个容器来跟模型对话了

跟着教程走即可

进入控制台-讯飞开放平台创建自己的应用,没有实名认证的话只能创建一个自己的应用,实名一下可以将上限提高到100个,创建第二个的时候要注意

STEP 5

LORA微调是一种高效的微调方式,能够在计算资源不充足的情况下微调模型实现一些下游任务,也是目前最通用、效果最好的微调方法之一。具体内容我会在后续内容中单独出一期来讲解。

我们使用LORA微调模型的时长大概在10-20分钟,具体会因模型大小和超参选择而异。

当模型训练完成后页面会变成这样

然后我们需要将模型发布为服务,放在我们在STEP 4创建的容器应用

等一小会,有时候人多的时候会慢一点,大家耐心等待即可

随后我们会发现页面上多了一个体验,犹豫啥,点他就完事了

进入到像下面的页面中,选择服务就是让我们选择模型,点开后有两个选择,预置服务中放的就是微调前的模型,我的服务中放是我们发布成功的微调后的模型

选择我们用来微调的模型和微调后的模型,这样我们可以横向比对微调前后模型的差异,直观的感受出微调效果,当然了,你也可以选择两个不同的预置模型,比对一下两个模型对同一个问题的输出回答,感受一下模型评测的魅力

然后就可以开始对话了

至此,你已经完成了第一个专属AI,有没有感受到其中的神奇与魅力呢

初来乍到,希望能给大家带来一点点帮助留下你的三连哈哈哈哈,走错平台了,下期见

最新文章
肠炎和肠癌有什么区别
肠炎与肠癌的区别在于病因、症状、实验室检查、影像学检查以及内镜检查结果。1.病因肠炎是由病毒、细菌或食物中毒引起的急性肠道炎症,而肠癌是由于结肠或直肠细胞异常增生形成的恶性肿瘤。...2.症状肠炎通常表现为腹泻、腹痛、恶心呕吐等
深圳中学生编程培训咨询热线:   在线咨询: 点击交谈
课程单价:165元课时数:80节全部校区:童程童美少儿编程(幸福里校区)课程内容:乐高创意启蒙课程主要分为三个部分,认识世界、观察世界以及探索世界。认识世界是通过扮演、创造来引导孩子对社会创造一个认知,并且拥有真实的自我情感;
页黄冈大推广的最佳实施策略是什么-如何提高品牌曝光度和销售转化率
网页黄冈大推广是一项专注于黄冈地区市场的互联网推广活动,旨在通过多种网络手段提升本地企业或品牌的知名度与曝光度。随着互联网技术的快速发展,越来越多的黄冈地区的商家开始关注网页推广的潜力,以便在激烈的市场竞争中脱颖而出。这项
零基础自学指南,苏州专业网站搭建与在线平台构建
本教程从零开始,详细讲解苏州专业网站搭建过程。涵盖域名注册、服务器配置、网站设计、功能开发等关键步骤,助您打造个性化在线平台,拓展业务空间。筹备阶段网站建设步骤网站管理与推广在互联网飞速发展的今天,企业和个人都逐渐认识到拥
真实的CHEAPWINDOWSVPS:1.-经济实惠的Windows-VPS选择-助力你的在线业务!
随着互联网服务需求不断增加,企业和个人用户在寻找高效、经济的服务器解决方案时,Windows虚拟专用服务器(VPS)成为了一个热门选项。对于预算有限但又希望获得良好性能的人而言,Cheap Windows VPS显得尤为重要。Windows VPS是一种基于微
福彩3D6月走势图
功能类福彩3D显示遗漏:显示/隐藏遗漏值,遗漏值是指自上期开出到本期间隔的期数。福彩3D遗漏分层:是将当前遗漏值用柱状图形标注。福彩3D分段线:是每五期使用分隔线,使横向导航更加清晰。福彩3D显示断区:在分区走势中使用,将开出0个号
适用于 WooCommerce 的 Omnisend 电子邮件营销
最简单易用的WooCommerce电子邮件营销、新闻简报、短信营销和自动化插件Omnisend is the ultimate emailSMS marketing plugin and CRM solution for WooCommerce, and helps more than 125,000 ecommerce stores around the world sell mor
刘家辉
刘家辉,香港著名功夫片演员,70、80年代叱咤影坛的武打巨星,他主演的《少林三十六房》创造了一个传奇,把少林寺功夫片推向巅峰,当年刘家辉与汪禹的双生搭档撑起了刘家班的大半江山,俨然成为邵氏最耀眼的两颗明星。1985年邵氏停产之后,
微信视频号广告如何投放,微信视频号广告投放详细流程
在当今互联网信息爆炸的时代,广告投放成为企业推广产品的重要手段。微信视频号广告投放作为一种新兴的广告形式,其独特的优势和潜力备受企业关注。下面将从多个方面介绍微信视频号广告如何投放,详细展现投放的全过程,帮助客户更好地了解
相关文章
推荐文章
发表评论
0评