手机浏览器扫描二维码访问
先前有讲到了,我们来检测针对专业领域的大模型的标准就是检测是否有能力回答专业领域的问题,并针对结果进行优化。
这里我向chatbot提出同一个问题。
只采用大语言模型,采用知识库与大语言模型结合,和联网搜索与大语言模型结合。
三种功能下获得的回答是完全不同的,后面两个检索功能均为大语言模型优化了生成回答的准确性,对大语言模型的专业领域知识做了补充和改善。
可以看到普通的大语言模型回答的是最简短的,采用了知识库的回答,将答案细分,扩充,并添加了新的内容,附上参考文献。
最后的联网搜索,将答案分为了几类,更加全面,但是每类回答点到即止。
最后就是向量知识库进行优化。
对于准确率低的查询,分析模型回应错误的原因。
如果是由于知识库中缺少相关信息,可以通过添加更多相关文档和数据来增强向量知识库的覆盖范围。
用户反馈是对输入的问题和产生的回答进行记录,方便针对性进行调整。
反馈可以直接用于指导向量知识库的更新和优化。
不断地测试来完善我的专业领域大模型。
最后一部分是我本次研究的总结。
首先创建了一个能被大语言模型直接调用的专业知识库,在电力LCA这个专业性较高的领域填补了大语言模型的空白。
其次是采用RAG技术,将知识库,联网与大语言模型相结合,增强了大语言模型在特定领域的可信度和实用性。
最后就是本次研究虽然是针对电力LCA领域,但其背后的构架适用于各个领域,构建了一个完整的体系,可以进行修改,全方面的辅助大语言模型,应用广泛。
以下就是我的全部研究内容请各位老师批评指正。
3.3.2数据预处理
Unstructured库是一个强大的工具,专为处理非结构化数据设计,具体流程如图3.7所示,
如从文本文档、PDF文件或网页中提取数据。
它支持多种数据提取方法,包括正则表达式匹配、自
然语言处理(NLP)技术等。
数据预处理步骤如下:
本小章还未完,请点击下一页继续阅读后面精彩内容!
步骤一:数据清洗
去除杂质:从文本中去除无关的字符,如特殊符号、空白行等。
格式统一:将所有文本统一为相同的编码格式,通常为UTF-8,以避免编码错误。
别人穿越好歹是个人,为什么我就是只跳蚤,还让我这只一毫米的跳蚤去征服一个金龙,火凤,冰麒麟纵横的世界,是神疯了还是世界疯了?...
搜小说免费提供作者残禾的经典小说亿万老公买一送一最新章节全文阅读服务本站更新及时无弹窗广告欢迎光临观看小说一场意外,胞弟命丧,从此他精神失常,一人分饰两角,成了今天的展少唐,明天的展少康,大后天的展少唐,大大后天的展少康周而复始,年复一年,没有尽头。一场相亲,兄弟反目,哥哥给弟弟找女人,弟弟就给哥哥找老婆,从此叶慕槿悲哀地周旋在两个老公中间...
穿入到一个光怪陆离的聊斋世界,妖孽丛生,群魔乱舞,魑魅魍魉尽出。恰我心张狂,仗剑破红尘正气浩然,下笔如有神!庄生梦蝶,蓦然回首,人间道,妖魔道,我自行我道!...
作者乱月的经典小说修罗狂帝最新章节全文阅读服务本站更新及时无弹窗广告小说修罗狂帝千年前,一代狂魔皇被袭杀,千年后,重生少年赵云龙身上!吞噬魔功,吞噬天下所有!九龙变金龙变,肉身成龙,木龙变,起死回生之术左持玄重剑,右持嗜血邪龙刀,且破我如何灭这天!如何破这地!仙魔不能相恋?为万古禁忌?不!我若盖世无敌,这宇宙八荒也要臣服于我脚下!...
前生,她心瞎眼盲,错信狗男女,踏上作死征程没想到老天开眼,给了她重活的机会。不好意思,本小姐智商上线了!抱紧霸道老公的大腿,扬起小脸讨好的笑,老公,有人欺负我!男人轻抚她绝美的小脸,迷人的双眸泛着危险,有事叫老公,没事叫狗贼?宁萌萌头摇的如同拨浪鼓,她直接将人扑倒,并且霸道的宣告,不不不,我是狗贼,做老公一个人的舔狗!男人心情瞬间转晴,嗯,我的狗我护着,谁虐你,虐回去!从此,宁萌萌横着走!想欺负她?看她怎么施展三十六计玩转一群渣渣!...
意外穿到农家一个小灾星身上,还时不时遭亲人迫害,江芊叶一咬牙一跺脚,利用自己的手艺和空间一心只想发家致富,走上人生巅峰!听说没有,那个冷血无情,从不近女色的将军要娶亲了!哦?谁呀谁呀?正埋头数钱的江芊叶好奇问道。还没等回话,就见士兵抬着几十箱聘礼进了自家酒楼。众人人齐刷刷不就是你么?...