K2-上海交通大学

109次阅读

K2-上海交通大学

K2-上海交通大学官网

一个地球科学的开源大预言模型
网站服务:K2-上海交通大学。
Code and datasets for paper “Learning A Foundation Language Model for Geoscience Knowledge Understanding and Utilization” – GitHub – davendw49/k2: Code and datasets for paper “Learning A Foundation Language Model for Geoscience Knowledge Understanding and Utilization”

K2是一个地球科学的开源大预言模型。首先通过收集和清理的地球科学文献(包括地球科学开放获取论文和维基百科页面、对 LLaMA 进行进一步预训练,然后使用知识密集型指令调优数据(GeoSignal 、。初步评估采用GeoBenchmark(由NPEE和AP Test on Geology、Geography、Environmental Science组成、作为基准。与具有相似参数的几个基线模型相比,K2 在客观和主观任务上的表现优于基线。我们介绍 K2 (7B),它是一个开源语言模型,首先在收集和清理过的地球科学文献(包括地球科学开放存取论文和维基百科页面、上对 LLaMA 进行进一步预训练,然后使用知识密集型指令调整数据(GeoSignal、进行微调。在初步评估中,我们使用 GeoBench(由 NPEE 和关于地质学、地理学和环境科学的 AP 测试组成、作为基准。与参数相似的几个基准模型相比,K2 在客观和主观任务上的表现都优于基准模型。在该资源库中,我们将共享以下代码和数据。

K2-上海交通大学网址入口

https://github.com/davendw49/k2

小编发现K2-上海交通大学网站非常受用户欢迎,请访问K2-上海交通大学网址入口试用。

前往AI网址导航

正文完
 0
微草录
版权声明:本站原创文章,由 微草录 2024-01-03发表,共计795字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。