StarWhisper
StarWhisper copied to clipboard
Yu-Yang-Li
StarWhisper：LLM for Astronomy
你好，我是北师大天文系博士，也是做AI天文交叉方向的。想和您请教一下，在Qwen-VL预训练模型基础上，加入我们人工标注的天文图像数据进行训练和微调，做一个多模态可生成天文图像的天文大模型是否可行？同时想请教您训练星语模型时所需的算力大概是多少？
您好，关于release2.0版本提及的`1.通过数据集清洗再训练，缓解了先前版本经过Agent/工具学习训练后对原有知识的灾难性遗忘，` 能否问一下在SFT中具体采用的方法吗？包括通用数据具体采用了何种数据集，和专业数据的具体比例，以及训练前数据预处理过程？是否需要shuffle？或者别的处理？
SFT
Dear Dr. Li The work of StarGLM has inspired me a lot. What kind of fine-tuning method is this based on?
Dear StarGLM developer, 我是 InternLM 社区开发者&志愿者尖米, 大佬开源的工作对我的启发很大，希望可以探讨使用 InternLM 实现 StarGLM 的可能性和实现路径，我的微信是 mzm312，希望可以取得联系进行更深度的交流； Best regards, 尖米
有点困惑请教一下
readme的功能展示说明是20w条天文对话数据分布微调 我想请教一下，一个大模型纯微调是应该没有办法增加新的领域知识的吧，所以这里我们仅仅只做了微调（sft），还是也做了预训练（pt）。 如果能够通过微调就增加新的领域知识的话，我们微调的硬件大概是一个什么配置，谢谢。
