叠盾:只是AI初学者谈谈浅薄理解,希望错的不要太多()
不是从零开始的话其实不算难了😋
最简单的是调用主流大模型的API,最简单的就是DS和硅基流动,会上外网的话就Gemini
这些属于成品模型,你可以用自己的提示语调整它的行为,其实也差不多够用了,可以做出很多实用的东西或者还行的角色扮演
但成品模型+提示语就相当于「让一个固有性格的人现场模仿另一种风格」,虽然一般模型的本底性格没特化的Neuro那么强,但效果终究有限。如果觉得提示语满足不了需求,那可以试试模型微调,也就是「让一个固有性格的人经过充分学习和训练来模仿另一种风格」。
比较容易上手的方法是LLaMA-Factory微调。真要学习的话网上教程有很多,大致流程就是选择基础模型、整理训练数据(希望让模型学习的对话内容)、调整参数开始微调。Neuro也是这么出生的,听说底模是gpt2,当然现在已经经过了大量的训练微调
模型微调是一个非常耗算力的过程,要想微调一个能日用聊天的AI(7B以上规模?),一般得有12G以上的显存。自己没有的话,就去搜搜AutoDL租服务器,理论上十块钱以内能微调一个14B的模型?所以说Neuro其实运行费用是不小的,早期体量不大可能还能在家用电脑上运行,现在八成是花不少钱放服务器了