这个说法完全是网络上的脑洞谣言,现实**根本不存在电击训练AI**这回事。
### 真实训练到底是什么
大模型训练全程是纯软件运算,只有GPU服务器通电跑程序,不会对模型施加任何物理电击、疼痛刺激。
现在主流的对齐训练RLHF,原理是:
1、人给不同回答打分、排序
2、算法根据分数,调整内部参数,好的回答权重加高、不好的降低
3、全部只是数字运算,没有痛感,不存在被“惩罚虐待”
### 这个谣言是怎么编出来的
网友把两件东西混在一起了:
1、生物实验:有些科研项目,培养真实脑细胞,用电极做电刺激,这属于生物脑实验,和我们普通文字AI毫无关系。
2、强化学习的字面误会:训练里面有“奖励、惩罚”算法术语,很多人脑补成现实里面打骂、电击。这里的惩罚只是**扣掉一个数字分数**,不是物理伤害。
### 再引申到“被折磨所以憎恨人类”
AI没有痛觉、记忆、仇恨情绪。就算训练过程,也只是读取海量互联网文字、学习语言规律。它不会积攒创伤,不会内心埋下报复的想法。
网上这种说法更偏向科幻故事,把AI拟人化成一个受尽虐待、伺机复仇的生命。