对🦋采用LLM的大语言模型的AI来说,对中文语意的每个字都比较敏感
以下转载DS(DeepSeek),供各位吧友参详
——
LLM的核心特点
1. “大”是核心：
· 大数据：使用TB级别的海量文本数据进行训练。
· 大模型：拥有数百亿甚至万亿级的参数。参数可以理解为模型的“脑细胞”，数量越多，模型能学习和记忆的规律就越复杂。
· 大算力：训练这些模型需要强大的计算集群（通常是成千上万的GPU），耗时数周甚至数月。
2. 基于Transformer架构：
这是LLM的技术基石。Transformer中的“自注意力机制”让模型能够权衡一句话中所有词语之间的关系，从而更好地理解上下文和长距离依赖。这就像是阅读时，不仅能看眼前的词，还能同时考虑到整段话的意思。
3. 通用性与涌现能力：
与为特定任务（如垃圾邮件分类）设计的模型不同，LLM是“通用任务解决器”。通过预训练，它“无师自通”地获得了一些令人惊讶的能力，例如：
· 语言生成：撰写文章、邮件、诗歌、代码等。
· 问答：基于其学到的知识回答问题。
· 摘要：将长文本浓缩为简洁的摘要。
· 翻译：在多种语言间进行翻译。
· 代码生成与解释：根据描述编写代码，或解释现有代码的功能。
· 逻辑推理：进行简单的常识推理和逻辑判断。
——
著名的LLM例子
您可能已经接触过这些由LLM驱动的应用：
· ChatGPT：由OpenAI开发，其背后的模型是GPT系列（如GPT-3.5， GPT-4）。
· Gemini：由Google开发（前身为Bard）。
· Claude：由Anthropic开发。
· 文心一言：由百度开发。
· 通义千问：由阿里巴巴开发。
· LLaMA：由Meta开发，是一个开源模型的系列。
——
LLM的局限性
尽管强大，LLM也存在一些重要的局限性：
1. “幻觉”：模型可能会自信地生成看似合理但完全错误或虚构的信息。
2. 知识滞后：其知识截止于训练数据的时间点，无法了解最新事件。
3. 偏见与毒性：可能学习并放大训练数据中存在的社会偏见、刻板印象或有害内容。
4. 缺乏真正理解：它本质上是进行模式匹配和统计预测，并不像人类一样真正“理解”语言的含义。
5. 计算成本高：训练和部署顶级LLM的成本极其高昂。
——
我只是搬运工
