ChatGPT

ChatGPT 是以词为单位进行文本生成的

ChatGPT 始终是在尝试生成文本的合理延续，这个延续是基于已有的文本。其实是寻找某种意义上匹配的内容，生成一个排名，列出可能跟随文本的单词和概率

这里选择单词具有随机性，对于 GPT 有温度的属性，控制较低排名的单词会被使用的频率
对于文章生成，发现温度为 0.8 效果最好

在神经网络中，训练的每个阶段，网络的权重都会不断的调整，最终得到成功复制所需函数的网络

神经网络的实际学习过程最终都归结为确定哪些权重最能捕捉给定的训练示例，有各种详细的选择和超参数设置，来调整这模型

ChatGPT 是一个巨大的神经网络，有千亿权重，与传统的神经网络相似，同时还有一个针对自然语言处理的神经网络，Transformer 神经网络架构

ChatGPT 的三个基本阶段：

1. 获取文本相对应的 token 序列，并找到文本嵌入
2. 然后通过神经网络的方式，生成新的嵌入，即新的数字数组
3. 从数组的最后一分钟生成新数组，为不同可能的下一个 token 的概率

GPT 主要是通过预训练、监督微调、奖励建模、强化学习进行训练的

Transformer 原理

Transformer 引入注意力的概念

Transformer 的原理主要是位置编码、注意力机制和自注意力机制

• 位置编码：就是将输入序列的单词顺序通过数字表示
• 注意力机制：允许文本模型在决定如何翻译输出句子中的单词时，查看原始句子中的每一个单词
• 自注意力机制：能够使神经网络能够在单词周围的语境中理解单词，从而消除单词歧义，做词性标注，命名实体识别，学习语义角色等

基于 Tranformer 的应用模型 BERT，作为自然语言处理的通用模型，可以用来解决文本摘要、问答、分类、命名实体识别、文本相似度等任务

Transformer 的上下文窗口是其工作记忆，如果能够与任务相关的任何信息加载到工作记忆中，模型就会表现的很好，因为可以立即访问所有的记忆

模型安全

模型可能存在偏见，可能会编造，产生幻觉信息，可能存在推理错误，有知识的日期
建议在风险较低的应用中 LLM，并总是与人类的监督结合使用，将它们作为灵感和建议的来源

Enbedding

在深度学习和自然语言处理中，Enbedding 是一种特征工程方法，用于将高纬度的数据，例如单词和句子，转换为低维度的向量，从而帮助模型更好的理解语义关系，例如单词之间的相似性，句子的情感

Fine- tuning

微调，是一种迁移学习技术，常用于深度学习中
在已有预训练模型的基础上，在特定的任务数据上继续训练模型，从而适应新的任务