技术发展方面，随着谓词推理、专家系统、知识树和向量机学习等传 统技术的发展日趋放缓，促使以联结主义和概率统计等理论为基础的深度 学习加速发展，迈入了以人工神经网络为基础、以大模型为典型应用的新 发展阶段。
在模型方面，大规模人工智能模型逐步成为业界主流。以生成式人 工智能为例，具备数百亿参数的模型已非罕见，并随着模型规模增长产生 了接近人类的“GJ”能力，使人们相信通用人工智能或将到来。 Stable Diffusion 、Midjourney等视觉生成模型具有类似人类的视觉创作能力， ChatGPT等文本生成模型具有G度近似人类的语言推理和规划等能力。有 研究认为，这些能力是随着模型参数达到数百亿J别后逐渐产生的，虽其技术原理尚未明晰，但进一步推动了模型越来越大的技术趋势。
在训练方面，有人类参与的指令微调技术是近年来人工智能的另一 大技术特点。指令微调主要有三种实现形式，以预训练语言模型为例：一 是引入人工撰写的大量对话数据对模型进行微调训练；二是人工对微调后 模型面向同一提示词生成的多个备选答案进行价值排序，训练价值评分模 型；三是在价值评分模型的奖励信号下，微调模型进行强化学习训练，不 断改进模型的表现。通过该部分技术，可将在海量语料库上训练的模型与 复杂的人类价值观实现对齐，期望人工智能可以生成正确、有用、无害的 内容。
|
5890