Chat应用
2024-04-02 16:51:29 0 举报
AI智能生成
Chatgpt是一款基于人工智能的聊天机器人,它由OpenAI开发,旨在为用户提供一种高度智能化的交流体验。通过利用庞大的语言模型和算法,Chatgpt能够理解和生成人类语言的各种形式和语境,从而与用户进行流畅、自然的对话。 它的主要功能包括:问答、聊天、搜索、文本生成和翻译等。Chatgpt可以根据用户的问题和要求,提供相关的信息和建议,满足用户的各种需求。此外,它还具备学习能力,可以通过与用户的互动不断优化其性能和准确性。 Chatgpt以其高效、准确的语言处理能力和友好的用户体验,广泛应用于各种场合,如客户服务、教育、娱乐、医疗等领域。
作者其他创作
大纲/内容
ChatGPT
InstructGPT
基于提示学习的一系列模型
Prompt Learning
预训练语言模型
预训练语言模型
GPT3.5-ChatGPT
大规模预训练语言模型
1、引入“人工标注数据+强化学习”
2、训练回报模型(Reward Model,RM)
3、利用上一阶段学好的RM模型,靠RM打分结果来
更新预训练模型参数
更新预训练模型参数
预训练模型Baseline Paper
GPT4-ChatGPT
高质量数据标注以及反馈学习
对话问答方向是主要形式:强化学习
OpenAI 为机器学习模型设计的传统基准上评估了 GPT-4
GPT-4 大大优于现有的 大型语言模型,以及大多数 SOTA 模型
展望
教据层面 数据质量
如何获得更高质量的数据(利用ChatGPT)
如何选择更好的数据(如Resample,Weighting)
时序角度:OnlineLearning,21年之后的场景
引入“外部世界”,“世界模型”
引入字符级嵌入
多模态
多元交互与伦理道德层面
安全性
模型可解释性
可控性
模型伦理性
社会责任
隐私问题
剽窃、学术不端
未来发展方向
数据多样性
丰富性
模型多模态性
互动性
模型创新性
智能性
局限
推理 Reasoning
空间推理(相对位置,导航,可视化物体和结构)
物理推理/Physical reasoning(refers to the ability to understand and
manipulate physical objects and their interactions in the real world)
manipulate physical objects and their interactions in the real world)
时间推理(时间发生先后顺序、事件持续时间)
心理推理(关于人物的行为或者心里要素)
逻辑 Logic
偏向于需要三段论、演绎、归纳,逐渐得到结论的过程
Mike’s mum had 4 kids; 3 of them are Luis, Drake, and Matilda.
What is the name of the 4th kid?
What is the name of the 4th kid?
数学和算数
事实错误 Factual Errors
有些简单的通过搜索引擎很容易找到答案,但是他会回答错误
The information it provides may seem credible, making it challenging
for a knowledgeable expert to detect its inaccuracies
for a knowledgeable expert to detect its inaccuracies
Reason
lack the ability to access information from an external memory or
database
database
概率计算,极大可能编事实
偏见和歧视
机智幽默Wit and Humor
编程
Syntactic Structure, Spelling, and Grammar
大部分可以解决
出现几次’s’,以字符为级别的往往回答错误
自我意识/内省 Self Awareness/introspection
原因
缺乏世界模型
缺乏检索模型
缺少字符级嵌入
生成一些取悦人类的话术
ChatGPT
GPT3.5-ChatGPT
GPT4-ChatGPT
多模态
输入字符数量
推理能力
文本创作,poem
GPT-4还开放了一个使用功能,允许修改“系统提示”
文心一言
1
1
2
3
三者比较
GPT3.5
优势提升
指令执行
缺陷 局限性
无法处理多轮对话
无法处理多模态信息
无法处理逻辑推理
GPT4
优势提升
处理更复杂和抽象的问题
缺陷 局限性
无法保证输出的真实性和可靠性
无法处理一些特定领域或语言的问题
文心一言
优势提升
根据用户的输入生成不同类型和风格的答案
缺陷 局限性
推理能力较差
对英文的效果相比较其他两个模型较差
测试类型
常识与创作
写故事
结论
归纳和推理
举一反三
判断隐喻
结论
逻辑推理
数学与代码
结论
应用场景
文本分类(文本分类,主题分类,情感分析)
评论例子
序列标注(分词/POS Tag/NER/语义标注)
分词
句法依存分析
命名实体识别
嵌套NER
一词多义
句子关系判断(Entailment/QA/自然语言推理)
Entailment/自然语言推理(文本蕴含关系以及推理关系)
QA 意图分类
生成式任务(机器翻译/文本摘要/ 智能问答)
扩写
文本创作
生成代码
机器翻译
1. 通过调用接口,先翻译为英文
2. 再翻译为在翻译为指定输出语言
内置的英文翻译系统
情感对话
数据可视化
总结数据(summary)
归纳总结
解释复杂的数据关系
根据提供数据进行相应预测
数据可视化
画图
进一步分析的建议
特定数据分析任务的帮助
latex源码生成
表格
公式
tikz画图
数据收集
研究资料整理
但是Chatgpt暂时做不好,bing可以
related worl整理(结合connected paper)
gpt3.5不能做,但gpt4可做
以字符为单位的文本生成
图文生成
更强的推理能力
长文档建模
多方对话
代码生成能力提高
Debug能力提高
长文本的阅读能力、多方对话
0 条评论
下一页