ChatGPT是什么?ChatGPT为什么这么火?

新闻 1970-01-01
434

OpenAI研发的聊天机器人ChatGPT上线5天就突破100万用户,它具有流畅的人机对话能力,以及写代码、找Bug、做海报等能力,更能用鲁迅的文风进行天马行空的创作。

对话型AI有何玄机?

ChatGPT是人工智能研究实验室OpenAI在11月30日发布的全新聊天机器人。在OpenAI的官网上,ChatGPT被描述为优化对话的语言模型,是InstructGPT的姐妹模型。这个模型以对话的形式进行互动,使得ChatGPT能够回答后续问题、承认错误、发出质疑并拒绝不适当的请求。

ChatGPT采用了人类反馈中强化学习(RLHF)技术,通过抹去个人信息的人工注释添加到训练集之前,以提高帮助性和真实性,同时减轻语言模型的危害和偏见的效果。

ChatGPT等聊天机器人通过海量信息的训练能够提供想法和回答问题,但它们提供的答案有时真假参半。这引发了人们的担心,认为随着技术的发展,这类机器人可能被利用来传播假消息和谣言。

美国弗吉尼亚州的数据科学家亚伦·马格利斯(Aaron Margolis)表示,尽管LaMDA有很强的开放式对话能力,但有时也会“胡编乱造”,因为它是一个被互联网信息训练出来的系统。

他给出的一个例子是,LaMDA描述了马克·吐温与李维斯·施特劳斯之间的会面,但这并不是真实的,尽管马克·吐温和李维斯同时居住在旧金山,但他们从未一起工作过。科学家将这种不准确的聊天机器人现象称为“幻觉”。

(举报)

版权声明: 发表于 1970-01-01。
转载请注明:ChatGPT是什么?ChatGPT为什么这么火? | 非常AI

相关文章