计算机科学家讨论ChatGPT的利弊_昨天全面粉丝互动，相关话题阅读量破亿最新消息 ChatGPT似乎预示着AI的一场革命

计算机科学家研究ChatGPT的利弊。Credit: Pixabay/CC0 Public Domain
（神秘的地球uux.cn）据by Johns Hopkins University：凭借其模仿人类语言和推理的神奇能力，ChatGPT似乎预示着AI的一场革命。自从硅谷探究评测室OpenAI在11月亮相自然语言处理工具以来，使用者已然评测了无数使用程序，其中含有灵活的昨天全面粉丝互动，相关话题阅读量破亿聊天机器人可以召唤诗歌和散文，转发食谱，翻译语言，提供提议和讲笑话。
伴随着兴奋而来的是一些恐惧——技术或许会下降真实的人类写作和批判性思维，颠覆行业，并放大我们自己的偏见和成见。
约翰霍普金斯大学计算机科学助理教授丹尼尔·哈沙比说，针对那些从事AI岗位的人来说，ChatGPT不只仅是一夜之间的轰动，而是多年评测后获得成就的标志，他专门探究语言处理，并探究过相似的关于成长，我想说：温柔句子工具。
“ChatGPT似乎是一场突如其来的革命，”他说。"但这项技术多年来一直在逐步进展，最近几年进展迅速."
但是，Khashabi承认ChatGPT似乎开创了一个前所未有的时代，一个充满人类提升潜力的时代。“这真的是我们修正对智慧含义理解的机遇，”他说。“这是一个激动人心的时刻，由于我们有机遇应对新的考验和新的前景，而这些过去是我们力所不及的。”
随着微软对该工具的投资，OpenAI亮相了一个付费版次，谷歌打算亮相自己的评测性聊天机器人，该中心向Khashabi知晓了该技术及其进展方向。
能不能确认一下ChatGPT的岗位原理？
第一阶段不关乎直接的人类反馈。该模型经由从联网上回流众多文本来进修语言的解读跑分成绩排行结构——例如，来自维基百科、Twitter、Reddit、纽约时报等所有各异语言的语句和段落。它还接纳了来自GitHub等渠道的程序员编写的代码的训练。
在第二阶段，[通常称为“自我推动”进修]，人类注释者参与训练模型变得更为繁琐。他们对ChatGPT收到的各类类型的查询编写响应，所以该模型进修执行像“就这个主题写一篇文章”或“更改这一段”这样的命令。
由于OpenAI坐拥一座金矿，他们有能力雇佣许多注释者，并让他们注释众多高品质的资料。我经由小道讯息听说，最初的操控系统被输入了近100，000轮人类反馈。所以这背后有众多的详细智能手机解读人力。
但OpenAI的秘密武器不是其AI技术，而是使用其办事的人。每当有人查询他们的操控系统时，他们会收集这些查询，以使ChatGPT适应使用者正寻找的信息，并确认他们操控系统的弱点。换句话说，OpenAI的顺利在于赢得了数百万人使用它的演示。
你个人是如何感受ChatGPT的？
它可以是一个优秀的写作和头脑风暴工具。我可以写一个我脑海中的想法的摘要，让ChatGPT更繁琐地扩展它，然后挑选我喜欢的结局并自己进一步开发它们或持续使用ChatGPT。这就是人机合作写作。正如Twitter上有人恰当地说的那样，“ChatGPT是你大脑的电动自行车！”
你对它受到的留意和压力有什么看法？
这是AI提升的又一个里程碑，值得庆祝。令人兴奋的是，AI和自然语言处理越来越接近于合作人类达成他们关心的任务。
但是，我忧虑过分夸大AI的状态。已然获得了进展，但“普遍智能”仍未呈现。在过去的几十年里，每当我们提升的时候，我们都会不断地修正我们对“聪明”的理解。在20世纪60年代和70年代，我们的目标是兴办一个与人类对弈的操控系统。这样的例子还有很多。每一次提升，我们都会想:“就是这样！”但是过了一段时间，炒作就销声匿迹了，我们目睹了难题并察觉了新的需求。
“智能”一直是一个不断转变的目标，并且很或许持续维持下去，但我对在解决ChatGPT类操控系统的不足方面获得的进展感到兴奋。
那些不足是什么？
ChatGPT编东西很轻松。假如你问ChatGPT一些它没见过的小众的东西，它会用流畅的议论文式的语言幻觉出事实。例如，假如你问它如何定义“维纳斯·大威廉姆斯在哪届锦标赛上赢得她的第八个大满贯？”它会为你补上一个答案，尽管维纳斯·大威廉姆斯已然赢得了七个大满贯。正如许多传媒报导的那样，她想赢得她的第八个冠军，但她没有。这个模型混淆了“想赢”和“赢了”这两个概念。
难题是它做得如此流畅。它可以给你垃圾，但在如此流畅，连贯的语言中，假如你不是该领域的专家，你或许会相信它说的是真的。这让我很忧虑，我觉得我们人类在看似清晰的输出面前很轻松受骗。
另一方面，ChatGPT有什么令人兴奋的地方？
我们如今有了这些工具，可以形成有创造性的和流畅的语言，这是我们花了多年时间解决的一个考验。身为一名AI科学家，我的兴奋之处在于接下来的步骤，我们有新的难题需要AI来解决。
我对AI的目标——逆向工程人类智能——不太感兴趣，而更感兴趣的是智能增强。我觉得使用AI使人类能够做得更好并增强人类能力是一个有价值的目标。我对这种兴办操控系统感到兴奋。
你如何看待技术的进展？
我们仍处于这种转变之中，但我们将持续使语言模型更有效，从而形成更紧凑但品质更高的模型。所以，我们将在任何地方目睹相当可靠的对话代理形式。前方的模型将是你的联网导航助手，达成我们如今自己做的各类基于联网的普通任务。
同样的一套技术也着手进入现实全球。当前的模型，如ChatGPT，不能感知它们的生态。比如他们看不到我的移动电话在哪里，看不到我有多累。不久我们就会目睹有眼睛的ChatGPT。这些模型将使用各异形式的资料(文本、视觉、听觉等。)，这是他们每天为我们办事所必需的。
这将导致基于其物理生态资料的自我推动机器人，含有物理对象、人类及其交互。这里的作用将是巨大的。在不到10年的时间里，我们日常使用的任何物理设备——汽车、冰箱、洗衣机等等。—将变成您可以与之交谈的对话代理。我们还将目睹机器人在解决今日不或许解决的难题方面惊人的强壮。想象一下，你要和你的Roomba谈论你想做或不想做的事情，就像你和ChatGPT交谈一样。
同样重大的是，不要忽视这些技术将如何在民间层面上改变事物。前方的多模态模式——有眼睛和耳朵的聊天机器人——将无处不在，并将作用一切，含有公共可靠。但如今难题来了:在一个我们不断被有眼睛和耳朵的AI模型监视的民间里，我们的自由和隐私会是什么样子？
这听起来像是著名小说《1984》刻画的反乌托邦民间。像任何其他技术一样，自我推动模型是一把双刃剑。我们如今能做的最好的事情就是维持警惕，在使用程序呈现之前预见并研究这些难题。理想状况下，我们需要经由从ChatGPT等例子向其前方扩展开展外推，来开发确保我们的自由和公平的框架。我很乐观，我们会的。