专访OpenAI:定制化ChatGPT有望面世,用户或能生成个性化答案

你被人工智能聊天机器人威胁了吗?在过去的一周里,似乎每个新闻媒体都尝试过微软的 ChatGPT 版必应搜索,继而发现聊天机器人会编造许多愚蠢和毛骨悚然的东西。

在《纽约时报》的测试中,聊天机器人多次对一名科技专栏作家“示爱”;而在《华盛顿邮报》的测试中,它声称自己被一连串提问“冒犯了”。

作为回应,微软最近对必应施加了使用限制,每次会话最多给出 5 个回复,以减少它犯错的机会。

这不仅仅吓坏了记者,OpenAI 这家初创公司也受到了美国保守派的大量批评,他们声称其聊天机器人 ChatGPT 有一种“觉醒(文化)”的偏见。

所有这些愤怒最终都会产生影响。在必应生成的复杂内容背后,是由初创公司 OpenAI 开发的名为 ChatGPT 的人工智能技术。

上周五,OpenAI 发布了一篇博客文章,旨在澄清其聊天机器人有哪些合理的行为。它还发布了 ChatGPT 在被问到美国“文化战争”时应如何回应的指导方针。这些规定包括不与任何政党挂钩,或判定某一个群体的好坏。

专访OpenAI:定制化ChatGPT有望面世,用户或能生成个性化答案

(来源:STEPHANIE ARNETT/MITTR | NOUN PROJECT)

我与 OpenAI 的两名人工智能政策研究人员桑德希妮·阿加瓦尔(Sandhini Agarwal)和拉玛·艾哈迈德(Lama Ahmad)讨论了一下,我们谈到了该公司如何让 ChatGPT 变得更安全并展现出更冷静的一面。尽管该公司拒绝评论其与微软的关系,但研究人员仍有一些有趣的见解。以下是他们必须要说的话。

专访OpenAI:定制化ChatGPT有望面世,用户或能生成个性化答案

如何得到更好的答案

在人工智能语言模型研究中,最大的开放式问题之一是如何阻止模型“产生幻觉”,说的更接地气一点就是如何阻止模型“胡编乱造”。ChatGPT 已经被数百万人使用了好几个月,但我们没有看到必应搜索所产生的那类谎言和幻觉。

这是因为 OpenAI 在 ChatGPT 中使用了一种名为“从人类反馈中强化学习”的技术,会基于用户的反馈改进模型的答案。该技术的工作原理是让人们在不同的输出内容中进行选择,然后根据不同的标准进行排序,比如事实性和真实性。

一些专家认为,微软或许跳过或草草完成了这一阶段,然后推出了 ChatGPT 版必应搜索,尽管微软尚未证实或否认这一说法。

但据阿加瓦尔说,这种方法并不完美。她说,人们看到的选项可能都是错误的,然后选择了错误最小的选项。为了使 ChatGPT 更可靠,该公司一直专注于清理其数据集,并删除那些让该模型偏好于错误内容的训练数据。

专访OpenAI:定制化ChatGPT有望面世,用户或能生成个性化答案

“越狱”ChatGPT

自从 ChatGPT 发布以来,人们一直试图对它进行“越狱”,也就是用一些技巧或方法让模型打破束缚自己的规则,进而产生有关种族主义或阴谋论的内容。OpenAI 已经注意到了相关的尝试。阿加瓦尔说,OpenAI 已经浏览了其整个数据库,挑选了一些会导致不必要内容的提示,以改进模型并阻止它继续蔓延下去。

专访OpenAI:定制化ChatGPT有望面世,用户或能生成个性化答案

OpenAI 渴望倾听

OpenAI 表示,它将开始从公众那里收集更多反馈,以更好地塑造模型。艾哈迈德说,OpenAI 正在探索通过用户调查或建立公民集会(论坛)的方式,来讨论哪些内容应该被完全禁止。她说:“例如,如果以艺术为前提,裸体可能不会被认为是粗俗的、不可接受的东西,但如果在课堂上使用 ChatGPT 就是另外一回事了。”

专访OpenAI:定制化ChatGPT有望面世,用户或能生成个性化答案

共识项目

阿加瓦尔说,OpenAI 使用了来自数据标注人员的人工反馈,但已经认识到它雇佣来做这项工作的人并不能很好地代表更广泛、多元的世界。因此,该公司希望扩展这些模型所代表的观点和视角。

为此,它正在进行一个更具实验性的项目,名为“共识项目”。在这个项目中,OpenAI 的研究人员正在研究人们对于人工智能模型产生的不同事物的同意或不同意的程度。

阿加瓦尔说,相比“天空是否是蓝的”,人们可能会对“税收是否是好事”这类问题产生更多元的回答。

专访OpenAI:定制化ChatGPT有望面世,用户或能生成个性化答案

定制的聊天机器人即将到来

最终,OpenAI 相信,它或许能够训练人工智能模型来代表不同的视角和世界观。因此,人们或许可以用它来生成符合自己观点的答案,而不是一刀切的 ChatGPT 机器人。阿加瓦尔说:“这是我们所追求的目标之一,但这将是一个漫长而艰难的旅程,因为我们知道这个领域是多么有挑战性。”

现在我来说说我的看法。这是一个好迹象,表明 OpenAI 计划邀请公众来帮助确定 ChatGPT 红线可能所在的位置:对于一款世界各地数百万人在不同文化和政治背景下使用的工具,哪些事情是可以接受的。

这件事,我们不能也不应该只交给旧金山的一群工程师来做。我个人很想知道他们愿意在多大程度上进行有关政治议题的定制。同时,OpenAI 迟早会意识到内容审核的世界是多么的复杂和混乱。

支持:Ren

原文:

https://www.technologyreview.com/2023/02/21/1068893/how-openai-is-trying-to-make-chatgpt-safer-and-less-biased/

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

(0)
上一篇 2023年3月21日 上午8:21
下一篇 2023年3月21日 上午8:31

相关推荐

  • 崔永胜 长江

    崔永胜和他的长江 崔永胜和他的长江是中国的一个著名景点。长江是中国最长的河流,也是中国的母亲河。它发源于青藏高原,流经中国中部和东部地区,最终注入东海。长江是中国重要的交通和经济发…

    科研百科 2024年11月17日
    0
  • 是什么项目管理

    是什么项目管理 是什么项目管理是一种将多个项目整合在一起,以实现单一或多个最终目标的管理方法。这种管理方法旨在提高项目的效率,减少风险,并提高项目的质量和成果。 是什么项目管理的基…

    科研百科 2024年7月24日
    62
  • 金税五期和四期有啥区别

    金税五期和四期的区别是什么? 金税五期和四期是增值税纳税人享受税收优惠的期限。具体来说,金税五期是指自2019年1月1日至2021年12月31日的期限,而金税四期则是指自2020年…

    科研百科 2024年10月26日
    26
  • 科研项目工作明细

    科研项目工作明细 科研项目工作明细是一个重要的文件,它记录了科研项目的各个方面,包括研究计划、预算、进度安排、实验计划等等。在科研项目中,工作明细的重要性不言而喻,它可以帮助项目组…

    科研百科 2025年2月16日
    0
  • 信息系项目管理师

    信息系项目管理师 随着信息技术的不断发展,信息系项目管理师已经成为了现代项目管理中不可或缺的一部分。作为专业的项目管理师,信息系项目管理师负责的项目范围、进度、成本和质量等方面都得…

    科研百科 2024年7月24日
    43
  • 番、制定日程安排(制定日程计划)

    引言: 在百日计划的旅程中,制定日程安排是有效管理时间、提高工作效率的关键步骤之一。本文将深入探讨“制定日程安排”这一过程,强调如何通过科学合理的时间规划,使每一天都充实而高效,为…

    科研百科 2024年4月16日
    117
  • A股最全区块链概念股来袭(附名单)(区块链的a股股票有哪些)

    免责声明:本文旨在传递更多市场信息,不构成任何投资建议。文章仅代表作者观点,不代表火星财经官方立场。 小编:记得关注哦 投资区块链,猛戳:火星财经App下载 文章来源:新浪财经 区…

    科研百科 2024年5月19日
    131
  • 西安微信乘车码不能用了怎么办,2022年西安公交车乘坐付款方式(西安公交刷微信乘车码)

    今天许多西安市民反映乘坐公交车时微信乘车码不能使用了,应该是公交公司和乘车码的合作协议到期,现在的解决办法是更换微信扫码的小程序或者使用其他支付方式。@西京同城 总结了下2022年…

    科研百科 2023年4月1日
    575
  • 项目与项目管理

    项目与项目管理 项目与项目管理是现代商业社会中必不可少的一部分。在现代社会中,随着全球化和经济的快速发展,项目与项目管理已经成为了企业成功的关键因素之一。本文将介绍项目与项目管理的…

    科研百科 2024年7月22日
    48
  • 研发项目出差事由3075855166

    研发项目出差事由 随着科技的不断发展,研发项目已经成为现代企业的重要支柱之一。在研发过程中,出差是不可避免的一项任务。特别是在跨国研发项目中,出差已经成为一种常态。 出差对于的研发…

    科研百科 2024年11月8日
    1