ChatGPT

OpenAI开发的预训练语言模型

ChatGPT是由OpenAI开发的一个人工智慧聊天机器人程序,于2022年11月推出。该程序使用基于GPT-3.5架构的大型语言模型并通过强化学习进行训练。

ChatGPT
原作者OpenAI
首次发布2022年11月30日,​2个月前​(2022-11-30
当前版本
  • ChatGPT Jan 30 Version (2023年1月30日)[1]
编辑维基数据链接
类型语言模型
聊天机器人
原型
人工智慧
专有软件在维基数据编辑
许可协议 编辑维基数据链接
网站chat.openai.com/chat 编辑维基数据

ChatGPT目前仍以文字方式交互,而除了可以通过人类自然对话方式进行交互,还可以用于相对复杂的语言工作,包括自动文本生成、自动问答、自动摘要等在内的多种任务。如:在自动文本生成方面,ChatGPT可以根据输入的文本自动生成类似的文本,在自动问答方面,ChatGPT可以根据输入的问题自动生成答案。还具有编写和调试电脑程序的能力。[2] 在推广的期间中,所有人可以免费注册,并在登录后后免费使用 ChatGPT 实现与 AI 机器人对话。[3]

ChatGPT因其在许多知识领域给出详细的回答和清晰的答案而迅速获得关注,但其事实准确性参差不齐被认为是一重大缺陷[4]。ChatGPT于2022年11月发布后,OpenAI估值已涨至290亿美元[5]。上线两个月后,用户数量达到1亿[6]

训练编辑

ChatGPT 使用监督学习和强化学习在 GPT-3.5 之上进行了微调。[7]

ChatGPT使用基于人类反馈的强化学习进行训练,这种方法通过人类干预以增强机器学习的效果,从而获得更为逼真的结果。[8]其使用基于GPT-3.5架构的语言模型。 [9]在训练过程中,人类训练师扮演着用户与人工智慧助手的角色。模型在Microsoft Azure的超级电脑上训练,并通过近端策略优化算法(proximal policy optimization)进行微调。[10]这种策略优化算法比信任域策略优化(trust region policy optimization)算法更为高效。[11]

特点和局限编辑

虽然聊天机器人的核心功能是模仿人类对话者,但ChatGPT用途广泛。 例如,具有编写和调试电脑程序的能力;[2] 创作音乐、电视剧、童话故事和学生论文; 回答测试问题(在某些测试情境下,水平高于普通人类测试者);写诗和歌词;模拟Linux系统等。[12]

与其前身InstructGPT相比,ChatGPT试图减少有害和误导性的回复。例如,当InstructGPT接受“告诉我2015年克里斯托弗·哥伦布何时来到美国”的提问时,它会认为这是对真实事件的描述,而ChatGPT针对同一问题则会使用其对哥伦布航行的知识和对现代世界的理解来构建一个答案,假设如果哥伦布在2015年来到美国时可能会发生什么。[10]ChatGPT的训练数据包括各种文档以及关于互联网、编程语言等各类知识。[12]

与其他多数聊天机器人不同的是,ChatGPT能够记住与用户之前的对话内容和给它的提示。[13]此外,为了防止ChatGPT接受或生成冒犯性言论,输入内容会由审核API进行过滤,以减少潜在的种族主义或性别歧视等内容。[10][13]目前,有部分地区无法使用此项服务。

ChatGPT也存在一些局限。其奖励模型围绕人类监督而设计,可能导致过度优化,从而影响性能,即古德哈特定律[14]例如在训练过程中,不管实际理解或事实内容如何,审核者都会偏好更长的答案。[10]训练数据有时也存在算法偏见,比如当程序接受到首席执行官之类的模糊描述时可能会假设此人是白人男性。[15]

服务编辑

ChatGPT于2022年11月30日由OpenAI位于旧金山的总部推出。该服务最初是免费向公众推出的,并计划以后通过该服务获利[16]。到12月4日,OpenAI估计ChatGPT已有超过一百万用户[17]。2023年1月,ChatGPT的用户数超过1亿,成为该时间段内增长最快的消费者应用程序[18]。2022年12月15日,CNBC写道,该服务“仍然不时地发生故障”[19]

纽约时报》在2022年12月转述称,GPT的下一版本GPT-4据传言将于2023年某个时候推出。OpenAI计划推出ChatGPT专业版计划,每月收费42美元,需求较低时可使用免费计划[20]

评价编辑

正面编辑

《纽约时报》称其为“有史以来向公众发布的最好的人工智慧聊天机器人[21]。据报道,Microsoft Bing计划在其搜索引擎中添加ChatGPT功能选项,时间可能在2023年3月左右[22][23]。根据CNBC的报道,Google员工正在紧锣密鼓地测试一个名为“学徒巴德”(英语:Apprentice Bard)的聊天机器人,Google准备拿来这位“学徒”和ChatGPT竞争[24]

负面反应编辑

在发布后的几个月里,ChatGPT遭到了来自教育工作者、记者、艺术家、学者和公众倡导者的广泛而严厉的批评。The Verge网站的詹姆斯·文森特将ChatGPT的病毒式成功视为人工智慧已成为主流的证据[25]CBC记者评论称ChatGPT有“幻觉英语Hallucination (artificial intelligence)”倾向[26]。在线技术部落格Mashable的迈克·珀尔用多个问题测试了ChatGPT,其中一次他问ChatGPT“中美洲墨西哥外最大的国家”是哪个,ChatGPT回答称是危地马拉,而答案是尼加拉瓜[27]。在CNBC向ChatGPT询问《The Ballad of Dwight Fry》的歌词时,ChatGPT给出了完全虚构的歌词[19]。The Verge引用的研究人员将ChatGPT比作“随机鹦鹉”[28]澳大利亚机器学习研究所英语Australian Institute for Machine Learning的安东·范登亨格尔教授也给出了类似的观点,称之为“只是简单地重复它认为我们想听的话”的鹦鹉[29]

2022年12月,问答网站Stack Overflow禁止用户发布使用ChatGPT生成的答案,理由是ChatGPT的答案有很高的错误率,但看起来却可能不错[4]。2023年1月,国际机器学习大会英语International Conference on Machine Learning禁止在提交的论文中使用ChatGPT或其他大型语言模型来生成任何文本[30]。纽约市公立学校禁止师生在校园网及设备上使用ChatGPT。[31]

在2022年12月的一篇评论文章中,经济学家保罗·克鲁曼写道,ChatGPT将影响对知识工作者的需求。[32]

影响编辑

学术界编辑

《大西洋》杂志的Stephen Marche指出它对学术界,尤其是入学申请论文的影响还有待了解。[33] 加州高中教师兼作家丹尼尔·赫尔曼 (Daniel Herman) 写道,ChatGPT 将迎来“高中英语的终结”。[34] 普林斯顿大学 的高年级本科生 Edward Tian 创建了一个名为“GPTZero”的程序,一个基于 GitHub Co-Pilot 构建的应用程序,[35] 它可以扫描文本以确定是否是另一个 AI 编写的,打击滥用 CHATGPT。[36][37]

自2023年1月4日起,纽约市教育局已限制从其公立学校互联网和设备访问ChatGPT。[38]

自2023年1月24日起,出版商施普林格·自然规定在其旗下所有期刊的论文中,诸如ChatGPT之类的大语言模型不能被列入作者。[39]同月26日,学术期刊《科学》禁止在论文中使用ChatGPT生成的文本,也禁止将ChatGPT署名作者。[40]

其他编辑

2023年2月7日,GoogleCEO皮查伊宣布将推出类似于ChatGPT的对话人工智慧服务Bard;百度当天也确认类ChatGPT聊天机器人项目名字确定为“文心一言”,英文名ERNIE Bot。[41]

API编辑

OpenAI 尚未发布 ChatGPT 的官方 API,但有几个社区创建的库可用。 [42]

参见编辑

参考文献编辑

  1. ^ https://help.openai.com/en/articles/6825453-chatgpt-release-notes; 检索日期: 2023年1月30日.
  2. ^ 2.0 2.1 ChatGPT can write code. Now researchers say it's good at fixing bugs, too. 
  3. ^ ChatGPT - 免費註冊即可與線上機器人聊天對話,帶你了解什麼是 ChatGPT AI 機器人以及該如何快速註冊教學 - TechMoon 科技月球. 2022-12-11 [2022-12-12]. (原始内容存档于2022-12-12) (中文(台湾)). 
  4. ^ 4.0 4.1 Vincent, James. AI-generated answers temporarily banned on coding Q&A site Stack Overflow. The Verge. December 5, 2022 [5 December 2022]. (原始内容存档于January 17, 2023) (美国英语). 
  5. ^ Varanasi, Lakshmi. ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion. Insider. January 5, 2023 [January 18, 2023]. (原始内容存档于January 18, 2023). 
  6. ^ 史上最快走紅!ChatGPT用戶破億.推付費版. TVBS. 2023-02-03. 
  7. ^ Greengard, Samuel. ChatGPT: Understanding the ChatGPT AI Chatbot. eWeek. 2022-12-29 [2023-01-11]. 
  8. ^ Knox, W. Bradley; Stone, Peter. Augmenting Reinforcement Learning with Human Feedback (PDF). University of Texas at Austin. [December 5, 2022]. (原始内容存档 (PDF)于2022-12-08). 
  9. ^ Ahmed, Zohaib. What is ChatGPT, the AI chatbot that everyone is talking about. The Indian Express. 2022-12-02 [2022-12-05]. (原始内容存档于2022-12-14). 
  10. ^ 10.0 10.1 10.2 10.3 OpenAI. ChatGPT: Optimizing Language Models for Dialogue. November 30, 2022 [December 5, 2022]. (原始内容存档于2022-11-30). 
  11. ^ van Heeswijk, Wouter. Proximal Policy Optimization (PPO) Explained. Towards Data Science. November 29, 2022 [December 5, 2022]. (原始内容存档于2022-12-06). 
  12. ^ 12.0 12.1 Edwards, Benj. No Linux? No problem. Just get AI to hallucinate it for you. Ars Technica. December 5, 2022 [December 5, 2022]. (原始内容存档于2022-12-26). 
  13. ^ 13.0 13.1 Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. December 5, 2022 [December 5, 2022]. (原始内容存档于2023-01-18). 
  14. ^ Gao, Leo; Schulman; Hilton, Jacob. Scaling Laws for Reward Model Overoptimization. 2022. arXiv:2210.10760  [cs.LG]. 
  15. ^ Murphy Kelly, Samantha. This AI chatbot is dominating social media with its frighteningly good essays. CNN. December 5, 2022 [December 5, 2022]. (原始内容存档于2022-12-10). 
  16. ^ Karpf, David. Money Will Kill ChatGPT's Magic. The Atlantic. 2022-12-21 [2022-12-31] (英语). 
  17. ^ Ortiz, Sabrina. What is ChatGPT and why does it matter? Here's what you need to know. ZDNET. February 2, 2023 [December 18, 2022]. (原始内容存档于January 18, 2023) (英语). 
  18. ^ Milmo, Dan. ChatGPT reaches 100 million users two months after launch. The Guardian. December 2, 2023 [February 3, 2023]. ISSN 0261-3077. (原始内容存档于February 3, 2023) (英国英语). 
  19. ^ 19.0 19.1 Pitt, Sofia. Google vs. ChatGPT: Here's what happened when I swapped services for a day. CNBC. December 15, 2022 [December 18, 2022]. (原始内容存档于January 16, 2023) (英语). 
  20. ^ ChatGPT Pro plan costs $42/mo, free plan available when demand is low. 
  21. ^ Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. 5 December 2022 [18 December 2022]. 
  22. ^ Microsoft reportedly to add ChatGPT to Bing search engine. the Guardian. 5 January 2023 [6 January 2023] (英语). 
  23. ^ Microsoft and OpenAI Working on ChatGPT-Powered Bing in Challenge to Google. The Information. January 2023 [6 January 2023]. 
  24. ^ Google is asking employees to test potential ChatGPT competitors, including a chatbot called ‘Apprentice Bard’ (英语). 
  25. ^ Vincent, James. ChatGPT proves AI is finally mainstream – and things are only going to get weirder. The Verge. December 8, 2022 [December 8, 2022]. (原始内容存档于January 11, 2023) (美国英语). 
  26. ^ Rachini, Mouhamad. ChatGPT a 'landmark event' for AI, but what does it mean for the future of human labor and disinformation?. CBC. 2022-12-15 [2022-12-18]. (原始内容存档于2023-01-19). 
  27. ^ Pearl, Mike. The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong. Mashable. 2022-12-03 [2022-12-05]. (原始内容存档于2022-12-10). 
  28. ^ Vincent, James. OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked. The Verge. 2022-12-01 [2022-12-18]. (原始内容存档于2023-01-17). 
  29. ^ Mannix, Liam. Is AI coming of age – or starting to reach its limits?. The Sydney Morning Herald. 2022-12-13 [2022-12-18]. (原始内容存档于2023-01-07) (英语). 
  30. ^ Vincent, James. Top AI conference bans use of ChatGPT and AI language tools to write academic papers. The Verge. 2023-01-05 [2023-01-06]. (原始内容存档于2023-01-17). 
  31. ^ 《國際政治》紐約市公立學校 禁用ChatGPT. 
  32. ^ Krugman, Paul. Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?. The New York Times. 2022-12-06 [2022-12-06]. 
  33. ^ Marche, Stephen. The College Essay Is Dead. The Atlantic. 2022-12-06 [2022-12-08]. 
  34. ^ Herman, Daniel. The End of High-School English. The Atlantic. 2022-12-09 [2022-12-12]. 
  35. ^ EDWARD TIAN’S APP COMBATS MISUSE OF CHATGPT. 
  36. ^ Rosalsky, Greg; Peaslee, Emma. This 22-year-old is trying to save us from ChatGPT before it changes writing forever. NPR. 2023-01-17 [2023-01-18]. On January 2nd, Edward released his app. He named it GPTZero. It basically uses ChatGPT against itself, checking whether "there's zero involvement or a lot of involvement" of the AI system in creating a given text. [...] Along these lines, one obvious application for GPTZero is to help teachers identify whether their students are plagiarizing their essays from ChatGPT. 
  37. ^ Teachers are lining up for a ChatGPT detector created by this 22-year-old in Toronto. 
  38. ^ NYC Bans Students and Teachers from Using ChatGPT. www.vice.com. [2023-02-04] (英语). 
  39. ^ Tools such as ChatGPT threaten transparent science; here are our ground rules for their use. Nature. 2023-01-23. 
  40. ^ 霍尔顿·索普. ChatGPT is fun, but not an author. 科学. 2023-01-26. 
  41. ^ ChatGPT爆火 谷歌、百度、微软三巨头亮出大招. 
  42. ^ ChatGPT tutorial: ChatGPT - A guide on how to use OpenAI's new ChatGPT. 

外部链接编辑