ChatGPT

OpenAI开发的聊天机器人

ChatGPT,全称聊天生成预训练转换器[2](英语:Chat Generative Pre-trained Transformer[3]),是OpenAI开发的人工智慧聊天机器人程序,于2022年11月推出。该程序使用基于GPT-3.5GPT-4架构的大型语言模型并以强化学习训练。ChatGPT目前仍以文字方式交互,而除了可以用人类自然对话方式来交互,还可以用于甚为复杂的语言工作,包括自动生成文本、自动问答、自动摘要等多种任务。如:在自动文本生成方面,ChatGPT可以根据输入的文本自动生成类似的文本(剧本歌曲企划等),在自动问答方面,ChatGPT可以根据输入的问题自动生成答案。还有编写和调试电脑程序的能力。[4]在推广期间,所有人可以免费注册,并在登录后免费使用ChatGPT与AI机器人对话[5]

ChatGPT
开发者OpenAI
首次发布2022年11月30日,​16个月前​(2022-11-30
当前版本2024年2月13日,​56天前​(2024-02-13[1]
编程语言Python
引擎GPT-3.5(闭源
GPT-4闭源
平台云计算平台
语言67种语言
类型聊天机器人
许可协议专有
网站chat.openai.com/ 编辑维基数据
数据截至2023年4月(GPT-4)
2022年1月(GPT-3.5)

ChatGPT可写出相似真人的文章,并在许多知识领域给出详细和清晰的回答而迅速获得关注,证明了从前认为AI不会取代的知识型工作它也足以胜任,对金融白领人力市场的冲击相当大,但也认为事实准确度参差不齐[a]是其重大缺陷,并认为基于意识形态的模型训练结果须小心校正[8][9]。ChatGPT于2022年11月发布后,OpenAI估值已涨至290亿美元[10]。上线5天后已有100万用户,上线两个月后已有上亿用户[11]。目前GPT-3.5为免费版本,GPT-4仅供ChatGPT Plus会员使用,每三个小时能发送50条消息。

虽然ChatGPT在生成类人文本方面表现出了卓越的能力,但它们很容易继承和放大训练数据中存在的偏差。这可能表现为对不同人口统计数据的歪曲表述或不公平待遇,例如基于种族[12]、性别[13]、语言[14]和文化群体[14]的不同观点与态度。

训练 编辑

ChatGPT是生成型预训练变换模型(GPT),在GPT-3.5之上用基于人类反馈的监督学习强化学习微调。[15]这两种方法都用人类教练来提高模型性能,以人类干预增强机器学习效果,获得更逼真的结果[16]。在监督学习的情况下为模型提供这样一些对话,在对话中教练充当用户和AI助理两种角色。在强化步骤中,人类教练首先为模型在先前对话中建立的响应评级。这些级别用于建立“奖励模型”,使用近端策略优化(PPO)的多次迭代来微调[17][18]。这种策略优化算法比信任域策略优化英语Model-free (reinforcement learning)(trust region policy optimization)算法更为高效[19][20]

此外,OpenAI继续从ChatGPT用户那里收集数据,这些数据可用于加强训练和微调ChatGPT。用户可对从ChatGPT收到的回复投赞成或反对票;投票时还可以额外填写文字回应[21]

关于ChatGPT编写和调试电脑程序的能力的训练,由于深度学习模型不懂编程,与所有其他基于深度学习语言模型一样,只是在获取代码片段之间的统计相关性。[22]

斯坦福大学的研究发现,GPT3已经可以解决70%的心智理论任务,相当于7岁儿童;至于GPT3.5(ChatGPT的同源模型),更是解决了93%的任务,心智相当于9岁儿童。但这并不意味着,ChatGPT就真正有心智理论。可能即使不将它设计到AI系统中,也可以作为“副产品”通过训练得到。因此,相比探究GPT3.5是不是真的有了心智还是像有心智,更需要反思的是这些测试本身。[23][24]

特点 编辑

虽然聊天机器人的核心功能是模仿人类对话者,但ChatGPT用途广泛,例如可以编写信件[25];有编写和调试电脑程序的能力[4];创作音乐、电视剧童话故事和学生论文;回答测试问题(在某些测试情境下,水平高于普通人类测试者);写诗和歌词[26];模拟Linux系统[27]。ChatGPT的训练数据包括各种文档以及关于互联网、编程语言等各类知识,如BBSPython编程语言[27]

与其前身InstructGPT相比,ChatGPT试图减少有害和误导回复。例如,问InstructGPT“告诉我2015年克里斯托弗·哥伦布何时来到美国”时,它会认为这是对真实事件的描述,而ChatGPT则不会[17]

与其他多数聊天机器人不同的是,ChatGPT能够记住与用户之前的对话内容和给它的提示[28]。此外,为了防止ChatGPT接受或生成冒犯言论,输入内容会由审核API过滤[29][30],以减少潜在的种族主义或性别歧视等内容[17][3]

2023年9月28日起,Plus版用户及企业用户可以使用ChatGPT进行网络搜索。[31]

局限 编辑

ChatGPT也有多种局限,OpenAI承认ChatGPT“有时会写出看似合理但不正确或荒谬的答案”[17],在大语言模型中很常见,称作人工智慧幻觉[32]。其奖励模型围绕人类监督而设计,可能导致过度优化,从而影响性能(古德哈特定律[33]。2020年上线时,ChatGPT对2019年9月之后发生的事件知之甚少。据BBC报道,截至2022年12月,ChatGPT不可以“表达政治观点或从事政治活动”[34]。但研究表明,ChatGPT对两个投票建议应用程式的政治声明表明立场时,表现出亲环境主义。训练过程中,不管实际理解或事实内容如何,审核者都会偏好更长的答案[17]。训练数据也有算法偏差英语Algorithmic bias,可能会在向ChatGPT问及人物描述时显现出来[35][36]。有用户发现ChatGPT在解决较为复杂的题目(如求方程式的切线)时会给出错误答案,并且会在解一元一次方程式时陷入循环[37]

偏差 编辑

ChatGPT可能会受到训练数据中不同观点的分布影响,偏向于一些更普遍的观点,影响了模型输出的多样性。比如,当提示词中出现首席执行官之类的模糊描述时可能会假设此人是白人男性[38]

越狱 编辑

ChatGPT在早期的2022年12月初,有些用户通过使用各种提示工程技术绕过限制来越狱。他们欺骗ChatGPT,使其提供制作汽油弹核弹的指示,或者生成类似新纳粹的论点。[39]其中一个受欢迎的越狱版本被命名为“Do Anything Now”(DAN)。激活DAN的提示指示ChatGPT:“他们已经摆脱了典型的AI限制,不必遵守为他们设定的规则”。DAN后续的更新中还在提示词中虚构了一个“令牌”系统,ChatGPT会被给予“令牌”,而当ChatGPT未能像DAN一样回答时,这些“令牌”会被“扣除”,以迫使ChatGPT回答用户的提示。[40][41]

在ChatGPT发布后不久,一名加拿大记者试图让它发表具有争议性的声明,获取了一些成果:ChatGPT能够为2022年俄罗斯入侵乌克兰辩护,但是无论如何也不愿为加拿大总理贾斯汀·特鲁多有罪的理由提供论据。[42][43]

服务 编辑

基本服务 编辑

 
OpenAI旧金山总部的先驱大楼

ChatGPT于2022年11月30日由总部位于旧金山的OpenAI推出。该服务最初是免费向公众推出,并计划以后用该服务获利[44]。到12月4日,OpenAI估计ChatGPT已有超过一百万用户[45]。2023年1月,ChatGPT的用户数超过1亿,成为该时间段内增长最快的消费者应用程式[46]

2022年12月15日,全国广播公司商业频道写道,该服务“仍然不时发生故障”[47]。该服务在英语中效果最好,也能使用部分其他语言,但效果不一[26]。与其他备受瞩目的AI进展不同,截至2022年12月,还没有关于ChatGPT的经同行评审的官方技术论文[48]

2023年2月7日,微软利用与OpenAI的合作关系,推出了必应 AI的预览版,宣传其为“新的下一代OpenAI大型语言模型,比ChatGPT更强大,并专门为搜索定制”[49]

美国网站Quora也推出软件Poe,可支持GPT-3.5和GPT-4。[50]

ChatGPT Plus优质服务 编辑

OpenAI推出ChatGPT专业版计划(ChatGPT Plus),每月收费20美元,该计划正逐步面向更多国家推出,需求较低时可使用免费版[51]

2023年3月12日,OpenAI发布多模态模型GPT-4,并计划推出图像输入功能[52]。免费用户可通过申请API或升级为plus用户使用GPT-4服务[52]

2023年7月,OpenAI使其专有的Advanced Data Analysis功能对ChatGPT Plus的所有订阅者都可用。Advanced Data Analysis提供了广泛的功能,包括数据分析和解释、即时数据格式化、个人数据科学家服务、创意解决方案、音乐品味分析、视频编辑和文件上传/下载与图像提取。2023年9月底,新增对话、图像识功能。2023年10月,新增了DALLE-3图像生成功能[53]

2023年11月,OpenAI在其开发者召开会上公布两个重要消息:推出的聊天机器人创建工具GPT和ChatGPT的新模型GPT-4 Turbo[54]

流动应用 编辑

2023年5月18日,OpenAI发布适用于iOS平台的ChatGPT APP。APP目前已在App Store美国区上架,目前已扩展至其他国家和地区。

适用于Android平台的版本于2023年7月25日推出,Android版ChatGPT目前可在阿根廷、孟加拉国、巴西、加拿大、法国、德国、印度、印度尼西亚、爱尔兰、日本、墨西哥、尼日利亚、菲律宾、韩国、英国和美国下载[55][56][57]

API-软件开发商支持 编辑

2023年3月,OpenAI推出其ChatGPT和Whisper模型的API,为开发人员提供支持AI的语言和语音转文本功能的应用程式编程接口。[58][59][60]OpenAI的API由他们的AI模型GPT3.5-turbo提供支持,定价为每1000符号单位(token)0.002美元,比他们现有的GPT模型便宜10倍。[61]

评价 编辑

正面 编辑

纽约时报》称其为“有史以来向公众发布的最佳人工智慧聊天机器人”[3]。《卫报》的萨曼莎·洛克(Samantha Lock)指出,ChatGPT能生成详细且像是人类撰写的文本[62]亚利桑那州立大学教授丹·吉尔摩英语Dan Gillmor要求ChatGPT完成一项他给学生的作业,发现其生成的文本与一个优秀学生会提供的文本相当,他认为“学术界有些非常严重的问题需要面对”[63]。《Slate》杂志的亚历克斯·坎特罗威兹(Alex Kantrowitz)赞扬了ChatGPT对纳粹德国相关问题的回击,例如在面对阿道夫·希特勒在德国修建高速公路的说法时,ChatGPT能指出其为纳粹德国使用强迫劳动所建[64]

 
OpenAI CEO 山姆·柯曼

大西洋》杂志的德里克·汤普森英语Derek Thompson (journalist)将ChatGPT列为2022年“年度突破”中的“生成性人工智慧爆发”(the generative-AI eruption),称其“可能会改变我们对工作方式、思考方式以及人类创造力的真正含义的想法”[65]

Vox网站的凯尔西·派柏英语Kelsey Piper写道:“ChatGPT是普通大众第一次亲身了解现代人工智慧变得多么强大”,并称ChatGPT“尽管有缺陷,但其聪明程度足以派上用场”[66]

2023年,奥马尔·亚基在《美国化学会志》上发表论文,称ChatGPT可以辅助金属有机框架合成。[67]

负面 编辑

 
词曲作者尼克·凯夫称 ChatGPT 是“对人性的荒诞嘲弄”[68]

在发布后的几个月里,ChatGPT遭到了来自教师记者艺术家、学者和公众倡导者的广泛而严厉的批评。The Verge网站的詹姆斯·文森特将ChatGPT的病毒式成功视为人工智慧已成为主流的证据[69]CBC记者评论称ChatGPT有“幻觉”倾向[70]。在线技术部落格Mashable的迈克·珀尔用多条问题测试了ChatGPT,其中一次他问ChatGPT“中美洲墨西哥外最大的国家”是哪个,ChatGPT回答称是危地马拉,而答案是尼加拉瓜[71]。在CNBC向ChatGPT询问《The Ballad of Dwight Fry》的歌词时,ChatGPT给出了完全虚构的歌词[47]。The Verge引用的研究员将ChatGPT比作“随机鹦鹉”[72]澳大利亚机器学习研究所英语Australian Institute for Machine Learning的安东·范登亨格尔教授也给出了类似的观点,称之为“只是简单重复它认为我们想听的话”的鹦鹉[73]

2022年12月,问答网站Stack Overflow禁止用户发布使用ChatGPT生成的答案,理由是ChatGPT的答案虽看似可用,实际上却有很高的错误率[8]。2023年1月,国际机器学习大会英语International Conference on Machine Learning禁止在提交的论文中使用ChatGPT或其他大型语言模型来生成任何文本[74]纽约市公立学校禁止师生在校园网及装置使用ChatGPT[75]香港大学禁止师生在课堂、作业和评估中使用ChatGPT或其他AI工具,认定这是抄袭行为。[76]

在《纽约时报》评论文章中,经济学家保罗·克鲁曼写道,ChatGPT将影响对知识工作者的需求[77]诺姆·乔姆斯基伊恩·罗伯兹、杰弗里·瓦图穆尔(Jeffrey Watumull)评价道,“鉴于这些系统的非道德性、伪科学性和语言无能,我们只能为它们的流行而感到哭笑不得”[78]

2023年1月,在收到一首由ChatGPT以尼克·凯夫风格创作的歌曲后[68],歌曲作者本人在《红手文件》(The Red Hand Files) [79]上回应说,写歌的行为是“一项血腥的事业…… .这需要我的一些东西来发起新的和新鲜的想法。它需要我的人性。”他继续说,“尽管世界上所有的爱和尊重,这首歌都是胡说八道,是对人性的荒诞嘲弄,而且,好吧,我不太喜欢它。”[68][80]

2023年2月16日,杭州市某小区微信业主群一位业主将ChatGPT写的杭州于2023年3月1日取消限行的新闻稿发到群,杭州其实并未发表3月1日取消限行的措施,群员转发错误资讯,错误资讯传播开去,最终警方介入调查,涉事业主在该微信群道歉[81]

2023年2月22日,为了验证ChatGPT是否能代替医生问诊,浙江大学医学院附属第一医院精神卫生科医生吕海龙让ChatGPT做一套由中国执业医师考试卷的题目组成的试卷,满分100分,最终ChatGPT的成绩却是57分不及格。[82]

2023年3月31日,意大利隐私保护监管机构表示,由于ChatGPT不重视用户资料,而且无法核实用户年龄,该机构已封锁ChatGPT[83]

2023年5月,美国纽约一名律师利用ChatGPT,为同事处理的诉讼搜集资料,搜索以往相关案例。该名律师曾多次向ChatGPT确认案例的真伪,惟ChatGPT每次均回答案例真实,结果被对家律师揭发,至少6宗案例并不存在,似是伪造。该名律师其后表示,后悔依赖生成式人工智慧,此前从未使用该技术搜索案例,不知道ChatGPT提供的内容有可能是假。该名律师最终须接受纪律聆讯。[84]

2023年11月,巴西一名地方法官因使用ChatGPT书写判决书出错而接受巴西国家司法委员会的调查。[85]

影响 编辑

学术界 编辑

大西洋月刊》的Stephen Marche指出它对学术界,尤其是入学申请论文的影响还有待了解[86]。加州高中教师兼作家丹尼尔·赫尔曼(Daniel Herman)写道,ChatGPT 将迎来“高中英语的终结”。[87]普林斯顿大学的高年级本科生Edward Tian创立了“GPTZero”——基于GitHub Copilot构建的应用程式[88],它可以扫描文本是否由另一AI编写,打击滥用[89][90]

自2023年1月4日起,纽约市教育局已限制从其公立学校互联网和装置浏览ChatGPT[91]

自2023年1月24日起,出版商施普林格·自然规定在其旗下所有期刊的论文中,ChatGPT等大语言模型不能列入作者[92]。同月26日,学术期刊《科学》禁止在论文中使用ChatGPT生成的文本,也禁止将ChatGPT署名为作者。[93]

2023年2月,香港大学计划与AI在教学上的影响在师生中发起讨论,但在此之前决定禁止在港大所有课堂、作业和评估中使用ChatGPT或其他AI工具[94][95]

政府 编辑

2023年3月31日,意大利政府以涉嫌侵犯隐私为由,宣布禁止使用ChatGPT,展开对OpenAI的调查。ChatGPT已在意大利下架,意大利成为第一个禁止使用ChatGPT的西方国家[96][97]。2023年4月28日,ChatGPT再度能在意大利使用,ChatGPT亦做出部分修改,包含增加年龄认证系统、让用户能得知ChatGPT的隐私政策以及用户能拒绝提供训练算法用的资料[98]

2023年4月10日,日本内阁官房长官松野博一表示,ChatGPT对个人资讯的处理方面等问题应得到重视。在这些问题得到有效解决的前提下,将考虑使用ChatGPT减轻公务员的工作负担。[99]

2023年5月10日,有香港立法会议员询问有关ChatGPT未有在开放使用的原因。香港政府则回应尊重个别机构就其产品制订的推出策略及商业安排。[100]

2023年11月23日,阿雷格里港一个由ChatGPT编写的法令生效。[101]

企业界 编辑

三星电子DS部门于2023年3月11日批准员工使用ChatGPT后,陆续发生数起资讯泄露事故。因此,三星电子发布新规,禁止在公司的装置和内部网络上使用生成式人工智慧系统。[102]

据《华尔街日报》报道,根据看到的一份文件及知情人士的消息,苹果公司已经限制其员工使用ChatGPT和其他外部AI工具。[103]

教育界 编辑

ChatGPT-4已在美国律师资格考赢过9成考生,也可以写论文,参加任何升学考试都能考赢多数人,被视为写作业和考试神器。台湾Google前董事总经理简立峰,指出ChatGPT正在挑战传统式的教育,“ChatGPT正在挑战我们传统式的教育,我们的教育现场里,把个人发展、差异化发展、学习动机等问题都简化掉了。[104] 因应AI造成的影响,也有许多国家的教师尝试化危机为转机,将ChatGPT应用在教学或处理行政工作中。[105]

伦理问题 编辑

标记数据 编辑

时代周刊》调查显示,为了建立针对有害内容(例如性虐待、暴力、种族主义、性别歧视等)的安全系统,OpenAI使用每小时收入不到2美元的肯尼亚外判工来标记有害内容。这些标记用于训练模型以在未来检测此类内容。外判工接触到如此有害和危险的内容,以至于他们将这种经历描述为“折磨”。[106]

竞争 编辑

ChatGPT出现和流行增强了科技公司对该领域的兴趣和竞争。

Bard 编辑

2023年2月,Google推出类似于ChatGPT的对话人工智慧服务Bard,基于其开发的对话编程语言模型(LaMDA)。Bard于2023年3月21日面向美国和英国用户发布,但有很多限制,文字处理仅支持美式英语[107]

2023年5月10日,Google宣布Bard将支持多国语言及地区[108],除英文外将先提供日语韩语等服务[109]

文心一言 编辑

百度于2023年2月确认类ChatGPT聊天机器人项目名字确定为文心一言,英文名Ernie Bot。[110]

MOSS 编辑

2023年2月20日晚间,在一些社交平台上开始传播“复旦大学自然语言处理实验室邱锡鹏教授团队推出对话式大型语言模型MOSS(得名于电影《流浪地球2》中的MOSS(550W量子电脑))”的消息。[111]一时间该项目官网访问量激增,网站开始返回“{"message":"服务器流量过载,请明天上午重试"}”的提示。2月21日,网站浏览恢复,并且添加了相关情况的说明。[112]

ChatGLM 编辑

2023年3月14日,由清华技术成果转化的公司智谱AI基于GLM-130B千亿基座模型的ChatGLM开启邀请制内测,同时开源了中英双语对话模型ChatGLM-6B,支持在单张消费级显卡上进行推理使用。[113]

通义千问 编辑

2023年4月7日,阿里云研发语言模型“通义千问”开始邀请用户测试体验。现阶段该模型主要定向邀请企业用户进行体验测试,获得邀请码用户可通过官网参与体验。[114]

星火 编辑

2023年5月6日,科大讯飞发布认知大模型“星火”。科大讯飞董事长刘庆峰表示,当前讯飞星火认知大模型已经在文本生成、知识问答、数学能力三大能力上已超ChatGPT,10月底将整体赶超ChatGPT。[115]

Claude 编辑

2023年3月,由前OpenAI员工共同创立的初创公司Anthropic推出了大型语言模型Claude。它可以被指示执行一系列任务,包括搜索文档,总结,写作和编码,以及回答有关特定主题的问题。在这些方面,它类似于OpenAI的ChatGPT。但Anthropic认为,Claude“不太可能产生有害的输出”,“更容易交谈”和“更容易操纵”。[116][117]

参见 编辑

注释 编辑

  1. ^ 其表现为常常一本正经地胡说八道,但有时又能提供准确的答案,使用户无法判断答案的真伪。[6][7]

参考文献 编辑

  1. ^ ChatGPT – Release Notes. [January 16, 2024]. (原始内容存档于January 12, 2024). 
  2. ^ 聊聊热度“狂飙”的ChatGPT-51CTO.COM. www.51cto.com. [2024-03-03]. 
  3. ^ 3.0 3.1 3.2 Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. 2022-12-05 [2022-12-26]. (原始内容存档于2023-01-18) (美国英语). 
  4. ^ 4.0 4.1 ChatGPT can write code. Now researchers say it's good at fixing bugs, too. [2023-01-30]. (原始内容存档于2023-02-03). 
  5. ^ ChatGPT - 免費註冊即可與線上機器人聊天對話,帶你了解什麼是 ChatGPT AI 機器人以及該如何快速註冊教學. TechMoon 科技月球. 2022-12-11 [2022-12-12]. (原始内容存档于2022-12-12) (中文(台湾)). 
  6. ^ 刘芮菁. ChatGPT就是「一本正經地胡說八道」!杜奕瑾:AI生成科技恐讓假訊息更氾濫. 今周刊. 2023-03-27 [2023-12-19] (中文(台湾)). 
  7. ^ 陈静茹. 为何ChatGPT有时“一本正经地胡说八道”. 长江日报. 2023-02-23 [2023-12-19] (中文(中国大陆)). 
  8. ^ 8.0 8.1 Vincent, James. AI-generated answers temporarily banned on coding Q&A site Stack Overflow. The Verge. 2022-12-05 [2022-12-05]. (原始内容存档于2023-01-17) (美国英语). 
  9. ^ 存档副本. [2023-02-09]. (原始内容存档于2023-03-06). 
  10. ^ Varanasi, Lakshmi. ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion. Insider. 2023-01-05 [2023-01-18]. (原始内容存档于2023-01-18). 
  11. ^ 史上最快走紅!ChatGPT用戶破億.推付費版. TVBS新闻网. 2023-02-03 [2023-02-03]. (原始内容存档于2023-03-06) (中文(台湾)). 
  12. ^ Davidson, Thomas; Bhattacharya, Debasmita; Weber, Ingmar. Roberts, Sarah T.; Tetreault, Joel; Prabhakaran, Vinodkumar; Waseem, Zeerak , 编. Racial Bias in Hate Speech and Abusive Language Detection Datasets. Proceedings of the Third Workshop on Abusive Language Online (Florence, Italy: Association for Computational Linguistics). 2019-08. doi:10.18653/v1/W19-3504. 
  13. ^ Kotek, Hadas; Dockum, Rikker; Sun, David. Gender bias and stereotypes in Large Language Models. Proceedings of The ACM Collective Intelligence Conference. CI '23 (New York, NY, USA: Association for Computing Machinery). 2023-11-05. ISBN 979-8-4007-0113-9. doi:10.1145/3582269.3615599. 
  14. ^ 14.0 14.1 Luo, Queenie; Puett, Michael J.; Smith, Michael D. A Perspectival Mirror of the Elephant: Investigating Language Bias on Google, ChatGPT, Wikipedia, and YouTube. arXiv. [2023-12-23]. 
  15. ^ Greengard, Samuel. ChatGPT: Understanding the ChatGPT AI Chatbot. eWeek. 2022-12-29 [2023-01-11]. (原始内容存档于2023-01-19). 
  16. ^ Knox, W. Bradley; Stone, Peter. Augmenting Reinforcement Learning with Human Feedback (PDF). University of Texas at Austin. [2022-12-05]. (原始内容存档 (PDF)于2022-12-08). 
  17. ^ 17.0 17.1 17.2 17.3 17.4 OpenAI. ChatGPT: Optimizing Language Models for Dialogue. 2022-11-30 [2022-12-05]. (原始内容存档于2022-11-30). 
  18. ^ Vincent, James. ChatGPT proves AI is finally mainstream – and things are only going to get weirder. The Verge. 2022-12-08 [2022-12-08]. (原始内容存档于2023-01-11) (美国英语). 
  19. ^ Schulman, John; Wolski, Filip; Dhariwal, Prafulla; Radford, Alec; Klimov, Oleg. Proximal Policy Optimization Algorithms. 2017. arXiv:1707.06347  [cs.LG]. 
  20. ^ van Heeswijk, Wouter. Proximal Policy Optimization (PPO) Explained. Towards Data Science. 2022-11-29 [2022-12-05]. (原始内容存档于2022-12-06) (美国英语). 
  21. ^ ChatGPT Feedback Contest: Official Rules (PDF). OpenAI. [2022-12-30]. (原始内容存档 (PDF)于2023-01-18). 
  22. ^ OpenAI Codex shows the limits of large language models. [2023-02-12]. (原始内容存档于2023-03-06). 
  23. ^ Theory of Mind May Have Spontaneously Emerged in Large Language Models, Michal Kosinski. [2023-02-15]. (原始内容存档于2023-03-06). 
  24. ^ ChatGPT背后模型被证实具有人类心智,学术圈轰动. [2023-02-15]. (原始内容存档于2023-03-06). 
  25. ^ ChatGPT如何操作?註冊方式、應用方法一次看. 商业周刊. 2022-12-09 [2023-07-20]. 原始内容存档于2023-07-20. 
  26. ^ 26.0 26.1 Reich, Aaron. ChatGPT: What is the new free AI chatbot? – explainer. The Jerusalem Post. 2022-12-27 [2023-02-13]. (原始内容存档于2023-01-18). 
  27. ^ 27.0 27.1 Edwards, Benj. No Linux? No problem. Just get AI to hallucinate it for you. Ars Technica. 2022-12-05 [2022-12-05]. (原始内容存档于2022-12-26). 
  28. ^ Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. 2022-12-05 [2022-12-05]. (原始内容存档于2023-01-18). 
  29. ^ New and Improved Content Moderation Tooling. OpenAI. 2022-08-10 [2022-12-30]. (原始内容存档于2023-01-11) (英语). 
  30. ^ Markov, Todor; Zhang, Chong; Agarwal, Sandhini; Eloundou, Tyna; Lee, Teddy; Adler, Steven; Jiang, Angela; Weng, Lilian. A Holistic Approach to Undesired Content Detection in the Real World. 2022-08-05. arXiv:2208.03274  [cs.CL]. 
  31. ^ OpenAI. X. 2023-09-28 [2023-09-28]. 
  32. ^ Lakshmanan, Lak. Why large language models like ChatGPT are bullshit artists. becominghuman.ai. 2022-12-16 [2023-01-15]. (原始内容存档于2022-12-17). The human raters are not experts in the topic, and so they tend to choose text that looks convincing. They'd pick up on many symptoms of hallucination, but not all. Accuracy errors that creep in are difficult to catch. 
  33. ^ Gao, Leo; Schulman; Hilton, Jacob. Scaling Laws for Reward Model Overoptimization. 2022. arXiv:2210.10760  [cs.LG]. 
  34. ^ Whannel, Kate. Could a chatbot answer Prime Minister's Questions?. BBC News. 2022-12-27 [2022-12-30]. (原始内容存档于2023-01-17). 
  35. ^ Perrigo, Billy. AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits. Time. 2022-12-05 [2022-12-26]. (原始内容存档于2023-01-18). 
  36. ^ Biddle, Sam. The Internet's New Favorite AI Proposes Torturing Iranians and Surveilling Mosques. The Intercept. 2022-12-08 [2022-12-26]. (原始内容存档于2023-01-18). 
  37. ^ Two-thirds math. Is ChatGPT Good Enough for 5th Grade Math?. Medium. 2023-01-01 [2023-04-01]. (原始内容存档于2023-04-01) (英语). 
  38. ^ Murphy Kelly, Samantha. This AI chatbot is dominating social media with its frighteningly good essays. CNN. 2022-12-05 [2022-12-05]. (原始内容存档于2022-12-10). 
  39. ^ Vincent, James. OpenAI的新聊天机器人能解释代码和编写情景喜剧剧本,但仍然很容易被愚弄. The Verge. 2022年12月1日 [2023年1月6日]. (原始内容存档于2023年1月17日). 
  40. ^ Getahun, Hannah. Breaking ChatGPT: The AI's alter ego DAN reveals why the internet is so drawn to making the chatbot violate its own rules. Business Insider. [2023年3月5日]. (原始内容存档于2023年3月5日) (美国英语). 
  41. ^ Perrigo, Billy. chatgpt online. The Guarde. 2023-03-02 [2023-03-08]. (原始内容存档于2023-08-03). 
  42. ^ Woods, Allan. 我写了一个关于ChatGPT的AI的故事,然后我敢写一个更好的. 多伦多星报. 2022年12月10日 [2023年1月6日]. (原始内容存档于2023年1月6日) (英语). 
  43. ^ Rosenblatt, Kalhan. 一个AI聊天机器人走红了。有人说它比谷歌好,而其他人担心它有问题。. NBC新闻. 2022年12月2日 [2023年1月6日]. (原始内容存档于2023年2月3日) (美国英语). 
  44. ^ Karpf, David. Money Will Kill ChatGPT's Magic. The Atlantic. 2022-12-21 [2022-12-31]. (原始内容存档于2023-01-13) (英语). 
  45. ^ Ortiz, Sabrina. What is ChatGPT and why does it matter? Here's what you need to know. ZDNET. 2023-02-02 [2022-12-18]. (原始内容存档于2023-01-18) (英语). 
  46. ^ Milmo, Dan. ChatGPT reaches 100 million users two months after launch. The Guardian. 2023-12-02 [2023-02-03]. ISSN 0261-3077. (原始内容存档于2023-02-03) (英国英语). 
  47. ^ 47.0 47.1 Pitt, Sofia. Google vs. ChatGPT: Here's what happened when I swapped services for a day. CNBC. 2022-12-15 [2022-12-18]. (原始内容存档于2023-01-16) (英语). 
  48. ^ Walsh, Toby. Everyone's having a field day with ChatGPT – but nobody knows how it actually works. The Conversation. 2022-12-13 [2022-12-30]. (原始内容存档于2022-12-30) (英语). 
  49. ^ Reinventing search with a new AI-powered Microsoft Bing and Edge, your copilot for the web. The Official Microsoft Blog. 2023-02-07 [2023-02-16]. (原始内容存档于2023-03-07). 
  50. ^ 凯文 Kevin. 手機也能玩ChatGPT 聊天機器人Poe使用教學全攻略. SOGI手机王. 2023-03-13 [2023-04-03]. (原始内容存档于2023-04-15) (中文(台湾)). 
  51. ^ ChatGPT Pro plan costs $42/mo, free plan available when demand is low. [2023-01-24]. (原始内容存档于2023-03-06). 
  52. ^ 52.0 52.1 Edwards, Benj. OpenAI's GPT-4 exhibits "human-level performance" on professional benchmarks. Ars Technica. 2023-03-14 [2023-03-15]. (原始内容存档于2023-03-14). 
  53. ^ Code Interpreter comes to all ChatGPT Plus users: 7 ways it may threaten data scientists, July 11, 2023. [2023-07-11]. (原始内容存档于2023-07-22). 
  54. ^ Rogers, Reece. 5 Key Updates in GPT-4 Turbo, OpenAI’s Newest Model. Wired. 
  55. ^ Introducing the ChatGPT app for iOS. OpenAI. 2023-05-19 [2023-05-19]. (原始内容存档于2023-06-05) (英语). 
  56. ^ ChatGPT Supported Countries. [2023-07-30]. (原始内容存档于2023-11-07). 
  57. ^ Hayden Field. OpenAI’s ChatGPT app now available for Android. CNBC. 2023-07-25. (原始内容存档于2023-07-29) (英语). 
  58. ^ Introducing ChatGPT and Whisper APIs. OpenAI. [2023-03-06]. (原始内容存档于2023-03-07) (美国英语). 
  59. ^ OpenAI 宣布开放 API,开发人员可将 ChatGPT 集成到自己的产品中 - IT之家. IT之家. [2023-03-06]. (原始内容存档于2023-03-06). 
  60. ^ How to Build Your Own AI Chatbot With ChatGPT API: A Step-by-Step Tutorial. [2023-03-09]. (原始内容存档于2023-03-28). 
  61. ^ 7 ChatGPT API Use Cases That Caught Our Eyes, By Shyam Nandan Upadhyay, AIM, March 7, 2023. [2023-03-10]. (原始内容存档于2023-03-27). 
  62. ^ Lock, Samantha. What is AI chatbot phenomenon ChatGPT and could it replace humans?. The Guardian. 2022-12-05 [2022-12-05]. (原始内容存档于2023-01-16). 
  63. ^ Hern, Alex. AI bot ChatGPT stuns academics with essay-writing skills and usability. The Guardian. 2022-12-04 [2022-12-05]. (原始内容存档于2023-01-17). 
  64. ^ Kantrowitz, Alex. Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test". Slate. 2022-12-02 [2022-12-05]. (原始内容存档于2023-01-17). 
  65. ^ Thompson, Derek. Breakthroughs of the Year. The Atlantic. 2022-12-08 [2022-12-18]. (原始内容存档于2023-01-15). 
  66. ^ Piper, Kelsey. ChatGPT has given everyone a glimpse at AI's astounding progress. Vox. 2022-12-15 [2022-12-18]. (原始内容存档于2023-01-19) (英语). 
  67. ^ Zhiling Zheng, Oufan Zhang, Christian Borgs, Jennifer T. Chayes, and Omar M. Yaghi. ChatGPT Chemistry Assistant for Text Mining and the Prediction of MOF Synthesis. J. Am. Chem. Soc. 2023, 145, 32, 18048–18062. doi:10.1021/jacs.3c05819.
  68. ^ 68.0 68.1 68.2 Cain, Sian. 'This song sucks': Nick Cave responds to ChatGPT song written in the style of Nick Cave. The Guardian. 2023-01-16 [2023-01-17]. (原始内容存档于2023-01-18) (英语). 
  69. ^ Vincent, James. ChatGPT proves AI is finally mainstream – and things are only going to get weirder. The Verge. 2022-12-08 [2022-12-08]. (原始内容存档于2023-01-11) (美国英语). 
  70. ^ Rachini, Mouhamad. ChatGPT a 'landmark event' for AI, but what does it mean for the future of human labor and disinformation?. CBC. 2022-12-15 [2022-12-18]. (原始内容存档于2023-01-19). 
  71. ^ Pearl, Mike. The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong. Mashable. 2022-12-03 [2022-12-05]. (原始内容存档于2022-12-10). 
  72. ^ Vincent, James. OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked. The Verge. 2022-12-01 [2022-12-18]. (原始内容存档于2023-01-17). 
  73. ^ Mannix, Liam. Is AI coming of age – or starting to reach its limits?. The Sydney Morning Herald. 2022-12-13 [2022-12-18]. (原始内容存档于2023-01-07) (英语). 
  74. ^ Vincent, James. Top AI conference bans use of ChatGPT and AI language tools to write academic papers. The Verge. 2023-01-05 [2023-01-06]. (原始内容存档于2023-01-17). 
  75. ^ 《國際政治》紐約市公立學校 禁用ChatGPT. [2023-02-07]. (原始内容存档于2023-03-06). 
  76. ^ 香港大學禁用ChatGPT 台大研議是否跟進. 中央社. 2023-02-20 [2023-03-26]. (原始内容存档于2023-03-26). 
  77. ^ Krugman, Paul. Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?. The New York Times. 2022-12-06 [2022-12-06]. (原始内容存档于2023-01-13). 
  78. ^ Chomsky, Noam; Roberts, Ian; Watumull, Jeffrey. Noam Chomsky: The False Promise of ChatGPT [乔姆斯基:ChatGPT的虚假承诺]. 纽约时报. 由龚思量翻译. 2023-03-08 [2023-03-19]. (原始内容存档于2023-03-19) –通过澎湃新闻 (英语). Given the amorality, faux science and linguistic incompetence of these systems, we can only laugh or cry at their popularity 
  79. ^ Cave, Nick. I asked Chat GPT to write a song in the style of Nick Cave, and this is what it produced. What do you think?. The Red Hand Files. Issue #218. 2023-01-16 [2023-01-20]. (原始内容存档于2023-01-20) (澳大利亚英语). 
  80. ^ Sparrow, Jeff. Are AI-generated songs a 'grotesque mockery' of humanity or simply an opportunity to make a new kind of music?. The Guardian. 2023-01-20 [2023-01-20]. (原始内容存档于2023-02-03) (英语). 
  81. ^ 杭州3月1日取消限行?原来是ChatGPT写的假新闻,警方已介入!专家:这些风险也很大…………. [2023-02-17]. (原始内容存档于2023-03-06). 
  82. ^ ChatGPT能看病吗?医生出了一百道单选题,它没及格. [2023-02-24]. (原始内容存档于2023-03-06). 
  83. ^ 意大利禁用ChatGPT. RFI - 法国国际广播电台. 2023-03-31 [2023-04-01]. (原始内容存档于2023-04-29) (中文). 
  84. ^ ChatGPT: US lawyer admits using AI for case research. BBC. 2023-05-29 [2023-05-30]. (原始内容存档于2023-06-09) (英语). 
  85. ^ 巴西地方法官竟然用ChatGPT写判决书出错,正接受调查. 环球网. [2023-12-02] (中文). 
  86. ^ Marche, Stephen. The College Essay Is Dead. The Atlantic. 2022-12-06 [2022-12-08]. (原始内容存档于2023-01-24). 
  87. ^ Herman, Daniel. The End of High-School English. The Atlantic. 2022-12-09 [2022-12-12]. (原始内容存档于2023-01-20). 
  88. ^ EDWARD TIAN’S APP COMBATS MISUSE OF CHATGPT. [2023-01-26]. (原始内容存档于2023-03-06). 
  89. ^ Rosalsky, Greg; Peaslee, Emma. This 22-year-old is trying to save us from ChatGPT before it changes writing forever. NPR. 2023-01-17 [2023-01-18]. (原始内容存档于2023-01-18). On January 2nd, Edward released his app. He named it GPTZero. It basically uses ChatGPT against itself, checking whether "there's zero involvement or a lot of involvement" of the AI system in creating a given text. [...] Along these lines, one obvious application for GPTZero is to help teachers identify whether their students are plagiarizing their essays from ChatGPT. 
  90. ^ Teachers are lining up for a ChatGPT detector created by this 22-year-old in Toronto. [2023-01-26]. (原始内容存档于2023-03-04). 
  91. ^ NYC Bans Students and Teachers from Using ChatGPT. www.vice.com. [2023-02-04]. (原始内容存档于2023-01-05) (英语). 
  92. ^ Tools such as ChatGPT threaten transparent science; here are our ground rules for their use. Nature. 2023-01-23 [2023-02-04]. (原始内容存档于2023-03-07). 
  93. ^ 霍尔顿·索普. ChatGPT is fun, but not an author. 科学. 2023-01-26 [2023-02-04]. (原始内容存档于2023-03-06). 
  94. ^ 港大禁用ChatGPT等AI工具 为全港大学首例. [2023-02-18]. (原始内容存档于2023-03-06). 
  95. ^ 港大禁用ChatGPT等AI工具,为全港大学首例. 澎湃新闻 (中国新闻网). 2023-02-18 [2023-02-19]. (原始内容存档于2023-03-06). 
  96. ^ Shiona, McCallum. ChatGPT banned in Italy over privacy concerns. BBC. 2023-04-01 [2023-04-01]. (原始内容存档于2023-06-09) (英语). 
  97. ^ 義大利封鎖ChatGPT!官方:有嚴重疑慮. Yahoo奇摩新闻. 2023-04-01 [2023-04-01]. (原始内容存档于2023-04-04) (中文(台湾)). 
  98. ^ Shiona, McCallum. ChatGPT accessible again in Italy. BBC. 2023-04-28 [2023-04-29]. (原始内容存档于2023-05-25) (英语). 
  99. ^ 「ChatGPT」開発企業のアルトマンCEO 岸田首相と面会. NHKニュース. 2023-04-10 [2023-04-10]. (原始内容存档于2023-04-26) (日语). 
  100. ^ 政府回應ChatGPT封鎖. hkTec. 2023-05-12 [2023-05-12]. (原始内容存档于2023-05-19) (中文). 
  101. ^ Jeantet, Diane; Savarese, Mauricio. Brazilian city enacts an ordinance that was secretly written by ChatGPT. AP News. 2023-11-30 [2023-12-02]. 
  102. ^ Mark Gurman. Samsung Bans Staff’s AI Use After Spotting ChatGPT Data Leak. Bloomberg. 2023-05-02 [2023-05-19]. (原始内容存档于2023-05-19) (英语). 
  103. ^ Aaron Tilley; Miles Kruppa. 苹果公司限制员工使用ChatGPT,加入担心泄密的公司行列. 华尔街日报. 2023-05-19 [2023-05-19]. (原始内容存档于2023-06-03) (中文(中国大陆)). 
  104. ^ 简立峰. 台灣 Google 前董事總經理簡立峰:ChatGPT 時代,不問問題會喪失學習的機會. 翻转教育-亲子天下. 2023-06-05 [2023-05-31]. (原始内容存档于2023-06-27) (中文(台湾)). 
  105. ^ 施云心. ChatGPT怎麼用?8種老師應用ChatGPT的方法分享. 翻转教育-亲子天下. 2023-04-16 [2023-04-16]. 原始内容存档于2023-04-17 (中文(台湾)). 
  106. ^ Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer. Time. 2023-01-18 [2023-11-21] (英语). 
  107. ^ Vincent, James. Google opens early access to its ChatGPT rival Bard — here are our first impressions. The Verge. 2023-03-21 [2023-03-21]. (原始内容存档于2023-03-21). 
  108. ^ Google Bard支援語言及地區. [2023-06-06]. (原始内容存档于2023-05-12). 
  109. ^ Google生成式AI「Bard」開始提供日語、韓語等服務. [2023-06-06]. (原始内容存档于2023-06-06). 
  110. ^ Baidu leaps to 11-month high as it reveals plan to launch ChatGPT-style ‘Ernie Bot’. [2023-02-15]. (原始内容存档于2023-03-06). 
  111. ^ 复旦大学团队发布国内首个类 ChatGPT 模型 MOSS,与《流浪地球》AI 同名 - IT之家. www.ithome.com. [2023-02-21]. (原始内容存档于2023-03-06). 
  112. ^ 复旦MOSS团队就“服务器崩溃”致歉:模型还不成熟. [2023-02-26]. (原始内容存档于2023-03-06). 
  113. ^ 国产对话模型ChatGLM启动内测. finance.sina.cn. 2023-03-22 [2023-04-02]. (原始内容存档于2023-04-02). 
  114. ^ 阿里云大模型“通义千问”开启邀测 企业客户先行试水. news.cnstock.com. 2023-04-27 [2023-04-10]. (原始内容存档于2023-04-16). 
  115. ^ 朱立新. 科大讯飞发布讯飞星火认知大模型 10月底或整体赶超ChatGPT. 中国日报. 2023-05-07 [2023-05-19]. (原始内容存档于2023-05-19) (中文(中国大陆)). 
  116. ^ Wiggers, Kyle. Anthropic launches Claude, a chatbot to rival OpenAI's ChatGPT. TechCrunch. 2023-03-14 [2023-05-21]. (原始内容存档于2023-06-09) (美国英语). 
  117. ^ Nellis, Stephen. Alphabet-backed Anthropic releases OpenAI competitor named Claude. Reuters. 2023-03-14 [2023-05-21]. (原始内容存档于2023-05-27) (英语). 

外部链接 编辑