ChatGPT，变革与风险

美国人工智能公司OpenAI的大语言模型ChatGPT在推出约两个月后，1月已达到1亿月活跃用户，成为历史上增长最快的消费者应用程序。相关专家预计，ChatGPT不仅是新一代聊天机器人的突破，也将为信息产业带来巨大变革，但由此带来的学术造假、技术滥用、舆论安全等风险亦不容忽视。

新一代操作系统平台的雏形

多语言撰写充满想象力的诗歌，编写可运行的程序，快速生成论文摘要，自动制作数据表格，纠正文章中的语法和表达错误，把一周大事写成新闻综述……ChatGPT不仅能理解很多人类问题和指令，流畅展开多轮对话，也在越来越多领域显示出解决多种通用问题的能力。

ChatGPT还轻松通过一些对人类难度较高的专业级测试：它新近通过了谷歌编码L3级（入门级）工程师测试；分别以B和C+的成绩通过了美国宾夕法尼亚大学沃顿商学院MBA的期末考试和明尼苏达大学四门课程的研究生考试；通过了美国执业医师资格考试……业界形容它的诞生是人工智能时代的“iPhone时刻”，意味着人工智能迎来革命性转折点。

“ChatGPT的成功不应仅仅被看作新一代聊天机器人的突破，而应该重视其对人工智能乃至整个信息产业带来的革命。”北京智源人工智能研究院院长黄铁军接受记者专访时说，人工智能领域的过去十年是深度学习的十年，但产业总体上并没有出现移动互联网和云计算级别的爆发，“ChatGPT的出现，具有划时代意义，大模型+ChatGPT已形成新一代操作系统平台的雏形”。

黄铁军说，ChatGPT在技术路径上采用了“大数据+大算力+强算法=大模型”路线，又在“基础大模型+指令微调”方向探索出新范式，其中基础大模型类似大脑，指令微调是交互训练，两者结合实现逼近人类的语言智能。ChatGPT应用了“基于人类反馈的强化学习”训练方式，用人类偏好作为奖励信号训练模型，促使模型越来越符合人类的认知理解模式。

“这样的AI可帮助人类进行真实创造，尤其是帮助人类提高创造效率，比如提高获取信息的效率或提出新颖想法，再由人解决其真实性问题。创造效率的提高将产生巨大效益和多方面影响，可以改变世界信息化格局。”中国科学技术大学机器人实验室主任陈小平对记者说。

引发新一轮人工智能科技竞赛

ChatGPT的问世正在人工智能领域引发新一轮科技竞赛。北京时间2月8日凌晨，微软推出由ChatGPT支持的最新版本必应搜索引擎和Edge浏览器，宣布要“重塑搜索”。微软旗下Office、Azure云服务等所有产品都将全线整合ChatGPT。

北京时间2月7日凌晨，谷歌也发布了基于谷歌LaMDA大模型的下一代对话AI系统Bard。同一天，百度官宣正在研发的大模型类项目“文心一言”，计划在3月完成内测，随后对公众开放。阿里巴巴、京东等中国企业也表示正在或计划研发类似产品。

人工智能大模型领域的全球竞争已趋白热化。黄铁军认为，ChatGPT未来有望演变成新一代操作系统平台和生态。这种变革似移动互联网从个人电脑到手机的转化，大部分计算负荷将由大模型为核心的新一代信息基础设施接管。这一新范式将影响从应用到基础设施各层面，引发整个产业格局的巨变，大模型及其软硬件支撑系统的生态之争将成为未来十年信息产业焦点。

值得注意的是，ChatGPT有时会“一本正经地胡说八道”，存在事实性错误、知识盲区和常识偏差等诸多问题，还面临训练数据来源合规性、数据使用的偏见性、生成虚假信息、版权争议等人工智能通用风险。多家全球知名学术期刊为此更新编辑准则，包括任何大型语言模型工具都不会被接受为研究论文署名作者等。

“学术论文的署名作者须满足至少两个条件，其一是在论文工作中做出‘实质性贡献’，其二是能承担相关的责任。目前这两个条件ChatGPT（以及其他AI系统）都不满足。”陈小平说。

ChatGPT也有应用在舆论信息战方面的潜力。加拿大麦吉尔大学研究团队曾使用ChatGPT前代模型GPT-2阅读加拿大广播公司播发的约5000篇有关新冠疫情的文章，然后要求其生成关于这场危机的“反事实新闻”。连OpenAI也警告使用ChatGPT的用户，它“可能偶尔会生成不正确的信息”，“产生有害指令或有偏见的内容”。

“针对这些问题，需要我们在发展技术的同时，对于ChatGPT应用边界加以管控，建立起对人工智能生成内容的管理法规，对利用人工智能生成和传播不实不良内容进行规避。同时加强治理工具的开发，通过技术手段识别人工智能生成内容。这对于内容检测和作品确权，都是重要前提。”北京瑞莱智慧科技有限公司副总裁唐家渝说。

来源：新华社

记者：彭茜、黄堃

风暴眼中的ChatGPT

世界已经永远改变了

新世界徐徐降临，大多数人尚无所觉

一

世界最新的风暴眼，位于美国东海岸微软云数据中心，数层楼高的白色集装箱内。

集装箱里堆叠的服务器中，代码总量超350G的ChatGPT系统正飞速推衍，生成亿万灵魂，迎接四海来客。

ChatGPT是一款人工智能聊天程序，开发公司为OpenAI，公司创始人之一是风骚时代的马斯克。

ChatGPT去年11月底仓促推出，未料到，亮相即封神。

ChatGPT并非根据提问搜索回答，而是通过自身数据库，自行理解后作答。

它的智力，诞生于此前3年100亿条句子的日夜训练。训练总文本超45TB。

与它的一问一答，已非提问和搜索，更像是一场跨物种的对话。

最初，人们询问的还是菜谱等攻略，感叹对答的丝滑，但很快，故事开始失控。

谷歌面试官发现ChatGPT，能通过年薪18万美元工程师招聘考试。

北密歇根大学教授，发现班里最好的论文，出自ChatGPT之手。

《福布斯》称全美已有89%学生用ChatGPT写作业，《大西洋月刊》称，ChatGPT出现后，大学论文宣布死亡。

有UP主用它写《植物大战僵尸》游戏代码，发现直接可用。还有人零基础，靠它做出了3D射击游戏。

公关公司用它当宣传策划，推销员把它训练成资深客服。美国房产中介用它生成房源文案，一小时工作量，5秒完成。

剧作家和小说家姗姗来迟，所受冲击却最为强烈。

有人用ChatGPT生成了《老友记》二十年后重聚剧本，情节流畅自然。AI构想中，瑞秋当上时装设计师，而菲比依旧在玩音乐和巡演。

它掌握地球上大多数小说的情节，熟稔无数套路，并可模仿众多名家文风。

它参照柯南道尔笔触，不到3分钟完成新的福尔摩斯。

它能探讨哲学，拆解历史，证明数学定理，并不限语言和格式。它的能力多寡，取决于我们的想象力。

我们在键盘或屏幕上，怯懦地缩回手指。如同即将踏足月球的阿姆斯特朗，或者刚刚分开海水的摩西。

它所展示的新世界已足够令人疯狂。资本追逐下，OpenAI估值已达290亿美元，成为地球上估值最高的初创公司。

国内股市 ChatGPT概念股一周内集体涨了25%，所有大厂都称要推出自己的 ChatGPT。

人们热衷讨论它的神奇，却忽略了，每一场超级工具降临，都将引发革命。

比尔盖茨意味深长地提示：ChatGPT出现的重大历史意义，不亚于PC和互联网诞生。

1492年秋日，新大陆的岛民，兴奋地见到哥伦布的船艇。他们用鹦鹉和线团，换来了新鲜的小玻璃珠和小铃铛。

那是一场愉悦的玩闹。没几个人注意到，船后面惊雷般的涛声。

二

百年来，人类已经历三次超级工具的降临，而且密集发生在最近三十年。

第一个降临的超级工具是互联网，它引发了“空间革命”。它用虚拟的聚合，跨越了现实的空间。

和ChatGPT一样，互联网最初故事也起始于聊天界面。简陋聊天室中，天南海北的人们，第一次感受超越距离的魅力。

很快，跨越长城的电邮，跨越大洋的视讯，聚拢全球玩家的网游相继出现。虽然民航速度半个世纪都锁在900公里每小时，但互联网能将地球压缩成村落。

更复杂的全球贸易，因互联网而诞生。印度的代码、美国的系统、欧美的订单、义乌的商品，繁忙的大洋上空，是更繁忙的互联网。

大多数人都未曾料到革命。1996年的初春，马云还背着黑色单肩包，敲门推销“我可以帮你去世界上打广告”。信者寥寥。

第二个降临的超级工具是智能手机，它引发的是“时间革命”。它让我们的工作、生活、娱乐，无时无刻不线上化。

它在降临初也遭误判，2007年，乔布斯举起第一部iPhone手机时，流行论调不过是“更方便看网页”。微软时任总裁称“世界终究要按照我们的规则”。

如今身在浪潮中的我们，已深知其力。

时间已被压榨殆尽，最快交易，最速送达，最短时间内获得足量多巴胺。每一秒都已被算法标记。

第三个超级工具ChatGPT降临，它将引发“思维革命”。它改变了人类思考和处理问题的方式，并由此重塑世界。

在ChatGPT之前，人类是孤独的思考者，面对文明千年积累的巨大图书馆，也只能想办法提高检索的效率。

而现在图书馆多了一位管理员，它包罗万象，逻辑清晰，回答飞速，并能综合所有已知知识，为你提供策略。

现行ChatGPT并非最高版本，数据库也停留在2021年，回答算法还在迭代进化，而后续推出的专业化定制版本，或将成为人类的辅脑。

不再一个人求解，而是人机交流中同行。这是第三次革命的起点。

电影《钢铁侠》中，最酷的不光有战甲，还有实验室里声音灵动的人工智能。

它能将钢铁侠的创意，飞速拓展，执行，补充细节。光影幻动间，创意已成现实，恍如魔法。

那不是未来，那将是当下。

三

前两次超级工具引发的革命，改变了世纪面貌。我们现在正生活在革命的遗骸之上。

每次浪潮开启，博弈都遍布每个角落，生灭交替循环。

第一次革命，催生出网站编辑、网店店主、网文作者、电竞选手，也引发了唱片谢幕和百货大楼凋零。

第二次革命，催生出新媒体人、视频主播、带货达人，也荒芜了路边报亭，淘汰掉胶卷和现金。

2019年，美国CNBC报道称，“iPhone创造的新行业与其摧毁的行业一样多”。

而今，第三次革命开启，以远超以往的速度。

2月1日，ChatGPT月活用户破1亿人，ins实现这一数据用时两年，TikTok用时9个月，而ChatGPT仅用60天。

愤怒的人们指责它制造信息垃圾，惶恐的人们担忧它引发裁员，而更多人则关心，它会引发怎样的生灭。

ChatGPT投资方之一微软称，旗下所有产品都将整合ChatGPT，Word可以自动写周报，Outlook可以自动写请假邮件。

最快的是微软搜索引擎Bing，已于前日初步内置了ChatGPT。

而在更大领域，专家推测，ChatGPT将改变搜索习惯，替代咨询行业，替换传统客服，颠覆代码创作，改变将快速发生。

新闻中，谷歌两位退隐数年的创始人，已紧急返回公司，研发对策，升级代码。

站在冲击一线的还有内容行业。

格式固定的公文写作、套路重复的公关写作，以及有迹可循的新闻写作，ChatGPT都可完美完成。

小说、剧作、漫画和动画脚本，ChatGPT也可在调校下，以远超传统的速度完成。

已有大学生，用ChatGPT完成脚本，用其他AI工具完成画面，独立制作动画短片。一个人即影视公司。

《人类简史》作者，在去年推出的新版序言中，提前试用了ChatGPT。序言开篇六段用AI完成，几可乱真。

在旧职业灭亡同时，新职业也在诞生。可以预测，AI调校师，AI创意师，AI对接技术员，将进入大多数行业。

ChatGPT是超级工具，不是超级智能，它不会替代人类，而是在升级行业。它将极大降低创意和执行门槛，与人类相辅相成。

革命的前夜，永远哀声与圣歌并存。

那些阴云与城墙，那些风吼与涛声，那些那些砸碎织布机的纺织工人，烧掉集装箱的码头工会，哭泣着说被淘汰的高速公路收费员，以及正卷入洪流的我们。

这只是开始，ChatGPT之外，AI绘画正窥探艺术，AI制药正破解生命，波士顿动力的机器人正凌空后空翻，虚拟主播正占据屏幕。

AI民用的时代，拉开了厚重又宽大的帷幕，新世界徐徐降临。

美国学者、专栏作家弗兰克，深入研究ChatGPT后写道：我们面临的是对社会的彻底重新定义，以及人类即将过时。

来源：摩登中产

ChatGPT、乔姆斯基、史蒂芬·平克、图灵和语言的未来

新旧年之交，一个幽灵，一个万能程序的幽灵，在全球游荡。

这个幽灵的名字叫ChatGPT，由于它横空出世的时间如此之近，中文世界还没有想出它的中文译名。

那么Chomsky 和 Steven Pinker会怎么看待ChatGPT呢？下面小编分享一篇趣味加学术性兼备的文章：

Chomsky 的观点

我一直对乔姆斯基关于语言性质的观点以及它在过去引发的辩论很着迷。基于他对语言和自然与养育之争的看法，我猜测乔姆斯基会对ChatGPT和其他语言模式提出一些批评。

作为自然主义观点的支持者，乔姆斯基认为，获得和使用语言的能力是人类与生俱来的，语言的某些基本原则，如句法，是硬塞进大脑的。他可能会认为，ChatGPT作为一个机器学习模型，并不具备这种获得和使用语言的先天能力，而只是在模仿它在数据中看到的模式。

另一方面，乔姆斯基也可能对像ChatGPT这样的语言模型的潜力感兴趣，以提供对语言本质和人类思维结构的洞察力。他一直主张使用计算模型来研究语言，并可能将ChatGPT视为测试和评估他自己的语言学理论的宝贵工具

。

不过，从视频中可以看出，乔老爷子并不认可ChatGPT

Steven Pinker 的观点

作为一个经验主义者，史蒂文-平克认为，语言是通过经验学习的，不存在先天的语言知识。他可能会认为，ChatGPT作为一个机器学习模型，并不具备语言的先天知识，而只是在模仿它在数据中看到的模式。

另一方面，平克也是一位认知科学家和语言研究者，他对语言模型等计算模型的潜力感兴趣，认为它可以为语言的本质和人类的思维结构提供洞察力。平克可能认为ChatGPT是测试和评估他自己的语言学理论，以及理解语言在人类头脑中如何运作的一个有价值的工具。

阿兰-图灵会怎么看？

阿兰-图灵会对机器学习和人工智能模拟类似人类语言能力的潜力感兴趣。

图灵因其在 "通用机器 "概念上的工作而闻名，即一台机器可以模拟任何其他机器的行为，包括那些有智能行为能力的机器。他还提出了图灵测试，作为衡量机器是否能够表现出类似人类的智能的标准。

鉴于这些贡献，图灵很可能会对ChatGPT和类似模型的发展感兴趣，将其作为创造能够模拟人类语言能力的机器的一个步骤。他也可能对这些模型产生大量数据的能力感到好奇，这些数据可以用来测试关于语言和人工智能的假设。

在任何情况下，看到他对此的看法会很有趣，但不可能确定他的想法。

ChatGPT中的一些语言学理论争议

语言学中最基本的争论之一是自然与培养的争论，它涉及到语言发展中先天（即 "自然"）与后天（即 "培养"）因素的相对重要性。

一方面，由诺姆-乔姆斯基提出的自然主义观点声称，获得和使用语言的能力是人类与生俱来的，语言的某些基本原则，如句法，是硬性植入大脑的。另一方面，由约翰-洛克等哲学家提出的经验主义观点声称，语言是通过经验学习的，不存在先天的语言知识。

语言学的另一个基本辩论是关于语言和思想之间的关系。萨皮尔-沃尔夫假说（Sapir-Whorf Hypothesis），也被称为语言相对性假说，声称一个人的语言结构会影响他们的思维方式，而相反的观点，被称为语言决定论，声称语言并不决定思维，而是反映思维。

ChatGPT可能用到的语言学理论

1. 结构主义。由费迪南-德-索绪尔提出，这一理论强调对语言的基本结构的研究。

2. 生成语法：由诺姆-乔姆斯基（Noam Chomsky）提出，该理论认为生成无限多的句子的能力是人类与生俱来的。

3. 功能主义。由J.R. Firth和后来的M.A.K Halliday提出，这一理论强调语言的社会功能以及语言在语境中的使用方式。

4. 认知语言学。该理论由George Lakoff等人发展，提出语言是人类一般认知的一部分，语言结构是基于我们的一般概念系统。

5. 语料库语言学。由约翰-辛克莱尔提出，这一理论涉及使用大量的自然语言文本集合，称为语料库，来研究语言。

6. 进化语言学。该理论由西蒙-科比提出，认为人类的语言是通过自然选择的过程演变而来，并使用进化生物学的方法来研究语言的起源和发展。

7. 系统功能语言学。该理论由Michael Halliday提出，是功能语言学和结构语言学分析的结合，主要研究语言的社会功能和用于实现这些功能的语法系统。

8. 语用学。由J.L. Austin和H.P. Grice等哲学家开发，语用学是研究意义如何在语境中被创造和理解。

9. 符号学。由查尔斯-桑德斯-皮尔斯和费迪南-德-索绪尔开发，符号学是对符号和象征的研究，以及它们如何被用来交流意义。

10. 对比分析。由罗伯特-拉多开发，这一理论对不同的语言进行比较和对比，用于确定学习者在学习第二语言时可能遇到的潜在困难。

11. 计算语言学。该理论使用计算方法来研究语言，包括自然语言处理、机器学习和人工智能。

12. 话语分析。由Michel Foucault、Norman Fairclough和Deborah Tannen等学者开发，话语分析研究了语言、权力和社会结构之间的关系。

13. 基于语料库的翻译研究。由莫娜-贝克和安德鲁-切斯特曼等学者开发，这一理论专注于使用基于计算机的语料库分析和研究来研究翻译。

14. 批评话语分析。由Norman Fairclough、Teun A. van Dijk和Ruth Wodak等学者开发，这一理论研究语言与权力之间的关系，以及语言如何被用来维持或挑战社会不平等。

本文节选自Erman Akdogan 教授博客

转自：“科研琅玡榜”微信公众号

如有侵权，请联系本站删除！