李志民：ChatGPT本质分析及其对教育的影响
引用格式
李志民.ChatGPT本质分析及其对教育的影响[J].中国教育信息化,2023,29(3):12-18.DOI: 10.3969/j.issn.1673-8454.2023.03.002.
人工智能与未来教育前沿研究
ChatGPT本质分析及其对教育的影响
李志民
摘要：ChatGPT作为人工智能技术驱动的信息获取新工具，功能远远超过以往的任何检索搜索工具。它的出现是人工智能发展过程中的标志性成果，也为人工智能教育研究提供了新的视角。通过观察研究、文献研究等方法，提出互联网是信息技术前所未有的变革，是人类在改造自然中的一次新的飞跃，必将推动人类文明迈上新台阶；ChatGPT是在互联网承载基础上的人工智能开发，无论是大数据收集训练，还是大算力运行，都离不开互联网；ChatGPT会对包括咨询在内的一些行业产生影响，但目前不会取代任何职业。基于以上分析提出：ChatGPT对教育的影响主要在高等教育阶段，可以提高学习和研究效率，也可能影响教育评估和评价，还会推动教育向提高学术创造力和思辨性思维发展；不管技术如何发展，知识依然是个人幸福和社会发展的基石，也是现代社会的核心资源；促进社会进步的关键是扩大教育机会，使更多人接受高等教育，进而推进教育高质量发展。
关键词：ChatGPT；人工智能；互联网；教育数字化；教育评估；教育评价
中图分类号：G434
文献标志码：A
文章编号：1673-8454（2023）03-0012-07
作者简介：李志民，清华大学网络科学与网络空间研究院兼职教授，中国教育发展战略学会副会长兼人才发展专业委员会理事长，中国科技评估与成果管理研究会副会长兼学术委员会主任（北京 100084）
一、引言
最近，ChatGPT（全称为Chat Generative Pre-trained Transformer，也即聊天预训练生成模型）火爆于网络。一时间，很多人都在谈论它，并尝试与之对话。ChatGPT由美国OpenAI公司开发训练，它能够用几种不同的语言回答问题或根据使用者的请求提供信息，还能够进行简单对话、讨论任何问题，并提供人性化的文本。事实上，ChatGPT只是自然人单方提问，不是真正的自然人双方对话，可以说不是真正的聊天。它不是一个真正的人，只是一个电脑程序。其知识水平仅限于“训练语料库”，没有能力跟踪当前事件或获取新信息。
近20年来，人工智能研究不断取得新成果。ChatGPT的出现，不同于以往的人工智能突破，仅仅具有展示或表演的价值，或者新突破技术仅仅掌握在少数公司或个人手里，冲击的也是少数人和个别产业。ChatGPT是人人可用、行行有用的信息助理。尽管ChatGPT现在还会出现错误或不准确的情况，但随着其迭代升级，功能将会逐渐强大，成为人人可以随时调取的基础信息工具，也必然会对各行各业带来巨大冲击。有研究人员称，ChatGPT的问世，可以类比为台式计算机或互联网的发明，对人类的影响之大难以估量。本文通过观察研究、文献研究等方法，对ChatGPT的本质及其对教育的影响进行分析，以期为未来相关研究提供参考。
二、ChatGPT本质分析
（一）ChatGPT是人工智能发展过程中的标志性成果
ChatGPT之所以火热，是因为其能够回答人类所提出的问题，并给出接近人类表达的正确答案。而最主要的是，ChatGPT能够成为普通人使用的工具，尽管它依然不完美。以往的人工智能标志性成果，如AlphaGo、自动驾驶软件等，皆通过演示和表演实现功能，而ChatGPT是以连接主义的神经网络研究应用为主线，推动深度学习发展从量变到质变，“人人能用”是其火爆的根本原因。
人工智能概念提出较早（1956年），进展起起伏伏。进入21世纪后，互联网发展给人工智能研究提供了强有力的工具，新成果不断出现，如语音识别、图像识别、AlphaGo、ChatGPT，每隔5~6年就会有新的产品出现。但目前仍处于弱人工智能阶段，本质上是人类自身无法真正认识自然人的智能是如何产生的。
从科研层面来看，人工智能研究分为基础层、技术层和应用层。在人工智能的基础层研究中，根据对自然人产生智能的路径猜想，研究路径分为符号主义、连接主义和行为主义。
1.符号主义
符号主义曾经很辉煌，但不能从根本上解决智能问题。它是从人类认知顺序：人类抽象出的符号，源头是身体对物理世界的感知，人类能够通过符号认知解析进行交流，是因为人类拥有类似的身体。计算机只处理符号，不可能有类人感知和类人智能。人类可意会而不能言传的“潜智能”，不必或不能形式化为符号时，更是计算机不能触及的。要实现类人乃至超人智能，就不能仅仅依靠计算机。
2.连接主义
连接主义采取自底向上的路线，强调智能活动是由大量简单单元通过复杂连接后并行运行的结果。它的基本思想是：既然生物智能是由神经网络产生的，那就通过人工方式构造神经网络，再训练人工神经网络产生智能。困难在于，不知道什么样的神经网络能够产生预期智能，因此大量探索归于失败。20世纪80年代神经网络曾经兴盛一时，掀起本轮人工智能浪潮的深度神经网络只有少数成功个案。
3.行为主义
行为主义是第三条路径。生物智能是自然进化的产物，生物通过与环境以及其他生物之间的相互作用发展出越来越强的智能，研究人员认为人工智能也可以沿这个途径发展。这个学派在20世纪80年代末90年代初兴起，近年来颇受瞩目的波士顿动力公司的机器狗、机器人就是这个学派的代表作。[1]
总体来说，ChatGPT属于连接主义，经过多次迭代进行完善，是深度神经网络的成功个案。它能回答问题，提供简化和改进学术写作过程的可能性；可以帮助用户构建和形成想法，建议可能的更改，并提供在项目上合作的可能性，等等。
（二）ChatGPT难以比肩人类历史上的四次信息技术革命
ChatGPT注册用户量短时间内超过以往的任何新技术平台，加之服务功能多，有人把它说成是新的信息革命。事实上，ChatGPT难以比肩人类历史上的四次信息技术革命。
物质、能量和信息是构成人类生存的三大基本要素。信息交流自人类社会形成以来就存在，并随着科学技术的进步而不断变革。信息技术的出现和进一步发展使人类生产和生活发生巨大变化，引起经济和社会变革。从古到今，人类共经历了四次信息技术革命，每一次信息技术革命都推动人类文明迈上新的台阶。
1.语言的使用发展到文字的创造
语言的产生是历史上最伟大的信息革命，其成为人类社会化信息活动的首要条件。文字的创造在人类文明史上非常重要，它将人们的思维、语言、经验以及社会现象记录下来，使文化得以传播交流、世代传承。人类自此有了文字记录的历史，第一次信息技术革命是文字的创造。
2.造纸和印刷术的发明
第二次信息技术的革命是造纸和印刷技术的发明。造纸术的发明和推广，对于世界科学、文化的传播和发展产生重大而深刻的影响，对于社会的进步和发展起着重大的作用。印刷术为知识广泛传播、文化与文明交流创造了条件，是人类近代文明的先导。
3.电报、电话、广播、电视的发明和普及
第三次信息技术革命是在电磁学理论基础上，以电信传播技术发明为特征。我们今天能够方便地使用电报、电话与远方的亲友联系，都靠它来服务。广播和电视的发明把纸质媒体的发行问题，变成了收听和收视率问题，也逐步形成了这个时代媒体信息传播“中央复杂、末端简单”的基本规律。[2]
4.互联网的发明和普及应用
第四次信息技术革命是在计算机发明的基础上，实现计算机局部联网，再发展到互联网的普及应用。人类信息交换不仅不受时间和空间限制，彻底颠覆“中央复杂、末端简单”的信息传播规律传统，逐步实现人类知情权的平等，还可利用互联网收集、加工、存储、处理、控制信息。计算机的发明是人类智力的延伸，互联网的发明是人类智慧的延伸。
互联网是信息技术前所未有的变革，是人类改造自然的一次新飞跃，必将推动人类文明迈上新台阶。ChatGPT是在互联网承载基础上的人工智能开发，无论是大数据收集训练，还是大算力运行，都离不开互联网。可以说，没有互联网就没有ChatGPT。
（三）ChatGPT是近年来人工智能技术积累的结晶
1950年，有计算机之父之称的艾伦·图灵（Alan Turing）发表了论文《计算机器与智能》。该文建议考虑“机器能思考吗”这样的问题，并第一次提出“机器思维”的概念，后来被称为图灵测试。艾伦·图灵认为，如果一台机器能够与人类展开对话，而不被辨别出其机器身份，那么可以说这台机器具有智能。[3]到目前为止，还没有任何人工智能机器能够通过图灵测试，而最接近通过图灵测试的就是ChatGPT。
ChatGPT是生成式预训练聊天转换器。生成式人工智能允许用户在对话框输入书面提示，并接收由机器生成的类似人类的新文本或图像和视频。类似的模型有Dall-E，它是一个接收文本产出文本或图像的程序，因能够生成与人类文字描述相匹配的逼真、有时是荒谬的图片而获得关注。
ChatGPT的内核是大语言算法模型，从2018年发布第一代开始，一路升级。OpenAI并没有对算法模型进行很大改动，只通过反复微调训练机制，以及越来越多专家人力和算力的投入来进行优化。GPT-1训练涉及的参数量为一个多亿，GPT-2达到了百亿，GPT-3变成了1750亿，扩容了近1500倍。到了GPT-3.5，也就是ChatGPT，OpenAI引入了人类反馈强化学习（RLHF）机制。该机制通过40位专家的参与，对GPT-3.5针对不同问题给出的三个答案进行打分，并建立奖惩模型，使其符合人类的期望，进而塑造模型的“人格”，最终让机器知道怎样的回答更具有人性化。对应的训练数据量，从5GB扩到了45TB，实现了近万倍的增长。ChatGPT的成功是量的积累，包括了多项技术、机器的算力、服务器的数量以及知识库。[4]对于ChatGPT而言，其生成式模型基于文本，可以对用户的要求产生类似人类的反应——从仿写威廉·莎士比亚（William Shakespeare）风格的诗歌，到提出孩子生日聚会的建议。ChatGPT之所以令人印象深刻，是因为它有能力产生类似人类的反应，这在很大程度上得益于它所训练的大量数据。ChatGPT背后团队Open AI受到一些实力强劲的投资者支持，包括科技巨头微软。因此，ChatGPT拥有其他类似语言模型不可比拟的巨量语料库资源，来支持它进行预训练。ChatGPT的另一个与众不同之处在于，它能够记录用户在一个线程中早期信息的上下文，并在以后的对话中使用它来形成回应。[5]
尽管如此，ChatGPT仍然只是一种语言生成模型，它只是对单词、语句的常见组合和搭配进行模仿，并不能理解文字的内在原因和逻辑。而有时，ChatGPT会（像许多人类一样）通过谎称引用（不存在的）科学研究来讲令人信服的废话，或者围绕一个话题反复解释，却不能给出真正的观点。[6]
从技术本身来讲，ChatGPT并没有颠覆性的创新。此前，有国内团队也研发出类似的产品。例如，清华大学自然语言处理与社会人文计算实验室研发的人工智能诗歌写作系统“九歌”，采用深度学习技术，结合多个为诗歌生成专门设计的模型，基于超过80万首人类诗人创作的诗歌进行训练学习。该系统使用很简单，通过选择体裁、输入关键词、选择情感基调，就能一键生成诗词。[7]
ChatGPT和其他产品的表现差异并非来源于技术实力，归根结底还是训练量以及训练素材的数量差别，与之关联的是计算能力的差别。英文语料库范围是全球性的。中国接入互联网的时间较短，网民绝对数量也远远少于欧美国家，网上积累的语料库素材有限，因此国内使用中文训练的人工智能模型表现稍逊一筹。事实上，在ChatGPT刚兴起时，互联网上还流传着其各种啼笑皆非的回答，也曾经被一些公司限制使用，如今在广大网友的自发训练下已经有很大的改进。
三、ChatGPT对教育的影响
（一）ChatGPT对教育的主要影响
ChatGPT出现之后，如果人人都能方便使用，我们就不会再想回去使用谷歌或百度(搜索)了。互联网的突破总是在人们最喜闻乐见的应用中，如当初电子邮件的推出，现在是ChatGPT。电子邮件和聊天软件我们几乎时时刻刻都在使用。每一次人工智能或信息技术的进步，对技术发展的担忧往往总比实用来得快和多。目前担忧ChatGPT带来问题的人，多数是没有实际使用过它。
ChatGPT确实带来了问题。例如，有媒体报道，在教育领域，纽约一些高校已经下令禁止学生使用ChatGPT，并且开始调整作业的形式，如降低论文的比重，以规避学生用其来作弊。[8]
事实上，任何符合人类伦理要求的新技术发明和应用都会提高效率和效益，使人类生活质量、文明程度提高。当然也会带来人们对职业发展的担心、焦虑。历史经验表明，新技术发展往往会提升职业层次，而ChatGPT只是提供咨询等，它只是一个工具，而不是一个工作岗位，合理使用工具可以提高效率和效益。职业消亡的因素很多，技术发展只是因素之一，即便旧的职业消亡了，肯定会有新的职业产生。我们完全没有必要担心和焦虑，只有夕阳的技术，没有所谓的夕阳产业。只要保持积极向上的心态，不断学习，接受新事物，一定会有一个光明的未来。
大语言模型特别适合政府机构。从某种意义上来讲，政府的绝大部分工作都可以纳入到大语言模型的有效范围内，有些文职的作用类似于ChatGPT提供的功能。可见，技术不一定能立刻打败你，但会使你的未来变得不可预测。
ChatGPT功能的强弱取决于其“培训语料库”的大小。ChatGPT短期内最直接影响的是咨询行业、政府文职人员，如果没有执业资格要求的话，对律师和医生职业影响也会很大。另外，ChatGPT还会不断迭代完善，目前它生成的咨询报告、律师意见、治病建议等只是模板，仅仅是参考，不承担法律责任。不承担法律责任的ChatGPT只会对工作有帮助，目前不会取代任何职业。
ChatGPT对教育的影响主要在高等教育阶段。中小学的知识培养是必需的，一定的知识储备是思维训练的必要条件。而知识作为个人的核心素养，也已经成为现代社会的核心资源，创新创业要靠知识驱动。ChatGPT出现后，教育应侧重于提高学生的创造力和思辨性思维，而不是简单的知识灌输。在高等教育阶段，要尽快教会学生正确使用ChatGPT，依靠其强大的知识组织能力，提高学习和研究效率，提高高等教育质量。教育工作者必须彻底改变知识灌输式的教学传统，以培养学生超越人工智能能力的创造性思维。ChatGPT可能影响教育评估和评价。学校可能不得不改变考试知识点的评价方式，创新评估方式，特别是那些可以发挥创造力和需要思辨性思维的评估方式。
对于新事物的产生，大众反映主要为悲观威胁论与乐观颠覆论两种。持前者观点的，已经发表了大量媒体文章，冠以《ChatGPT可能导致的几类失业》等标题，强调AI与人类的对立，引发普通民众恐慌情绪。其实大可不必如此悲观。纵观人类历史上的数次科技进步，便会发现人类的适应力远高于科技的进步速度。人类文明进化的过程就是不断提升生产力、迭代生产工具的过程。拖拉机问世时，也有人恐慌农民将被替代，然而实际上农民的绝对数量下降了，但富余的劳动力去往其他社会分工，演化为白领、蓝领等阶层，进一步提高了社会发展水平。机械臂被发明后，流水线工人将被淘汰的言论也一度引发热议，而现实是工人驾驭了机械臂，提高了自身的技术价值，这也反映在近年来不断上涨的工厂用人成本上。历史教育我们，人的韧性远远大于自身想象，科技最终都会成为工具，为我所用。
当然，也有人持乐观态度，认为ChatGPT是颠覆性的创造，将大大改变人类社会的形态。有媒体声称，配合近期调查显示，美国89%的大学生都是用ChatGPT写作业，多所大学纷纷表示禁用ChatGPT。[9]这种做法有些操之过急。事实上，当前ChatGPT依然依赖于语料库，模仿人们语言习惯的智能模型，它并不能自主创新，更遑论替代教师的教育功能。一方面，ChatGPT 可以作为一种教育工具，帮助学生更快地获取信息，也可以帮助教师更快地回答学生的问题；另一方面，随着人工智能的进一步发展，有可能出现一种情况，即通过人工智能讲师来提供课程，这可能对传统的教育模式造成冲击。
至于所谓的“颠覆性”，指的是人工智能可以改变传统的教育模式，使得课堂教学、课外辅导、考试评估等方面都发生变化。在某些情况下，它甚至可以影响教育的内容和目的。然而，这种影响和挑战是否是颠覆性的，取决于我们如何利用人工智能来改善教育。在这个方面，重要的是继续探索和发展人工智能，同时充分考虑人们的需求和期望，并确保人工智能在教育领域得到有效和合理的使用。
（二）知识依然是个人幸福和社会发展的基石
有媒体报道，有了ChatGPT，今后的社会发展主要靠人类的好奇心和创造性思维。暂且不管这种观点是否正确。人的好奇心基本上是与生俱来的，而创造性思维需要培养、训练和感悟。创造性思维培养的途径可以是学校教育，而训练和感悟则主要靠家庭教育和泛在的社会教育。
现代学校的教育功能是适应工业社会文明逐步发展起来的，学校教育的任务是传授知识和技能，整体上讲应该是普惠式教育。有教育家认为教育的目标是因材施教，而对于受教育阶段的孩子，由于兴趣广泛且不断变化，确认其属于什么“材”很难。即便有办法确定孩子是某个方面的天才，我们还缺少能教天才的教师呢。因材施教是教育科研工作者的研究内容，希望他们取得可施行的研究成果。现阶段还不具备因材施教的条件，基础教育不应该把培养拔尖人才作为根本目的，应该把提高学生整体受教育质量，让绝大多数学生受益最大化为根本目标。多数人受益了，拔尖人才会自然形成。
学校教育的目标是让绝大多数学生受益，通过教育让他们有更强的生存能力，以及更多的知识为社会和经济发展服务。
1.知识已经成为现代社会的核心资源，创新创业要靠知识驱动
社会的进步、经济的发展、生活质量的提高，关键在于知识的掌握、创造、传播和应用。自上个世纪80年代以来，高等教育在社会和经济发展中的地位和作用越来越重要。主要原因在于，经济、产业界乃至整个社会与高等教育的关系越来越密切，尤其是产业界对高等教育人才的需求越来越强，市场需求日益成为高等教育发展的强大动力。高等教育已经从社会的边缘逐步走向了社会的中心。相应地，高等学校越来越成为知识传播、生产、存储和应用的组织，成为社会的一种核心机构。
2.知识已经成为个人的核心素养，知识阶层越来越成为引导社会发展的群体
这里的知识阶层主要指那些专门从事知识生产、加工、传播和应用的知识分子群体。要创造条件使更多的人掌握更多知识。学生首先要学好课堂知识，因为学校安排的课程有完整的教学设计，对某年龄段的某类学生具有针对性。学生学习的目的不仅仅是为了考试，但不参加考试就没办法在短时间内检查学习效果，也难以考察知识掌握程度。对多数没有自制力的学生来讲，没有考试的压力就会减少学习的动力。另外，学生还要通过互联网等多种渠道学习，以成为一个知识丰富的人。
3.促进社会进步的关键是扩大教育机会，使更多人接受高等教育，提高教育质量
学校课堂讲授的知识内容应该是前人对知识的规律性总结、推导归纳、系统分析、约定认知等，这样的课堂教学效率高、效益好，是学校的主要功能。[10]学校的功能是传授知识和提高学习能力，但传授什么知识、人生各个阶段需要什么知识、各个年龄段学习什么知识效率高，以及知识的循序渐进规律、因材施教等还需要认真研究，合理规划。在传授知识的过程中，怎样激发学生的学习热情，传授更有效的学习方法，掌握学习技巧，学会融会贯通，是学校和教师义不容辞的责任。
教育工作者承担的是对知识的责任，包括知识生产、知识传播和人类文明传承。教育部门要在国家和全社会的支持下，尽最大努力承担促进教育公平、提高教育质量、扩大教育范围、控制教育成本的责任。
参考文献
[1]黄铁军.沉迷于寻求通用智能理论，将是阻碍 AI 发展的最大障碍[EB/OL].(2021-08-31)[2023-02-10].https://weibo.com/ttarticle/p/show?id=2309404676193697005681.
[2]彼得·德鲁克.21世纪的管理挑战[M].北京:机械工业出版社,2019.
[3]TURING A M. Computing machinery and intelligence[J]. Mind, 1950,59(236):433-460.
[4]科技云.“吞金兽”ChatGPT背后：AI算力告急[EB/OL].(2023-02-15)[2023-02-20].https://baijiahao.baidu.com/s?id=1757888231316721828&wfr=spider&for=pc.
[5]杨赞. ChatGPT太“卷”了！爆红背后也有挑战[EB/OL].(2023-02-03)[2023-02-20].http://www.xinhuanet.com/tech/20230203/1b834bf4ae954743ae308130e353df66/c.html.
[6]腾讯网.ChatGPT正在挑战我们的科学范式[EB/OL].(2023-02-09)[2023-02-20].https://new.qq.com/rain/a/20230209A0843800.
[7]腾讯云.人工智能帮你写藏头诗[EB/OL].(2019-10-24)[2023-02-10].https://cloud.tencent.com/developer/news/460070.
[8]煎蛋网.纽约市教育部门禁止学生和教师使用ChatGPT[EB/OL].(2023-01-07)[2023-02-20].https://3g.163.com/dy/article/HQG1VVDV05149J7G.html.
[9]戚梦颖.教育界炸锅！九成学生拿他抄作业，多所高校已禁止使用ChatGPT[EB/OL].(2023-02-16)[2023-02-20].https://baijiahao.baidu.com/s?id=1757952680772484230&wfr= spider&for=pc.
[10]李志民.世界主要国家科研与学术体系概览[M].北京:清华大学出版社,2020.
The Nature of ChatGPT and Its Impact on Education
Zhimin LI
（Institute for Network Science and Cyberspace, Tsinghua University, Beijing 100084）
Abstract:As a new tool for information acquisition in the crystallization of artificial intelligence technology, ChatGPT far exceeds any previous retrieval and search tools. Its emergence is a landmark achievement in the development of artificial intelligence. Through the methods of observation and literature research, the article proposes that Internet technology is an unprecedented revolution in information technology and a new leap for human beings in transforming nature, which will bring human civilization to a new level. ChatGPT is an AI development based on the Internet, both in terms of collecting and training bigdata as well as operating with high computational power operation. ChatGPT will have an impact on certain industries, such as consulting, but will not replace any profession currently. Based on the current stage, this paper argues that the impact of ChatGPT on education mainly takes place at the higher education level, where it can improve the efficiency of learning and research, potentially affect educational assessment and evaluation, and stimulate the education of academic creativity and critical thinking. Regardless of technological development, knowledge remains the cornerstone of individual well-being and social development and is the core resource of modern society. The primary and secondary education is still necessary. The key to promoting social progress is to expand educational opportunities and improve the quality of education, enabling as many people as possible to receive higher education.
Keywords:ChatGPT; Artificial intelligence; Internet; Education digitization; Educational assessment; Educational evaluation
编辑：王晓明 校对：李晓萍
相关阅读
2023-03-28
期刊简介
《中国教育信息化》创刊于1995年8月，是由中华人民共和国教育部主管，教育部教育管理信息中心主办，面向国内外公开发行的国家级学术期刊。期刊内容力求全面深入地记录我国教育信息化的建设进展、研究与应用成果和行业发展状况，开展我国教育信息化发展状况调研和教育信息化国际比较研究，服务于国家教育宏观决策；力求全面准确地把握教育信息化相关的方针政策和标准规范，及时追踪ICT前沿技术的发展趋势及其与教育的融合，深度挖掘教育信息化建设与应用的体制、机制创新，服务于我国教育信息化实践。
●RCCSE中国核心学术期刊
●中国人文社会科学（AMI）扩展期刊
●中国期刊全文数据库收录期刊
●中文科技期刊数据库收录期刊
●国家哲学社会科学学术期刊数据库收录期刊
●中国核心期刊（遴选）数据库收录期刊
●龙源期刊网收录期刊
一年12期，每月20日出版
20元 / 期，邮发代号：82-761
编辑部邮箱：mis@moe.edu.cn
通讯地址：北京市西城区华远北街2号921室