人工智能与未来教育前沿研究｜陈潇 苏雪源 王波 祝一清 孔德彭：ChatGPT类生成式人工智能教育应用伦理审度与调适
引用格式
陈潇 苏雪源 王波 祝一清 孔德彭.ChatGPT类生成式人工智能教育应用伦理审度与调适[J].中国教育信息化,2023,29(12):042-048.DOI:10.3969/j.issn.1673-8454.2023.12.005
人工智能与未来教育前沿研究
ChatGPT类生成式人工智能教育应用伦理审度与调适陈潇 苏雪源 王波 祝一清 孔德彭摘 要： ChatGPT凭借实时、高效、精准、灵活等特点，在各国、各领域迅速“出圈”，其交互的智能性、流畅性赋予了人们很大的想象空间，进一步激起“机器换人”的激烈讨论。特别是在教育领域，ChatGPT既可以促进教育新业态的发展，同时也引发人们对人工智能滥用的担忧。为更加全面系统了解ChatGPT，通过实证测试其在问题答疑、论文撰写、计算能力等方面的表现，发现ChatGPT与教育深度融合过程中，可能引发伦理风险，存在隐私安全、退化师生能力、信息误导以及公平性缺失等问题。针对这些问题，未来亟需教师队伍、专家学者及政府多方齐心协力，从教育应用、观念引导、标准制定、技术保障、社会监管等方面共同构筑良序的现代化教育生态。
关键词： ChatGPT；生成式人工智能；教育应用；伦理；信息技术
中图分类号： G434
文献标志码： A
文章编号： 1673-8454（2023）12-0042-07
作者简介： 陈潇、苏雪源，浙江工业大学教育科学与技术学院硕士研究生（浙江杭州 310023）；王波，浙江工业大学教育科学与技术学院本科生（浙江杭州 310023）；祝一清，信阳师范大学地理科学学院本科生（河南信阳 464000）；孔德彭，通讯作者，浙江工业大学教育科学与技术学院副教授，博士（浙江杭州 310023）基金项目： 全国教育科学“十三五”规划2019年度“教育机器人开发中的价值审度及伦理调适研究”（编号：BEA190116）2022年11月30日，美国OpenAI公司研发的聊天机器人ChatGPT（Chat Generative Pre-trained Transformer）发布，1个月内活跃用户累计量达5700万，成为最受欢迎的消费型应用程序[1]。ChatGPT走红后，其写论文、演讲稿、翻译、编程等“超能力”逐渐显现。仅发布2个月，调查发现已有89%的18岁以上学生尝试使用ChatGPT帮助自己完成作业[2]。随之而来的学术造假、考试作弊等一系列的问题逐渐浮出水面，引起了教育领域学者的广泛关注和思考。2023年3月，OpenAI公司建立大型多模态模型GPT-4，兼具文本和图片理解能力，使人机交互更加稳定、可靠[3]。技术的优化升级并不代表伦理危机的消解，反而更需要教育者谨慎对待技术所带来的挑战，引导技术的理性应用和进步，在趋利避害中进一步提升教育质量[4]。新技术作为万物互联的载体，必将与教育实现深度融合。在未来，教育者不仅需要关注人工智能技术高效、方便、快捷的优势，还要看到实际应用中可能存在的一些伦理问题，以批判性思维探究“以ChatGPT为代表的科技发展将会对教育领域产生什么影响”“教师、学生、行业专家等利益相关者应该如何应对人工智能的伦理风险”“如何构建人工智能下的良序学术生态”等问题，以更好地促进智能教育的发展。
一、ChatGPT应用于教育领域
存在的伦理问题
二、ChatGPT应用于教育领域
伦理建设对策探析
（一）重视学校管理，明确ChatGPT角色定位
ChatGPT正迫使教师不得不审视当前教育中存在的问题，并思考采取何种措施为学生的有效学习提供帮助。传统教育的成果导向可能无法适应当前的发展趋势，ChatGPT具有写论文、翻译、编程等功能，普通文本类作业也能够轻松完成。如果ChatGPT以不恰当的方式存在于学校中，可能会对学生的知识学习和创新性思维培养产生不良影响。虽然OpenAI公司已经推出区分机器生成和人类书写文本的分类器，但其并不可靠，无法精准区分机器文本和人类文本，仍存在很多限制[14]。
教师在教学过程中，应以动态的眼光看待ChatGPT，主动思考教育与其如何并存。一是要重新思考教学方法和教学初衷，重视学生独立思考能力、批判性思维和创造性能力的培养，而不仅仅是获取知识的能力；二是要逐渐摒弃传统的填鸭式的授课方式，将人工智能引入教学过程中，打造专业教师、远程教师、机器人教师协同教学的“三师课堂”[15]，提高教学效果；三是要调整教学评价方式，避免考试作弊、学术抄袭等不良行为的发生，可以采用更具创造性的过程性评价方式，也可以部分恢复传统的纸笔测试形式，避免学生对人工智能产生依赖。学校还要定期开展教师数字化素养培训，采用线上线下相结合的方式，提高教师的数字化技能及信息安全意识，保证“人工智能+教育”的顺利开展。此外，受教育者需正视ChatGPT的角色定位。贺樑等通过个案研究证明，目前ChatGPT不具备独立辅导学生的能力[16]。因此，ChatGPT可以作为教学助手存在于课堂中，协助教师完成授课，而学生需根据教师的指令进行操作和应用，杜绝查询与学习无关内容的行为，禁止照搬照抄生成答案，保证ChatGPT的健康使用。同时，教师和学生也要主动学习数据安全知识，切忌输入个人相关信息，防止敏感数据泄露。总之，ChatGPT的出现是社会发展的需要，它有利于帮助教育者抓住教育的本质，促进更深层次教育的理解。
（二）加强政府监管，创建现代教育生态
健康的学术教育生态，不仅需要学校内部体系的适度调整，更需要政府及社会的规约，未来可以从学科交叉合作、政策制定、安全意识培养及保障信息公平化四个方面着手建设。
一是重视多学科的交叉合作。政府在积极倡导发展人工智能的同时，需认真思考如何创建和谐的智能社会，这不仅仅是社会学需要考虑的问题，更需要计算机、人工智能及教育学等学科的通力合作，共同打造适合社会发展的人工智能伦理发展框架，促进社会的和谐稳定。
二是推动人工智能教育伦理政策的制定。2021年，国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》，明确指出“将伦理道德融入人工智能全生命周期”，并就人工智能的伦理要求进行详细阐述[17]，但缺乏对教育领域伦理规范的制定，比如责任归属、大型语言模型署名问题等，都需要相关政策或法律予以保障。
三是积极开展数据安全意识宣传与培训。相关部门需聚焦人工智能数据、算法和模型，定期开展信息安全教育和技能培训，并针对当前人工智能衍生产品进行讲解，加强伦理宣传，做到培训好、贯彻好，切实提高大众的数据安全意识。同时还要加强反诈防骗知识的宣传，注重网络个人隐私保护。
四是保障信息传播的公平性。一方面，政府需要对ChatGPT的使用及禁用情况做出明确说明，保证工具应用的公平性；另一方面，政府需要重视相对贫困地区的技术发展状况，不断缩小城乡差距，保证学生接受教育的公平性。
（三）突破技术难题，优化大型语言模型
一是保证输入数据的全面准确性。数据收集是模型建构的基础，也是ChatGPT完成任务的第一步，只有数据的数量和质量得到保障，才能实现模型的精准搭建。一方面要实时更新数据库和语料库。ChatGPT收录数据截至2021年，就时效性来看，没有将最新数据纳入其中，数据信息缺乏全面性，无法生成最新文本。因此，及时更新训练数据，保证数据库足够大，信息足够新，语音模型才能基于既定相关知识不断提升、优化，最终得到问题的最优解。另一方面要自主筛除错误信息，确保数据的可靠性。虽然ChatGPT能够进行初步的道德判断，并利用数据库中已有知识判断问题的合规性，具备一定的人类道德计算力[18]，但对于语料库中问题相关信息的对错难以分辨，容易产生错误文本，误导学生学习虚假信息。由此可见，专业人士应重视当前ChatGPT数据库可能存在的相关问题，不断更新迭代，创建更具可信化的知识库。
二是提升语言模型算法的稳定性。相对于传统学习，深度学习算法的可解释性、透明度严重缺失，其潜在的歧视和偏见可能导致结果不公现象发生。算法偏见是客观存在的，往往受数据、开发者及算法本身偏见的影响，而算法偏见有时会导致算法歧视的产生[19]。因此，针对算法偏见和歧视问题，一方面应秉持平等的数据价值观，筛除掉带有歧视性的数据，以保证数据的“无害化”，同时还要建立算法内部监管体系，增强算法的合法合理性和透明性；另一方面需重塑法律及政策功能，发挥法律对人工智能平台和算法设计者的监管职能[20]。此外，数据泄露也是专业人员需要重视的问题之一。数据是语言模型的基础，不法分子往往通过攻击模型来达到窃取敏感数据的目的，可能危及个人隐私和安全。因此，需要加强模型的稳定性，通过正则化和交叉验证的方法防止模型过拟合，以降低数据泄露的风险；还要加强教师和学生的信息安全意识，防止个人隐私信息泄露。
三是强化输出信息的真实独创性。ChatGPT主要以文本形式给予提问者反馈，且文本形成主要基于人类概率性语言进行搬运、整合数据信息，以及高效模仿现有范本等工作。在人机交互方面，ChatGPT缺乏听觉、触觉等多感官刺激，难以达到人际沟通的真实效果；在文本生成方面，ChatGPT撰写文章也是一种创作，可以形成创新性的成果，但一味的搬运和整合应用领域的既有知识，也无法达到人类的创新水平。因此，在外部形态上，要逐步搭建ChatGPT实体人形机器人架构，实现人机多模态交互，提升交际质量，特别是在教育教学领域，实体机器人更能够吸引学生兴趣，提高学习效率；在内部规制上，ChatGPT也需要不断学习，其智能芯片要不断优化、迭代，逐步实现自我意识的突破，达到质的飞跃，最终变得越来越具有创造性。
三、结语
参考文献：
[1]CERULLO M.ChatGPT user base Is growing faster than TikTok[EB/OL].(2023–02–23)[2023-07-01].https://www.cbsnews.com/news/chatgpt-chatbot-tiktok-ai-artificial-intelligence/.
[2]Study Website.Productive teaching tool or innovative cheating?[EB/OL].[2023][2023-07-02].https://study.com/resources/perceptions-of-chatgpt-in-schools.
[3]OpenAl.GPT-4[EB/OL].(2023-03-14)[2023-07-02].https://openai.com/research/gpt-4.
[4]朱昌俊.ChatGPT火了，教育需要双重应对[N].中国教育报,2023-02-21(2).
[5][13]吴军其,吴飞燕,文思娇,等.ChatGPT赋能教师专业发展：机遇、挑战和路径[J].中国电化教育,2023(5):15-23,33．
[6]王树义,张庆薇.ChatGPT给科研工作者带来的机遇与挑战[J].图书馆论坛,2023,43(3):109-118．
[7]赵汀阳.人工智能提出了什么哲学问题?[J].文化纵横,2020(1):43-57．
[8]冯雨奂.ChatGPT在教育领域的应用价值、潜在伦理风险与治理路径[J].思想理论教育,2023(4):26-32．
[9]VAN DIS E A M,BOLLEN J,ZUIDEMA W.ChatGPT:five priorities for research[J].Nature,2023(7947):224-226.
[10][18]令小雄,王鼎民,袁健.ChatGPT爆火后关于科技伦理及学术伦理的冷思考[J].新疆师范大学学报(哲学社会科学版),2023,44(4):123-136．
[11]罗生全,谭爱丽.ChatGPT应用背景下教育发展的逻辑转换及实践路径[J].重庆理工大学学报(社会科学),2023,37(5):7-15．
[12]漠影.时间线复盘ChatGPT爆火之路：改变互联网圈的两个月[EB/OL].(2023-02-13)[2023-07-01].https://zhidx.com/p/362781.html.
[14]OpenAI.New AI classifier for indicating AI-Written text[EB/OL].(2023-02-022)[2023-07-02].https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text/.
[15]焦建利.ChatGPT助推学校教育数字化转型——人工智能时代学什么与怎么教[J].中国远程教育,2023,43(4):16-23．
[16]贺樑,应振宇,王英英,等.教育中的ChatGPT：教学能力诊断研究[J].华东师范大学学报(教育科学版),2023,41(7):162-176．
[17]国家新一代人工智能治理专业委员会.新一代人工智能伦理规范[EB/OL].(2021-09-26)[2023-07-02].https://www.most.gov.cn/kjbgz/202109/t20210926_177063.html.
[19]孟令宇.从算法偏见到算法歧视：算法歧视的责任问题探究[J].东北大学学报(社会科学版),2022,24(1):1-9．
[20]石颖.算法歧视的缘起、挑战与法律应对[J].甘肃政法大学学报,2022(3):58-68．
[21]唐汉卫.在线教学存在的伦理问题与应对策略[J].现代教育技术,2020,30(12):41-47．（1.College of Education, Zhejiang University of Technology, Hangzhou 310023, Zhejiang;
2.School of Geographical Sciences, Xinyang Normal University, Xinyang 464000, Henan）
编辑：王晓明 校对：李晓萍
期刊简介
《中国教育信息化》创刊于1995年8月，是由中华人民共和国教育部主管，教育部教育管理信息中心主办，面向国内外公开发行的国家级学术期刊。期刊内容力求全面深入地记录我国教育信息化的建设进展、研究与应用成果和行业发展状况，开展我国教育信息化发展状况调研和教育信息化国际比较研究，服务于国家教育宏观决策；力求全面准确地把握教育信息化相关的方针政策和标准规范，及时追踪ICT前沿技术的发展趋势及其与教育的融合，深度挖掘教育信息化建设与应用的体制、机制创新，服务于我国教育信息化实践。
●RCCSE中国核心学术期刊
●中国人文社会科学（AMI）扩展期刊
●中国期刊全文数据库收录期刊
●中文科技期刊数据库收录期刊
●国家哲学社会科学学术期刊数据库收录期刊
●中国核心期刊（遴选）数据库收录期刊
●龙源期刊网收录期刊
一年12期，每月20日出版
20元 / 期，邮发代号：82-761
编辑部邮箱：mis@moe.edu.cn
通讯地址：北京市西城区华远北街2号921室