摘要：生成式人工智能（GAI）在高等职业教育中展现出巨大潜力，但也带来了可靠性、学术诚信、自主学习能力受限等风险。本研究深入分析了GAI技术的应用现状及其风险根源，指出训练数据偏差、标记化与语言处理的复杂性、文本生成机制导致的相似性风险以及缺乏版权意识与原创性判断是导致这些风险的主要因素。为应对这些挑战，研究提出了建立学术诚信审查机制、以及引导学生合理使用GAI等策略，强调引导学生合理使用GAI。本研究为教育工作者和政策制定者提供了应对GAI风险的实践指导，旨在促进GAI技术在高等职业教育中的健康、可持续发展，保障学术诚信与教学质量。

关键词：生成式人工智能；高等职业教育

人工智能作为新一轮科技革命和产业变革的重要引擎，催生了大量的新产品、新技术、新业态和新模式，为教育现代化开辟了新的可能性。国务院印发的 《新一代人工智能发展规划》 ，明确利用智能技术加快推动人才培养模式、教学方法改革。8 随着人工智能技术的不断发展，大语言模型ChatGPT为代表的生成式人工智能（Generative Artificial Intelligence， GAI）逐渐进入人们的视野。这些GAI应用，能够针对用户输入内容生成自然语言文本，支持连续多轮对话与上下文理解等特性，正在深刻改变教育领域。 GAI技术通过提供个性化学习支持、优化教学资源配置等，极大地提升了教学效率与效果。然而，这一技术的广泛应用也伴随着错误信息误导、学术诚信危机及无法正确评估学生技能水平等潜在风险。高等职业教育作为培养应用型技能人才的重要阵地，其教学重点在于使学生熟练掌握特定职业领域的实践技能，以满足行业对高素质技术工人的迫切需求。在人工智能迅速发展的时代， GAI技术的出现既为高等职业教育带来了创新机遇，也因其独特的教育模式和培养目标面临着特殊的挑战。

尽管已有研究对GAI技术在教育领域的应用的路径进行了初步探索，但针对其在高等教育尤其是高等职业教育中的以存在风险与应对策略为切入口的系统性分析尚显不足。本研究旨在通过综合分析现有文献，结合高等职业教育实际需求，深入探讨GAI技术应用过程中的风险，提出针对性的风险应对策略，以期为高等职业教育在GAI技术应用中提供实践指导，促进技术的健康、可持续发展，同时保障学术诚信与教学质量。

1 生成式人工智能在高等职业教育中的应用

研究表明，生成式人工智能（GAI），特别是以ChatGPT为代表的大语言（Large Language Model）模型，正深刻改变教育领域。GAI技术通过个性化学习支持显著提升学习效果和学生满意度5，9。它能理解学生提问，即时提供解答和学习建议，还能智能评估学生表现，推荐合适学习方法。在教育资源整合方面，GAI技术帮助学生高效获取学习资源，动态调整资源难度和内容。 对于学习基础相对薄弱的高职学生，GAI 技术能够以通俗易懂的方式解释复杂的专业概念，帮助他们逐步建立知识体系。以某高等职业学院为例，该校在日常教学以及学生自主学习中引入了GAI技术，特别学生是易于接触、易于上手的大语言模型如ChatGPT、文心一言、豆包、讯飞星火等。在高等职业教育中，人才培养更加注重实践性和应用性。在日常教学中，GAI技术基于学生的专业背景和学习进度，完美嵌入了学生的实践学习中，学生积极使用GAI技术来答疑解惑完成实践内容。这种教学方式尤其适用于那些需要频繁实践和操作的专业课程。对于特定的实践操作，学生可以在实践操作中随时得到专业指导，帮助他们更好地掌握专业技能。例如，在机械制造专业的数控加工实践课程中，学生能随时获取关于数控机床操作步骤、参数调整等方面的精准指导。 GAI 能够根据学生输入要求，快速生成详细的操作流程和注意事项，并通过模拟加工过程帮助学生提前预判可能出现的问题，有效提高了学生的实践操作准确性和效率。

教师也能够积极借助GAI技术，进行教学设计和准备、智能辅助教学等。2，9，10  另外GAI技术能对学生的学习效果进行客观评估，为教学改进提供数据支持。GAI技术可以通过分析学生的作业、考试数据等，为教师提供全面的学习成效反馈，帮助他们更好地了解学生的学习情况，进而调整教学策略和方法。

另外徐国庆1等人的研究指出未来因为GAI技术的广泛应用将导致技能需求结构的转变，对于从事基础工作的岗位影响显著。那么，培养熟练掌握GAI技术的新型技能人才的显得尤为重要。对高职的学生来说GAI技术不光可以作为学习辅助工具也需要作为重要的生产力工具。

2风险识别与应对策略

Tareq Rasul4 等人的研究成果显示生成式人工智能特别是大语言模型存在五大核心风险， 包括学术诚信问题、可靠性问题、无法正确评价学生的技能水平、评估学习成果的局限性、以及信息处理中可能存在的偏见和伪造信息。其中学术诚信和公平性、内容可靠性、无法正确评价学生的技能水平在高等职业教育中尤为重要。

2.1 风险识别

2.1.1 内容可靠性问题

生成式人工智能通过学习大量数据来生成新的内容，这些数据本身可能包含错误、不准确或甚至误导性的信息。当这些数据被用作训练模型时，GAI技术生成内容就可能继承并放大这些错误。给出错误，甚至是完全捏造的事实信息，进而在实际应用中产生一系列问题。在教育领域，生成式人工智能常被用于生成教学材料、解答学生疑问等场景。如果生成的教学材料或解答包含误导性的信息，根据错误信息就无法构建的准确知识体系。没有得到及时纠正，错误信息的影响将持续将一直延续。如果学生保持了错误的理念，在建筑工程，医疗护理等领域的相关专业，做出错误操作，将直接危害到生命财产安全。那么学生在使用 GAI技术时必须对生成的信息进行事实核查。在对所有生成内容的正确性都要进行怀疑的情况下，反而降低了学习效率。此外，GAI生成内容会有生成有害内容的风险，可能引发安全隐患。恶意用户可能通过多步提示诱导系统生成非法或危险信息，对学习者产生负面影响并引发社会问题。12

2.1.2学术诚信问题

GAI生成内容的学术原创性难以得到有效保障。生成式人工智能基于大量数据进行学习，但其生成过程往往缺乏人类思维的独特性和创新性。在日常教学中，当这些技术被用于生成论文或者作业，虽然可以快速产出内容，但内容的原创性却难以验证，可能造成侵犯他人的知识产权9，对学术研究的严谨性和公正性构成了潜在威胁。即使在高等职业教育的背景下，即使对学生的考评以及学术的学习倾向更加注重实践操作，例如实践报告、编程代码、绘画创作等等还是可以基由大语言模型和AI绘画工具生成。生成式人工智能的出现为学生提供了一个看似便捷的途径，使他们能够轻松获取所需内容，甚至直接抄袭或篡改生成的内容以应对学术要求。这种行为违背了学术诚信的基本原则。

2.1.3 无法正确评价学生的技能水平

学生可能利用生成式人工智能技术快速生成论文或作业内容，从而规避了学习和思考的过程。这种现象在高职的学生中更加普遍。教育者无法精确的判断学生是否是基于GAI技术进行辅助学习，还是直接“抄袭”了AI给出的结果11。

多项研究指出3，6，7，11，对GAI技术的过度使用，会使学生从人工智能中获取答案形成依赖路径，以迎合大脑“走捷径”的需求，这种现象在高职的学生中更加普遍。在传统教育模式中，学生需要通过深入研究、数据分析和独立思考来完成学习任务，这一过程对于培养学生的学术能力和批判性思维至关重要。GAI技术介入很有可能造成教师无法正确评判学生的技能水平，学生无法“正常”获取到知识。

2，2 技术原理分析

2.2.1 数据偏差与训练局限性：

GAI技术的模型通常是基于深度学习和自然语言处理技术构建的。这些模型通过大量训练数据来学习语言模式和特征。如果数据来源的不全面性、标注错误或数据时效性问题，会直接影响模型的生成结果，导致其产生错误事实。

此外，模型的训练过程也存在局限性。尽管GAI可以通过预训练和微调来改进，但它们仍然可能无法捕捉到所有语言模式和上下文关系。这可能导致模型在某些情况下生成不准确或误导性的内容。

2.2.2 标记化与语言处理的复杂性：

在处理文本时，生成式人工智能模型通常会将文本分解成更小的片段（称为标记），虽然有助于模型处理更长的文本序列，但也可能造成偏差。例如，标记化器可能将某些常见的词汇或短语错误地分解或合并，从而影响模型的理解和生成能力。不同语言的标记化方式也存在差异。对于非英语语言，模型的性能可能受到更大影响。这种语言处理的复杂性增加了模型生成错误内容的风险。

2.2.3 文本生成机制与相似性：

GAI技术在生成文本时，是基于已学习的语言模式和特征来创建新内容的。这意味着生成的文本可能与训练数据中的某些内容相似。当模型在生成过程中未能充分创新或调整已学习的模式时，就可能导致生成的内容与他人的原创内容相似或构成抄袭。

特别是在处理具有特定主题或结构的文本时，模型可能更容易生成与已有内容相似的文本。这是因为这些主题或结构在训练数据中出现的频率较高，模型更容易学习并模仿这些模式。

2.2.4 缺乏版权意识与原创性判断：

生成式人工智能模型本身并不具备版权意识或原创性判断能力。它们只是根据已学习的语言模式和特征来生成内容。因此，当模型生成的内容与他人的原创内容相似时，它并不会意识到这种相似性可能构成抄袭。由于生成式人工智能的生成过程具有随机性和不确定性，即使是相同的输入也可能产生不同的输出。这使得抄袭问题的检测和判断变得更加复杂和困难。

3  应对策略

教育者应提升对AI生成内容的甄别能力，利用AI检测技术、人工事实核查，对生成的教学材料、习题等进行严格审查。教育机构应建立内容审核机制，对AI生成的内容进行多层次的把关，防止错误或误导性信息的传播。高职院校应建立校企合作的数据管理规范。邀请行业专家参与审核 GAI 生成的技术资料和案例分析。更重要的是，教育者还需培养学生的批判性思维，教会他们如何辨别信息真伪，提高信息筛选和评估的能力。

教育机构应明确学术规范和道德要求，将学术诚信教育融入日常教学中。通过案例分析、讨论会等形式，增强学生的学术道德意识，让他们认识到抄袭、剽窃等学术不端行为的严重性。结合高职教育的职业道德培养要求，开展具有专业特色的学术诚信教育活动。例如，在酒店管理专业，通过案例分析酒店行业中因抄袭他人经营策略而失败的案例，引导学生树立在职业环境中的诚信意识。引入AI检测系统，对学生的作业、论文等进行自动检测，及时发现并处理潜在的学术不端行为。同时，建立有效的反馈和惩罚机制，对发现的学术不端行为给予严肃处理。

针对生成式人工智能技术可能被恶意利用生成有害内容的风险，教育机构和技术开发者应加强合作，共同研发更加智能的内容过滤和审核技术。这些技术应能够识别并阻止非法或危险信息。此外，加强对学生的网络安全教育，提高他们的防范意识和自我保护能力，防止有害信息的传播和扩散。

生成式人工智能技术所依赖的数据源广泛且复杂，可能涉及知识产权争议和法律风险。因此，教育机构和技术开发者在使用AI技术时，应严格遵守相关法律法规，尊重他人的知识产权。对系统生成的内容进行严格的版权审核，确保不侵犯原作者的知识产权。

4 未来研究方向

对于GAI生成内容现阶段可能引发的学术原创性侵害以及学术诚信问题，需要有科学的标准和方法来衡量AI生成内容的可信度以及原创性。我们希望通过综合运用理论和实验方法，深入剖析大语言模型生成内容的可信度和学术原创性问题。将通过收集和分析大量的实际案例，结合专家的评估意见分析和学生的使用反馈，深入探讨模型生成内容的可信度和原创性。在实验评估中，我们希望通过邀请相关领域的专家，专家评审员使用李克特量表（Likert scales）评估其准确性（accuracy）、完整性（completeness）。此外进行生成内容的查重率（similarity rate）分析，根据这几个维度对大语言模型生成的学术内容进行评估。

5  结  论

在深入探索生成式人工智能（GAI）于高等职业教育领域的应用实践后，发现其既孕育着巨大潜力，也伴随着不容忽视的风险挑战。GAI技术以其个性化学习辅助、教育资源高效整合及教学模式革新等优势，为高职教育带来了显著的正向影响。然而，内容可靠性、学术诚信受损及学生自主学习能力受限等问题亦随之浮现，成为亟待解决的关键议题。

关于对GAI技术的分析显示，训练数据的偏差性、标记化与语言处理的复杂性、文本生成的相似度风险，以及版权意识与原创性评判的缺失，是引发上述风险的核心要素。本研究提出了一套综合性的应对策略框架：提升对 AI 生成内容的甄别能力，建立内容审核机制，保障教学信息的真实准确；强化学术规范与道德教育，引入检测系统，维护学术诚信；加强合作研发内容过滤审核技术，开展网络安全教育，防范有害内容风险；严格遵守法律法规，落实版权审核，促进数据合法合规使用。同时，积极引导并教育学生合理使用GAI，避免依赖过度或误用。

生成式人工智能在高等职业教育的应用是一把双刃剑，既需充分利用其赋能教育的潜力，也应警惕并有效应对伴随的风险。本研究提出的策略建议，旨在为教育工作者、政策制定者及技术开发者提供实践指导，共同推动GAI技术在高职教育领域的健康、可持续发展。

参考文献：

[1]徐国庆，蔡金芳，姜蓓佳，等.ChatGPT/生成式人工智能与未来职业教育[J].华东师范大学学报（教育科学版），2023，41（07）：64-77.DOI：10.16382/j.cnki.1000-5560.2023.07.007.

[2]卢宇，余京蕾，陈鹏鹤，等.生成式人工智能的教育应用与展望——以ChatGPT系统为例[J].中国远程教育，2023，43（04）：24-31+51.DOI：10.13541/j.cnki.chinade.20230301.001.

[3]李虹静，傅锵文.生成式人工智能介入教育领域的机遇、风险与规避进路——基于ChatGPT的讨论与分析[J].山西青年职业学院学报，2023，36（02）：91-96+108.

[4]Rasul T， Nair S， Kalendra D， et al. The role of ChatGPT in higher education： Benefits， challenges， and future research directions[J]. Journal of Applied Learning and Teaching， 2023， 6（1）： 41-56.

[5]杨宗凯，王俊，吴砥，等.ChatGPT/生成式人工智能对教育的影响探析及应对策略[J].华东师范大学学报（教育科学版），2023，41（07）：26-35.DOI：10.16382/j.cnki.1000-5560.2023.07.003.

[6]刘明，吴忠明，廖剑，等.大语言模型的教育应用：原理、现状与挑战——从轻量级BERT到对话式ChatGPT[J].现代教育技术，2023，33（08）：19-28.

[7]王佑镁，王旦，梁炜怡，等.“阿拉丁神灯”还是“潘多拉魔盒”：ChatGPT教育应用的潜能与风险[J].现代远程教育研究，2023，35（02）：48-56.

[8]吴丹. 人工智能促进教育变革创新[N]. 人民日报，2022-12-22（05）.

[9]张秋芳，刘若愚，谢雨欣.生成式AI在高校教育应用中的风险及规避进路[J].牡丹江教育学院学报，2024，（01）：41-45.

[10]Lo C K. What is the impact of ChatGPT on education？ A rapid review of the literature[J]. Education Sciences， 2023， 13（4）： 410.

[11]Rahman M M， Watanobe Y. ChatGPT for education and research： Opportunities， threats， and strategies[J]. Applied Sciences， 2023， 13（9）： 5783.

[12]王益义.生成式人工智能赋能高职教育的潜能、风险与应对研究——以ChatGPT为例[J].职业技术，2024，23（10）：22-29.DOI：10.19552/j.cnki.issn1672-0601.2024.10.004.

基金项目：浙江省省属高校基本科研业务费专项资金资助 浙江建设职业技术学院教育教学研究项目 项目编号：Y202361