AI大语言模型的幻觉,包括DeepSeek–再论中小学生批判性思维

前几天写了一篇关于中小学生使用AI的一篇文章，中间提到培养批判性思维，只是点到为止，感觉有必要再重新强调一下。

AI“幻觉”：不容忽视的现实

AI“幻觉”并非科幻小说中的情节，而是真实存在的现象。当前的人工智能，尤其是大型语言模型，其工作原理是基于对海量数据的学习和模式识别。尽管这些模型在很多任务上表现出色，但它们并不真正理解知识，也不具备人类的常识和逻辑推理能力。因此，当面对超出其训练数据范围或需要复杂推理的问题时，AI就可能产生“幻觉”，编造看似合理但实则错误的信息。

例如，当要求AI描述一个并不存在的历史事件，或者解释一个超出其理解范围的科学概念时，AI很可能会“一本正经”地胡说八道，生成看似流畅但内容虚假的答案。更令人担忧的是，AI的“幻觉”往往具有一定的迷惑性，因为它们通常以自然语言的形式呈现，并且可能引用一些看似权威的来源，使得缺乏批判性思维的人难以辨别真伪。

成年人与大学生的批判性思维优势

与中小学生相比，成年人和大学生在批判性思维方面具有明显的优势。这主要体现在以下几个方面：

• 知识储备更丰富： 成年人和大学生经过多年的学习和生活积累，拥有更广泛的知识面和更深入的专业知识。这使得他们在面对AI生成的内容时，能够更容易地识别出明显的错误或矛盾之处。
• 逻辑思维更成熟： 成年人和大学生的逻辑思维能力已经发展到相对成熟的阶段，能够进行更复杂的推理和判断。他们能够分析AI生成内容的逻辑合理性，判断其是否符合常识和科学规律。
• 生活经验更丰富： 成年人在生活中积累了丰富的经验，了解世界的复杂性和多样性。这使得他们在面对AI生成的内容时，能够从更全面的角度进行审视，判断其是否符合实际情况。

例如，当一位大学生使用AI工具进行论文写作时，如果AI生成了一段与某个经典理论相悖的论述，这位大学生更有可能凭借自己对该理论的理解，及时发现AI的错误并进行修正。又例如，一位经验丰富的医生在使用AI辅助诊断系统时，如果AI给出了一个不符合临床常识的诊断建议，这位医生更有可能根据自己的专业知识和经验，对AI的结论提出质疑。

中小学生面临的“幻觉”挑战与风险

中小学生由于年龄较小，心智发展尚未成熟，批判性思维能力还处于培养阶段，因此更容易受到AI“幻觉”的误导。这主要体现在：

• 知识面相对狭窄： 中小学生的知识面相对狭窄，对于许多领域的知识了解有限。这使得他们难以判断AI生成内容的真伪，容易轻信AI给出的信息。
• 逻辑思维尚待发展： 中小学生的逻辑思维能力还在发展过程中，进行复杂推理和判断的能力相对较弱。他们可能难以识别AI生成内容中存在的逻辑漏洞或矛盾之处。
• 生活经验不足： 中小学生的生活经验相对不足，对世界的认知还不够全面和深入。他们可能缺乏对AI生成内容进行现实性检验的能力，容易接受一些看似合理但实则脱离实际的信息。

例如，如果一位小学生使用AI搜索引擎查询某个历史人物的生平时，AI“幻觉”生成了一个完全虚构的故事，这位小学生很可能由于缺乏相关的历史知识和批判性思维，而将这个虚假故事信以为真。又例如，如果一位中学生使用AI辅导软件学习数学时，AI“幻觉”给出了一个错误的解题步骤，这位中学生如果缺乏对数学原理的深入理解和批判性思维，很可能会盲目接受这个错误步骤，从而影响学习效果。

加强中小学生批判性思维培养的必要性与方法

面对AI“幻觉”带来的挑战，加强中小学生批判性思维的培养，已经成为一项刻不容缓的任务。 这不仅关乎中小学生能否有效利用AI工具进行学习和生活，更关乎他们能否在未来的智能时代保持独立思考能力，不被虚假信息所误导。

那么，应该如何加强中小学生的批判性思维培养呢？

• 在教学内容中融入批判性思维训练： 教师可以在各个学科的教学中，有意识地融入批判性思维的训练内容。例如，在语文课上，可以引导学生分析文章的论证逻辑，辨别作者的观点是否合理；在历史课上，可以引导学生对比不同史料的记载，判断历史事件的真实性；在科学课上，可以引导学生设计实验，验证科学结论的可靠性。
• 鼓励学生质疑和探究： 教师应该鼓励学生对教材内容、教师讲解甚至AI给出的答案提出质疑。要营造一种宽松的课堂氛围，鼓励学生大胆提问、独立思考、深入探究，而不是盲目接受权威和标准答案。
• 设计实践性批判性思维活动： 学校可以组织各种实践性活动，培养学生的批判性思维能力。例如，可以开展辩论赛、模拟法庭、新闻评论等活动，让学生在实践中运用批判性思维，分析问题、解决问题。
• 利用信息技术工具辅助教学： 教师可以利用信息技术工具，例如思维导图、在线协作平台等，辅助批判性思维教学。同时，也要引导学生正确认识和使用AI工具，了解AI的局限性，培养他们对AI输出结果进行批判性评估的意识。

例如，教师可以设计一个 “AI信息真伪辨别” 的课程，向学生介绍AI“幻觉”的概念和常见形式，然后让学生分组使用不同的AI工具搜索同一问题，对比AI给出的答案，分析其中可能存在的“幻觉”，并利用其他可靠信息来源验证答案的真伪。通过这样的实践活动，可以有效提高学生辨别和应对AI“幻觉”的能力。

结语

人工智能技术的发展，为人类社会带来了前所未有的机遇，同时也带来了一些新的挑战。AI“幻觉”就是其中之一。面对AI“幻觉”的挑战，培养公民的批判性思维能力至关重要。对于心智尚未成熟的中小学生来说，加强批判性思维的培养尤为重要和迫切。只有通过持续不断的努力，才能真正提升中小学生的批判性思维能力，帮助他们更好地适应智能时代，成为具有独立思考能力和判断力的未来公民。

欢迎关注点赞转发