城通网盘
5积分
报告由清华大学双聘教授@新媒沈阳团队发布，深入探讨AI幻觉现象，以DeepSeek为例展开多方面研究，为理解和应对AI幻觉提供了全面视角。
AI幻觉的定义与表现：AI幻觉指模型生成与事实不符、逻辑断裂或脱离上下文的内容，分为事实性幻觉和忠实性幻觉。如回答糖尿病患者能否用蜂蜜代替糖的问题时，出现与事实不符或偏离用户意图的答案。在实际应用中，DeepSeek在推荐地点时出现错误信息，OpenAI的Whisper在医疗转录中也存在大量幻觉，对相关领域产生严重负面影响。
AI幻觉产生的原因：数据偏差、泛化困境、知识固化和意图误解是AI产生幻觉的主要原因。训练数据的错误或片面性、模型处理复杂场景的能力局限、对参数化记忆的过度依赖以及对用户模糊提问的“自由发挥”，都可能导致幻觉的出现。
《DeepSeek与AI幻觉》
AI幻觉评测：通过随机生成提示语和抽取事实性幻觉测试题进行评测，结果显示不同大模型幻觉率存在差异，如DeepSeekV3、DeepSeekR1等在通用性和事实性测试中表现不同。推理能力与幻觉率存在双向作用机制，推理增强可能降低或增加幻觉率，取决于具体情况。
应对AI幻觉的方法：普通用户可采用联网搜索、双AI验证、提示词工程等方式应对。提示词工程包括知识边界限定和对抗性提示等多种策略。技术层面则可通过RAG框架、外部知识库、精细训练和评估工具等方案来减缓AI幻觉。
AI幻觉的创造力价值：AI幻觉在科学发现、文艺与设计、娱乐与游戏、技术创新等领域具有创造力价值。如大卫·贝克团队利用AI“错误折叠”获得诺贝尔化学奖，DeepMind团队发现AI图像分割的“超现实边界”提升自动驾驶系统识别精度，科学界还构建了新的研究流程。
总结与展望：AI幻觉既反映技术局限，也蕴含创新可能。我们应通过三角验证法等方式应对，同时理解和利用其创造力价值，在理性与狂想的交界处探索创新。
《DeepSeek与AI幻觉》电子书下载
《DeepSeek与AI幻觉》清华大学学习手册第五弹.pdf
全部文件3.44MB
《DeepSeek与AI幻觉》清华大学学习手册第五弹.pdf3.44MB网站声明：
1. 该网盘资源的安全性和完整性需要您自行判断，点击下载地址直接跳转到网盘官方页面。本站链接通过程序自动收集互联网公开分享链接，本站不储存、复制、传播任何网盘文件，也不提供下载服务。
2. 本站遵守相关法律法规，坚决杜绝一切违规不良信息，如您发现任何涉嫌违规的网盘信息，请立即向网盘官方网站举报，并及时反馈给我们进行屏蔽删除。
3. 本站高度重视知识产权保护和个人隐私保护，如有网盘链接侵犯您的合法权益，请立即向网盘官方网站举报，并参见本站《版权说明》提供书面材料联系我们屏蔽删改。
1. 该网盘资源的安全性和完整性需要您自行判断，点击下载地址直接跳转到网盘官方页面。本站链接通过程序自动收集互联网公开分享链接，本站不储存、复制、传播任何网盘文件，也不提供下载服务。
2. 本站遵守相关法律法规，坚决杜绝一切违规不良信息，如您发现任何涉嫌违规的网盘信息，请立即向网盘官方网站举报，并及时反馈给我们进行屏蔽删除。
3. 本站高度重视知识产权保护和个人隐私保护，如有网盘链接侵犯您的合法权益，请立即向网盘官方网站举报，并参见本站《版权说明》提供书面材料联系我们屏蔽删改。