欢迎您游客 | 登录 | 免费注册 | 忘记了密码 | 社交账号注册或登录

温哥华资讯

故事 | 移民 | 留学 | 八卦 | 娱乐 | 投资 | 旅游
就业 | 健康 | 文艺 | 情感 | 科技 | 华人 | 海归

温西 | 西温 | 本那比 | 列治文 | 白石 | 市中心
温东 | 北温 | 高贵林 | 北素里 | 素里 | 满地宝

大温 | 玩乐 | 吃喝 | 社团 | 汽车 | 贴图
生活 | 房屋 | 亲子 | 摄影 | 原创 | 投资

专栏 | 视频
群组 | 图库

生活资讯专栏教育读书

00后揪出AI幻觉元凶:仅0.1%神经元,一按就老实

2026-01-12 | 来源: DeepTech深科技 | 转到微信 | 有2人参与评论 | 字体: 放大缩小 | 收藏 | 打印

近日，清华大学团队从 AI 里找到了与幻觉产生高度关联的少数“脑细胞”，并给它们起了一个名字 H-神经元（幻觉神经元）。他们发现拨动这些小开关能显著调节 AI 的行为倾向——例如影响它是否会盲目听从错误指令、甚至是否会产生有害回答。

这一研究让人们第一次清晰地看到幻觉是如何从机器的神经层面产生的。它可以帮助我们更好地检测 AI 什么时候在撒谎，未来也可以通过微调这些小开关，造出更加诚实、更加可靠的 AI 助手。

图 | 高骋（来源：高骋）

AI幻觉从何而来？如何找到关键幻觉因素？

对于大模型来说，我们可以把其想象成为一个由数千亿个脑细胞（在 AI 里叫神经元）连接成的超级网络。它通过阅读互联网的海量信息来学习，学习目标很简单，就是根据前面的文字，预测下一个最有可能出现的词语。比如看到“天空是什么颜色的”，它大概率会学会接“蓝色的”。

但这种学习方式埋下了一个隐患：模型只被训练生成通顺的文字，而不是正确的答案。当它遇到自己不确定或者根本没学过的知识，为了完成只说出一个通顺句子的任务，它就可能凭感觉编造出一个答案。

脊损新疗法瘫痪者成功再次行走

博尔顿:特朗普不爱读书读简报决策像"神经元闪烁"

此前，人们大多从整体上研究这个问题，比如检查训练数据是否有偏差，或者让 AI 自己输出置信度。但是，这就像只知道一个人发烧，却不知道哪个器官感染了一样。本次清华团队的创新之处在于，他们决定拿起显微镜直接去观察 AI 大脑内部里的数千万甚至数亿个神经元，看看当 AI 在撒谎的时候，到底是哪些神经元在活跃。

（来源：资料图）

相关论文第一作者、清华大学硕士生高骋告诉 DeepTech：“目前工业界对减轻幻觉的关注相对有限，但学术界已做了许多努力。不过，多数研究仍停留在表层，将模型视为黑盒，通过后训练、调整数据等方式打补丁，未能从根本上理解幻觉机制。因此，我们希望借鉴神经科学的思路，从模型内部神经元入手，真正理解幻觉的产生原理，为未来彻底解决该问题提供新的视角。”

为此，高骋和所在团队准备了一套寻找方法：

首先，他们备好一批测试题和标准答案，使用了一个名为 TriviaQA 的知识问答数据集来向 AI 模型提问。对于每个问题，他们都让 AI 生成很多遍答案。如果 AI 每次都能答对，这个答案就被标记为真实；如果 AI 每次都在同一个问题上犯错，并且不是回答“我不知道”，而是坚定地给出错误答案，那么这个答案就被标记为幻觉。

当 AI 生成答案的时候，他们使用了一套名为 CETT 的测量技术，仔细记录下每个神经元的活跃度贡献值，就像测量每个脑细胞在说出那个答案时付出了多大力气一样。研究人员特别关注答案关键词比如“爱因斯坦”一词被说出来的那一刻的神经元活动。

已经有 2 人参与评论了, 我也来说几句吧

分享:

注：

新闻来源于其它媒体，内容不代表本站立场！

在此页阅读全文

猜您喜欢:

脊损新疗法瘫痪者成功再次行走

博尔顿:特朗普不爱读书读简报决策像"神经元闪烁"

温哥华牙医诊所提供全面牙科服务

因为美国加国今年面临最大的风险

加国应禁止水煮龙虾?有教授这么说

为了日薪五千的演员梦,退休老人交五万学费:揭开"短剧缺爸妈"的培训套路

李亚鹏离婚后烦心事一堆:女儿大了管不了...

您可能也喜欢:

刚抓马杜罗美国再施压委内瑞拉:驱逐中俄势力

鲁比奥主导捉拿马杜罗行动古巴裔的他痛恨独裁者

炸锅!常见食品防腐剂与癌症等有关

突发:换格陵兰加入美国美提出超诱惑方案

川普对格陵兰势在必得北约统帅:中俄虎视眈眈

共有 2 人参与评论 (其它新闻评论)

评论1	游客 [辛.香.氏.说]	2026-01-12 15:57
This is the best way to develop AI by improving models instead of adding endless chips which consume huge amount of energy. The US AI is now facing the bottle neck of the supply of electricity. The bubble of huge investments on AI also forces the AI developers to add calculating capacity quickly by stacking chips instead of develop more efficient models which take very long time and have no guarantee of a success. 赞踩 1 回复 0