百家乐概率计算（www.ad6868.vip）实时更新最新最有效的百家乐概率计算登录网址、百家乐概率计算备用网址、百家乐概率计算最新网址、百家乐概率计算手机网址、百家乐概率计算管理网址、百家乐概率计算会员网址。提供百家乐概率计算APP下载，百家乐概率计算APP包含百家乐概率计算代理登录线路、百家乐概率计算会员登录线路、百家乐概率计算信用网开户、百家乐概率计算现金网开户、百家乐概率计算会员注册、百家乐概率计算线上投注等业务。
ADVERTISEMENT
打开AI黑盒子这件事，可能还要靠AI自己来实现了。
OpenAI的最新的研究做了一波大胆尝试：
让GPT-4去解释GPT-2的行为模式。
结果显示，超过1000个神经元的解释得分在0.8以上——也就是说GPT-4能理解这些神经元。
要知道，「AI黑箱难题」长期以来是一个热议话题，尤其是大语言模型领域，人类对其内部工作原理的理解还非常有限，这种「不透明化」也进一步引发了人类对AI的诸多担忧。
目前推进AI可解释性研究的一个简单办法，就是逐个分析大模型中的神经元，手动检查以确定它们各自所代表的资料特征。 但对于规模已经达到百亿、千亿等级的大规模神经网路来说，工作量和工作难度已经是难以想像的。 因此，OpenAI的研究人员想到，为什么不让AI去自动化搞定这个大工程？
在这项最新的研究中，他们将GPT-4打造成了一个理解AI行为模式的工具，把GPT-2超过30万个神经单元都解释了一遍，并和实际情况比对进行评分。
最终产生的解释资料集和工具程式码，已对外开源。
研究人员表示：未来，这种AI工具可能在改善LLM性能上发挥巨大作用，比如减少AI偏见和有害输出。
解释接近人类水准
具体来看，整个研究的步骤可以分为3个步骤。
第一步，先给GPT-4一段文本，并展示GPT-2在理解这段文本时启动的神经元情况。
然后让GPT-4来解释，这段文本中神经元的启动情况。
比如示例中给出了一段漫威复联的文本，GPT-4分析的启动神经元为：
电影、角色和娱乐
第二步，让GPT-4开始模拟，这些被解释的神经元接下来会做什么。
GPT-4给出了一段内容。
第三步，让GPT-2真实的神经元被启动来产生结果，然后和GPT-4模拟的结果进行比对，研究人员会对此评分。
在部落格给出的示例中，GPT-4的得分为0.34.
,,李逵劈鱼（www.ad6868.vip）实时更新最新最有效的李逵劈鱼登录网址、李逵劈鱼备用网址、李逵劈鱼最新网址、李逵劈鱼手机网址、李逵劈鱼管理网址、李逵劈鱼会员网址。提供李逵劈鱼APP下载，李逵劈鱼APP包含李逵劈鱼代理登录线路、李逵劈鱼会员登录线路、李逵劈鱼信用网开户、李逵劈鱼现金网开户、李逵劈鱼会员注册、李逵劈鱼线上投注等业务。
使用这个办法，研究人员让GPT-4解释了GPT-2一共307200个神经元。
OpenAI表示，使用这一基准，AI解释的分数能接近人类水准。
从总体结果来看，GPT-4在少数情况下的解释得分很高，在0.8分以上。
他们还发现，不同层神经元被启动的情况，更高层的会更抽象。
此外，团队还总结了如下几点结论：
- 如果让GPT-4重复解释，它的得分能更高
- 如果使用更强大的模型来解释，得分也会上升
- 用不同的启动函数训练模型，能提高解释分数
总结来看就是，虽然GPT-4目前的表现一般，但是这个方法和想法的提升空间还有很大。 团队也强调，现在在GPT-2上的表现都不太好，如果换成更大、更复杂的模型，表现也会比较堪忧。
同时这种模式也能适用于联网的LLM，研究人员认为可以透过简单调整，来弄清楚神经元如何决策搜寻内容和造访的网站。此外他们还表示，在创建这个解释系统时并没有考虑商业化问题，理论上除了GPT-4，其他LLM也能实现类似效果。
接下来，他们打算解决研究中的这几个问题：
- AI神经元行为十分复杂，但GPT-4给的解释非常简单，所以有些复杂行为还无法解释；
- 希望最终自动找到并解释复杂的整个神经回路，神经元和注意力一起工作；
- 目前只解释了神经元的行为，但没解释行为背后的机制；
- 整个过程算力消耗巨大。
网友：快转到AI创造AI
意料之中，这项研究马上在网路上引发热议。
大家的马上联想到：「AI教人类理解AI。」
「AI教人类关掉AI中存在风险的神经元。」
还有人开始畅想，AI理解AI会快速发展为AI训练AI（已经开始了），然后再过不久就是AI创造新的AI了。
当然这也引发了不少担忧，毕竟GPT-4本身也还是个黑盒子啊。
人类拿着自己不理解的东西，让它解释另一个自己不理解的东西，这个风险……
这项研究由OpenAI负责校准的团队提出。
他们表示，这部分工作是他们对齐研究的第三大支柱的一部分：
我们想要实现自动化对齐。这种想法一个值得思考的方面是，它可能随着AI的发展而扩展更多。随着未来AI模型变得越来越智慧，我们也能找到对AI更好的解释。
论文地址：
- Language models can explain neurons in language models
资料来源：
- Language models can explain neurons in language models
- OpenAI’s tool explains language model behavior
环球UG官网声明:该文看法仅代表作者自己，与本平台无关。转载请注明：李逵劈鱼 (www.ad6868.vip):人类用自己不理解的GPT-4，去解释自己同样搞不懂的GPT-2在理解文本时30万个神经元启动的情况telegram频道搜索（www.ad6868.vip）实时更新最新最有效的telegram频道搜索登录网址、telegram频道搜索备用网址、telegram频道搜索最新网址、telegram频道搜索手机网址、telegram频道搜索管理网址、telegram频道搜索会员网址。提供telegram频道搜索APP下载，telegram频道搜索APP包含telegram频道搜索代理登录线路、telegram频道搜索会员登录线路、telegram频道搜索信用网开户、telegram频道搜索现金网开户、telegram频道搜索会员注册、telegram频道搜索线上投注等业务。
