Ernie.SG 
关于“故事的声音”（The Sound of Stories）这个项目，最让我兴奋的一点，是让用户生成自己独一无二的鼓声，再把这些声音全丢进一个嵌入空间，让他们在现场和另一个人一起，用 ERAE Touch 之类的互动设备去寻找自己的那一枚声音：滑动、旋钮，等等，这些操作会映射到潜在空间和值上，最后定位出它在嵌入空间里的“坐标”。等他们找到了，也许现场还会有一块巨大的屏幕，把生成这个声音的故事投射出来。我觉得这从 A.I. 可解释性的角度会很有意思，多少受到这篇和这篇的启发。当然，好玩的反转在于，潜在空间未必能被直接解释；但我仍然觉得，把这些不同的技术在现场编织到一起，会是一个有趣也有意义的方式。
先把这个设定说到这里。不过我在听这个播客的时候忽然想到：如果我们从第一性原理重建大脑以及它同世界的关系，而我们又接受现实的真实本质根本不可知这一点（如柏拉图和康德所暗示的那样），那逻辑上似乎就会走向：生命的一切都是概率性的。所以，期待这样的系统必须是确定性的，不但不合理，连 A.I. 可解释性本身也有点像被摆错重点的伪问题？从概率和统计的角度看，只要 A.I. 大多数时候能做出好的预测，我们为什么还要期待它给出更多解释或理由？这几乎显得有点不公平。另一个同样背负这种额外解释义务的领域，也许只剩意识本身的性质了。
如果大脑确实是自上而下运作，而我们所谓的现实，只不过是大多数人基于自己对世界所见的贝叶斯推断，以及被文化、环境、信念等等塑造出来的先验而共同认可的受控幻觉；如果如今我们都是贝叶斯推断机器，那么撇开意识问题不谈，任何智能系统的根本测试，也许只是它预测得有多准。再往前推一步，就是它能不能从一套可用动作中调取相关动作，去达成想要的目标。换句话说，成功本身就是解释；正如科学理论的前进，衡量的也是它预测得有多好，或者一个理论能把误差压到多低。
对我们的大脑而言，那种根本的神秘感——它的层级式预测处理，来自世界的信息如何被转化为电化学信号——其实和当下 A.I. 这个“黑箱”并没有那么不同。但它也不是一个对我们完全不透明的黑箱；有了足够扎实的神经科学、概率论和统计学打底，我们大概就更容易按这些预测机器本来的样子去接受它们，同时也更清楚它们的局限。
所以，也许 A.I. 可解释性的责任，真正落在教育系统身上？
最初发表于 PubPub：erniesg.pubpub.org/pub/6p2l328i。