真正的人工智能必然是个黑箱

DNA能够自主演化是因为突变。

大脑能够生成新的信息概念，形成自主信息活动，是因为偶发信令，如灵感、突发奇想、偶然的念头等。

偶发与突发事件的关键不在于是否能够发生、概率多少，而在于何时发生是未知的，不确定的。这就是其黑箱特质。

从还原角度讲，只要一直往下溯源，总能找到前因后果，但是下层的因何时能产生上层的果是不确定的，比如复杂科学中的涌现。

宠物、小孩经常会有一些新奇的想法，不听话的行为，这就是其偶发信令的体现，这也是人们创新的源泉。大脑是自主的、智能的，但同时它也是个黑箱。

未来，能产生偶发信令，实现自主的人工智能，必然也是如此，要么整体都是黑箱，要么至少部分区域是黑箱，否则哪来的自主和创新。

突发与偶发本身就意味着黑箱。