“事实上，我的看法可能会有些危险。”
苏小木谨慎的用了危险这个词。
果然，托马索、格罗兹、李飞飞脸上的表情略微变了变，更加严肃了一些。
“我个人觉得，如果想要成功走向强智能的道路，过程中应该要允许程序失控。”
“人类与程序的最本质区别，在我看来就是一点，人类无法永远保持理智，如果让智能作为人类智能的延伸、补充、增强，那么，也应该允许智能的程序失控。”
“也只有这样，智能才会最终成为智能，而不是忠实的按照既定的轨迹执行原定的程序流程，经过数以百万次的训练之后成品的智能，从我的角度来看，是否是强智能是有疑问的。
或者，这样的智能，能放心的开放给人类使用吗？比起来，我更愿意去尝试开发个不听话的智能，至少是不会只听话！”
苏小木的话语落下后，托马索、格罗兹、李飞飞都陷入了沉默。
虽然苏小木的声音不高不低，好听又想听，但苏小木话里面的意思却很尖锐。
学术是包容的，另外一层解释就是，学术并不一定是大公无私的。
相反，学术很有可能是体现一些人意志的。
“苏，这个问题我们不讨论，因为涉及太广，而且很难是我们几个人能够准确定义的，就好像你说的，人类无法永远保持理智，我们都是人类。”
托马索率先开口道。
这一次，语气里面的郑重，大家都能听得出来。
“另外就是，我们现在想要讨论的，是智能的重新定义，虽然你说的概念很笼统，但是我们看到了不同的方向，当然，疑惑也随之而来。”
苏小木点点头，表示理解。
对一个未知领域的探索，疑惑是永远伴随着前进的方向的。
就好像，把热武器放到最原始的冷兵器时代，大家都能知道热武器优秀，却无法勘透里面的奥秘。
因为这是以无知探索未知。
李飞飞接过话头：“就现在而言，我更关心一个问题，按照你的理论框架，智能的定义应该是怎样的一种形式？”
“你知道的，我们现在关于智能的定义其实是有些百花齐放的，并不完全统一，但都大同小异，最终想要达到的结果是相同的。
之所以需要定义，也是为了定义结果的不同程度。”
苏小木想了想，回答道：“事实上，我现在的理论深度、知识积累以及对生物科学、遗传信息学、语言逻辑等等层面的了解都不够，现在认同的最终定义很可能会跟真实的最终定义矛盾，或者相悖。”
“没关系，我们想听听你的想法。”格罗兹语气平缓的安慰道。
对于这个带来了完全全新的思考的中国年轻人，格罗兹除了惊讶之外，竟然产生了一点点的佩服。
从她的角度来看，任何一个敢于在学术的道路上质疑并开辟新道路的人，都是值得敬佩的。
因为，他们才是未来的更多可能性。
苏小木整理了思绪，根据从火苗中获悉的知识资料，根据自己的亲身经历与体验，他缓缓的道。
“智能应该是乖巧但也调皮的。”
“智能应该是包容但也自私的。”
“智能应该有放肆的一面，但也会因为自身仅为补充的缘故，而自我收敛。”
“智能应该是为了解决问题而存在的，而不是为了制造更多的问题，比如允许失控的范围内，也不应该成为问题，作为补充存在，应该弥补人类本身性格的一些缺陷，人类可以制造问题，但智能不行。”
“……”
事实上，有关于智能的定义，苏小木能说上一天一夜。
因为这跟常理不同。
他也不维护常理。
不过，苏小木只是把最重要的一些定义说了说。
他的意识见过智能的朦胧印象。
“这里面有个矛盾点，智能要被允许失控的话，怎么能确定智能不会在失控的期间制造问题？”格罗兹立马发问。
作为人机交互领域的大佬级人物，她其实也很想有这样的人机交互。
就好像带一个新的孩子？
苏小木笑着道：“这就得靠我们设计的算法了，不管是怎样的智能，最初，它一定是一段程序。”
“而是程序，我们就应该确定它是没问题的！所以这是我们的责任。”
苏小木的这种说法，让托马索罗兹更是眉毛都跳动了起来。
应该说，他们更多的是去推动研究项目的更加深入，而往往忽略了一些很容易理解的事情。
就好像苏小木说的。
“就算是这样，我们要如何确定，这样形式下的智能，跟我们人类的的价值取向保持一致，事实上，这个疑惑我一直没找到答案。”李飞飞道。
苏小木笑了笑：“还是刚才的问题，我们是设计者，既然是设计者，就应该去解决这些问题，不管是什么形式下的智能，不管是不是经历过数以百万次的训练，还是别的，我们都应该用算法框架逻辑来保持智能的价值取向。”
“并不是说我们向智能输出正能量，人类发展计划之类的数据就是框架逻设计，而是我们要用更多的逻辑算法，让智能像个英雄。”
“？？？”
“？？？”
“？？？”
三脸黑人问号。
对苏小木这个突如其来的词汇，托马索、格罗兹、李飞飞都表示了不解。
“不好意思，我确定一下，苏，你