《小东西的小说》期间,连灯塔都被迫后撤了一次。用一个简单的比喻,他们现在就像是在养育一个小孩子,他们只能确定这个孩子是个天才,但他们不能确定这个孩子的性格会朝着哪个方向发展。但他们很快发现,这个计划行不通。因为超级智能的进化充满不可预知性。他们确实可以花上几百年的时间静静等待、慢慢雕琢,等系统迭代出合适的样本,但他们没有时间了。 原定计划是赋予这个超级智能一个虚拟人格。所以人类社会才有道德。 虫族已经兵临城下。 现在,他们希望一个人工智能也有自我束缚的能力。 于是灯塔的科学家们只能另辟蹊