文章预览
我的看法是 Ilya 和 Sam 之间关于AGI发展路线的分歧 他们的共识都是要实现AGI，但是分歧在于实现什么样的AGI 大体来说，AGI有两种方向 一种是 实现远远超越人类智力的全知全能的AGI，知识比人类多得多，计算推理能力比人类强得多，人类解决不了的问题AGI能解决，人类想不出的创意AGI能想出来，总之这种AGI就是神，我等凡人只需要在AGI神的指引下生存就好了。之所以Ilya总是强调AI的安全问题，因为这种AGI神明必须是能善待人类的，如果AGI不是善待人类的，那么消灭人类则是分分钟的事，审判日将到来。 另一种AGI，不是全知全能的神，这种AGI只有在某些方面可以达到或者超越人类，能够替代人类去从事人类不想干的工作，这种AGI可以任劳任怨，效率极高，也不会对人类产生威胁，更不会有能力消灭人类，总之这种AGI就是奴隶，而且是人类永生永世的
………………………………
