讨论AI进展的瓶颈是验证而非对齐，以及递归自我改进的观察难题

转推 @Dan_Jeffries1: 一直以来都是验证问题，而大众被对齐问题分散了注意力。

递归自我改进？

观察者如何观察自身，并知道自己变好还是变坏，当它自己眼中有刺时？