OpenAI“超级对齐”团队及其对齐策略.pdfVIP

058｜“超级对齐”是怎么对齐的？

欢迎回到《科技参考》，我是

11月中旬OpenAI的那次公司，引起了全球科技者的关注，

咱们专栏也追了几期热点。

不一样的是，咱们在接下来一周，又把那次中几乎无人支持的保守

派，也就是伊利亚和他的博士生导师的观点与经历梳理了一下，让

很多人一下理解了为什么这次这么匆忙和蹩脚。

有几位同学追问我：770多人的公司，有743人都签名要求阿尔特曼

回归，那不是还有二三十个人没有签名吗？这几十个人你能不能也挨个

挖一挖？这我还真没有能力挖，不过我可以告诉大家的是，这二三十个

人基本都是在OpenAI“超级对齐”（Superalignment）团队工作的

人。这个团队就是伊利亚的。

什么是“对齐”？这个在剧情里我曾经提过，这其实是OpenAI

初心的一部分，就是不能让AI作恶，为了保证大模型今后的发展符合

人类道德观，需要让