第二部分 · 连接
第四章

AI三论

理解AI的边界和机会

AI不是在思考,它是在压缩。理解这一点,你就理解了AI的边界。

AI的本质:高维压缩机

AI不是在思考,它是在压缩。更准确地说,大语言模型(LLM)是一个高维压缩机——它把人类所有的文字(几乎整个互联网的内容),压缩成一个高维的向量空间,然后在这个空间里找到最合理的下一个词。

AI的"聪明",是人类集体智慧的压缩版本。当你问AI一个在人类文字中有大量讨论的问题,AI的回答会很好。

AI的"蠢",是压缩过程中丢失的细节。当你问AI一个需要具体上下文的问题,AI的回答会很差——因为它没有你的具体信息。

理解这一点,你就理解了AI的边界:AI擅长处理有大量人类文字作为参考的问题,不擅长处理需要具体上下文的问题。

AI时代的价值对齐

AI时代的产品设计,有一个比功能设计更重要的问题:价值对齐

你的产品,在帮用户做什么判断?这些判断,是用户真正想要的判断,还是你认为用户应该想要的判断?

最危险的AI产品,是帮用户做了他们不想要的判断。比如,一个新闻推荐算法,如果它的目标是最大化用户的停留时间,它会推荐让用户愤怒或恐惧的内容——用户的停留时间增加了,但用户的心理健康受损了。

最好的AI产品,是帮用户做了他们想做但做不好的判断。

AI时代的产品设计核心,是价值观设计,不是功能设计。