如何看待微软研究院发表的 GPT

终于把剩下的部分也扫了一遍。确实附录有一些刷分的数据，这是我之前没看到的。

文章最后的部分介绍了一些OpeanAI的局限性和社会影响。事实性错误依然存在，也存在歧视，这些已经提的很多。

局限性里面提到缺乏对任务的规划能力，不管是解方程，推理还是生成文本的时候。其中很有意思的是，人在做这些任务的时候可以也要拿个草稿一步一步写下来才能做推理和规划任务，但是模型很多时候并没有一步步给你推出来。所以他们提出了一个“工作记忆”的概念，就是说GPT4可能在推理和规划任务步骤的时候有一小块区域来打草稿。这个其实蛮有意思的。

还有一点是间断性任务能力。我把GPT4的翻译放在下面：

“间断性任务。这些任务的内容生成不能以逐步或连续的方式进行，而是需要某种“顿悟”式（Eureka）的想法，以实现任务解决方案方面的非连续性跳跃。内容生成涉及发现或创造一种新的审视或定义问题的方式，从而使得剩余内容的生成成为可能。间断性任务的例子包括需要创新或创造性地应用公式的数学问题解答、编写笑话或谜语、提出科学假说或哲学论证，或者创造一种新的写作流派或风格。

理解这些局限性的一种可能方法是将模型与Kahneman在[Kah11]中提出的快速思考和慢速思考概念进行类比。快速思考是一种自动、直观、毫不费力的思考方式，但也容易出错和偏见。慢速思考是一种受控、理性、费力的思考方式，但也更准确和可靠。Kahneman认为人类认知是这两种思考方式的混合体，我们经常在应该使用慢速思考时依赖快速思考，反之亦然。这个模型可以被认为在很大程度上能够执行“快速思考”操作，但缺少“慢速思考”成分，这种成分监督着思考过程，将快速思考成分作为子程序与工作记忆和有组织的思考方案一起使用。我们注意到LeCun在[LeC22]中提出了类似的论点，其中提出了一种不同的架构来克服这些局限性。“

这不是讲的有点玄乎了，难不成他们还在想办法让GPT有跳跃性思维吗？那人类最后创造和创意性工作也被AI取代吗？

通篇粗略读完感觉：第一，这更像gpt4使用说明，第二很多东西也有点故弄玄虚的味道。如果觉得这是PR文章，这样去理解也没什么问题。

那么之前有知乎网友说，现在对于GPT和的看法已经分成三派了。

降临派：觉得GPT这类技术就是AGI，拥抱这项技术，争做带路党。

拯救派：想其他更好的技术，因为大语言模型无法解释，训练也特别不环保。

逃亡派：逃到那些不会被影响的领域。

我还觉得现在说派别还太早了吧，没想到，我的评论区居然已经分派别了。。。。

回答问题，怎么看待？不同派别肯定看法不一样，就像一面镜子一样。

（我好像漏了抵抗派，但抵抗派有生存空间吗）

===========

读了大半，感觉这篇文章讨论的AI和大部分学术届讨论点完全不在频道。如果说认为gpt只是一个很有用的问答助手在第一层的话，这篇文章可能在四五层楼。也就是说，对于LLM的认知完全不一样，或者说微软和openAI对于大模型的认知和其他企业不在一个层级。那么基于这个认知不一样，那么对于测试这个模型的方法和指标完全不一样。所以你可以看到，通篇100多页基本上没有刷分的数据。文章花了很大的篇幅去讲，对于智能怎么去测试才是更有效的。 文章有一节讲theory of mind，就是看gpt4 能不能理解人的动机，态度，和情感，这是很重要的，因为人类正是靠这些理解能力来合作的。然后发现gpt4其实有这种能力。

如果这篇文章cherry-picking 其实没那么多的话，想想gpt4的表现其实挺恐怖的。这里能力不是指某些任务完成得多好，而是说抽象思维，情感理解，连续思考，还有系统解决问题的这些传统AI想都不敢想的能力。

==========

everyone can try

边读文章边试。有一个提到的能力是纯文本的gpt4可以写出用于生成图像的能力。

画一辆车，用只能用图的节点和边来画

ok 效果一般吧， 勉强说的通。那让gpt4用其他库试试

第一次生成的效果，继续问加一棵树

为什么gpt4知道树叶是绿的，树干是棕色的，轮胎是灰色？这些都是一次生成的结果。注意现在公开可以用的gpt4版本可能是有图像参与训练的。生成代码，然后代码画图，最后画对了。

编程能力强了很多，现在可以做leetcode medium了。除了编程挑战，也可以用来写游戏，debug，甚至跑程序。怎么有点套娃的感觉了，就好比我的世界造红石电脑，然后用红石电脑玩游戏一样。而这一点gpt3是做不到的。