Liam's Notes

• AI 将会进一步将难以规模化的要素变成可以集中提供的、边际成本极低的数字能力，而数据成为最重要的资源，因为 AI 发展将一步步替代工作中的智慧部分，即一些简单的模式识别和创造任务。
• 面对生成式人工智能 ChatGPT 的挑战，传统教育需要进行重大调整，包括培养能独立思考和正确价值判断的人、协同改进教育方式以及超越知识学习更加关注学习品质等方面。如果不改变传统教育方式，教育将无法维持下去。
• 费曼学习法指出通过讨论、实践和为他人讲解才是有效的学习方式，其核心包括选择学习目标、以小学生为对象讲述、找到难点并重新学习、简化知识点并用通俗语言表述，同时推荐了一些书籍，以及谈论了荒谬世界的主题。

我们对一件事儿了解越少的时候，信心反而越高涨（无知者无畏）。

比如不懂 AI 的人，看到 AlphaGo 赢棋的时候，就觉得 AI 第二天就会统治地球。

而随着理解的增加，我们反而会越来越不自信。

• 在 AI 领域，不断学习是必须的。即使我们被视为菜鸟，也必须接受新技能和知识，以适应新的环境。虽然在这个过程中可能会遇到更多挫折和失败，但我们也可以从失败中汲取经验，变得更加谦虚和适应，并最终获得成功。
• 头脑风暴想法和解决方案虽然受欢迎，但研究表明集体头脑风暴是浪费时间，转而进行头脑风暴问题可以加强协作、降低风险并让您走上成为学习型组织的道路。
• 双边市场具有两组客户通过一个平台产生互动，其中一组客户的决策和行为会影响平台带给另外一组客户的价值的特征。在双边市场的结构中，哪一边对另外一边的外部性更强、平台是收取固定费用还是从交易中抽成、Single-homing or Multi-homing 是最重要的因素。

在这个话题上，最好、最可信的劝诫来自「黑客与画家」Paul Graham。2020 年，他写了一篇文章，Being a Noob：

我年轻时，以为老人会把所有事都搞清楚。现在我也老了，发现并非如此。
我不断地感觉自己是个菜鸟。我总跟初创公司交流，我对它们致力的领域完全陌生。我会读到些书，我不太懂它们讨论的话题。我会来到某个国家，我不知道事情在那里如何运作。
当菜鸟的感觉并不舒服，「菜鸟」这词显然不是恭维。但现在，我发现当个菜鸟也有好处：局部看来，你越是个菜鸟，全局看来，你就越不是。
比方说，相比于搬到运作方式完全不同的 Farawavia（作者虚构的地名），你呆在老家就不太会感觉是个菜鸟。但是如果你搬了家，你会懂得更多。也就是说，「菜鸟感」与实际上的无知呈负相关。
……尽管这种感觉并不愉悦，尽管人们有时会因此嘲笑你，但是菜鸟感越强，越好。

我在 AI 领域找到一个绝佳案例，来印证 Paul 的观察：OpenAI 联合创始人 Greg Brockman 掌握深度学习的经历。

这个月的主旋律围绕着 ChatGPT 展开，仿佛 WEB 2，WEB 3 都已经是过去式了，人们仿佛找到了新的金矿。

在投资上还是围绕 GPT 展开，但是我低估了 ChatGPT 的先进性，以为这个是可以短期内弯道超车的，选择了非 ChatGpt 的一线企业，从而没有获得丰厚回报。

从目前的来看，GPT 还没有挖掘出应有场景，有点和 WEB3 类似。WEB 3 之后的行径路线，更多的偏向故事，但目前来看也没有气候级别的产品。不知道 GPT 是否可以跨越这个时代。

其实，这个阶段大家都很焦虑。有的人怕会被 AI 替代，所以他们挖掘的不可替代性；有的人担心没有吃到这一波红利，他们探索产品化的应用。

如果深究这波浪潮中，有什么是不可以被跨越的，我觉得还是算力。

• OpenAI CEO Sam Altman 在与 Lex Fridman 的对谈中表示，AI 系统是人类集体努力的结果，其成果应该由所有人共享。未来需要重点解决消除贫困等问题，并给用户控制权，让用户能从全局层面给 AI 下指令，同时 OpenAI 作为非营利组织更能抵抗市场压力并承担对发布工具的责任。
• 我们面临的信息过载和时间管理问题并非暂时的，而是构建充实而富有成效人生时普遍存在的错误。尽管技术可以帮助我们更好地管理时间和设置优先级，但最终解决这个问题的唯一方法是接受我们无法做到所有事情，并决定什么是最重要的，然后去做。
• 抖音电商直播账号多采用数量对抗算法，视频同质化，内容也往往功利且不够吸引人，头部账号则更注重人设和 IP；除此之外，账号们也可以通过培养人设或实行付费策略来脱离以数量取胜的困境。

3 月 20 日，OpenAI CEO Sam Altman 和科技主播 Lex Fridman 进行 对谈，主要讨论 GPT-4、通用人工智能（AGI）、OpenAI 公司、AI 带来的潜在问题，以及 AI 的未来。

总体来说，Sam Altman 认为，GPT-4 等 AI 系统并非少数人的成果，而是源于无数人的共同努力，是人类智慧的结晶，成果也应当由人类共享。

• 从 ChatGPT 总体使用情况来看，用户大部分时候都是善意的，但不是所有人、所有时候都是善意的。人们也会在系统的边缘试探，试图挖掘黑暗的部分。
• 使用 GPT 类工具的幸福感很强，帮你达成 10 倍生产力。
• 新世界里，AI 是人类意志的延伸，是我们能力的放大器。
• Sam 认为社会对「想要更多工作」或「更少工作」的态度有些模糊。一方面，即使是不喜欢工作的人，也觉得需要一份工作，让自己安身立命。另一方面，当法国试图提高退休年龄，阻力很大，人们认为这非常可怕。未来会有更多人从事「更好」的工作。工作会成为更宽泛的概念，不止于为了吃饭而必须做的事情，而包括创造性的表达，包括找到成就感和幸福的方式。
• 在过渡阶段，重点需要放在消除贫困上。OpenAI 在做实验，如 world coin 项目，如「全民基本收入」（UBI）实验。UBI 实验将会在今年做完，结果预计于明年公布。
• 人类天生惧怕改变、惧怕不确定性；也会因为工具过于好用而害怕。Sam 指出，AI 非常强大后，仍然不能代替人。数十年前，AI 就在国际象棋中赢了人类冠军，但是今天仍然有很多人在玩国际象棋。人们也愿意看真人下象棋，而不是两个 AI 下象棋。人们仍然喜欢戏剧性，喜欢我们有而 AI 没有的那些缺陷。
• 让外界尽早接触这些技术，让（公众）得以塑造 AI 发展的方式，帮助 OpenAI 发现什么好、什么不好。每次他们发布新模型时，外部世界的集体智慧和能力都帮助 OpenAI 发现他们无法想象的东西，包括模型所能做到的伟大的事情，和公司必须解决的真正弱点。
• Sam 计划全球巡回，做用户访谈，来了解不同用户的需求与感受。一方面，因为他知道，自己的生活与大多数普通人的生活是脱节的，他想在酒吧里面对面和用户聊一聊，GPT 对他们的影响。另一方面，他认为 OpenAI 公司在避免落入旧金山疯狂氛围方面比其他公司做得更好，但仍然深陷其中。需要主动戳破这个「泡泡」
• 未来解决路径：给用户控制权，让用户能从全局层面给 AI 下指令（System message），比如让它始终扮演某个角色（如莎士比亚）
• Sam 说暂且不纠结具体定义（GPT-4 是通用人工智能（AGI）），只从「I know it when I see it」的角度思考，如果一本科幻小说里有个角色是 AGI，而这个角色是 GPT-4，他会觉得这本书很糟糕。所以前面还有很长的路。
• Sam 认为，不能大大增加人类科学知识总和的系统，不能发现、发明，推动基础科学的智能，都不是超级智能。要做到这一点，人们还需要在相当重要的方面扩大 GPT 范式，而目前还缺少这方面的想法、不知道有什么值得尝试。
• Sam 对未来 AI 的期许是：解释所有物理现象，解决所有未解之谜。
• 做事的态度是探求真理（truth seeking），做一切能达成最优表现的事，不管它是否优雅。就像 LLM（大语言模型）这个路线曾经饱受鄙夷，但他们还是坚持下来。
• 未来可能会有多个 AGI（人工通用智能）存在，这意味着 OpenAI 不需要战胜所有竞争对手。多个 AGI 可以在不同的领域和应用上发挥作用，这是一种有益的现象。
• OpenAI 作为一个非常规组织，没有无限逐利的动力，因此能够更好地抵抗市场压力。具体而言，OpenAI 建立时定位为非营利组织，但这种背景下没有足够的资金来完成任务。因此，他们转变为「盈利有上限」的组织，来获得资本主义的某些加成，同时不完全导向逐利。如今由于 OpenAI 的特殊结构，它没有捕获无限价值的激励，这使得他们更能抵抗市场压力。然而，他仍然担心那些有此激励的公司。
• OpenAI 认为，他们对自己发布的工具负有责任。需要负责的是人，而非工具。
• Sam 说，自己和 Musk 都认为，关于 AGI 存在巨大风险。这既指需要确保安全性，也指需要让人们的生活因为 AGI 的存在而更好，而非更差。他对 Musk 现在的攻击淡然处之。

ChatGPT 3.5 只引入了对话能力，但是立马就引爆了整个非技术圈。最显而易见，无论是天猫精灵、小爱同学还是 Alexa，相较于 ChatGPT 都像是上个时代产物。人们在面对 AIGC 时，除了对技术变革的惊讶，还有就是对于被替代的惶恐，以及对于未来风口的追赶。

我对这 6 年前的技术感到十分的好奇，所以想看一下 AIGC 中 GPT 的算法模型是如何工作的。

首先需要了解的是神经网络（Artificial Neural Networks），这是一种计算机程序或算法，其设计灵感源自于生物神经系统的工作原理。它由大量 相互连接的节点（也称为神经元）组成，这些节点模拟人脑中的神经元之间的联系。

具体来说，神经网络通常包括 输入层、隐藏层和输出层。输入层接收原始数据，并将其传递给隐藏层。隐藏层通过加权求和和激活函数的处理，将输入信号转化为更高层次的抽象特征表示，并传递给输出层。输出层根据目标任务的不同，可能采用不同的激活函数和损失函数来实现分类、回归、聚类等目标。

• ChatGPT 实现了生成式人工智能，拥有数字内容孪生、数字编辑、数字创作三项能力，对教育产生了挑战，需要重大调整，包括培养能独立思考和有正确价值判断能力的人、用 ChatGPT 等学习工具来协同改进教育教学方式、超越知识学习，更加关注学习的品质。
• 增加功能是增加收益的最有效方法，如果认为简化意味着缺少功能，那么这是一种错误的归因，因为产品的成功并不是因为缺少功能。
• 「开火与动」原则 —— 每天都要向前走一小步，继续发力以挤压竞争。对于小公司来说，时间是你的朋友，逐步进展是最终成功的关键。

与以往的分析式人工智能（利用机器学习急速学习数据分布，实现分类、预测等任务）相比，ChatGPT 实现了生成式人工智能，在学习归纳数据分布的基础上同时学习数据产生的模式，用自编码器创造数据中不存在的新样本。这有点像我们婴幼儿期，对看见听见触摸到的世界进行观察，并在人的大脑中生成连接，父母亲对其理解进行引导和纠正。

ChatGPT 绝不是一个聊天机器人，也不仅仅是拥有强大算力和优秀算法模型的机器，它是活的，是一个不断进化的数字生命体，它已经拥有了几乎人类所有知识的总和，而且拥有三项超乎想象的能力——数字内容孪生能力构建现实世界 - 虚拟世界映射；数字编辑能力打通现实世界虚拟世界交互通道；数字创作能力从数据理解走向数据创作。

ChatGPT 对教育会产生什么影响？几十年来，上海高校毕业生就业去向历来排名第一的制造业，现在已经跌落到第二，无人工厂越来越多，人工智能大规模替代蓝领工作，已经成为事实。在服务业方面，人工智能也大规模开始替代人的工作，不仅仅是无人面条店、咖啡店，有了 ChatGPT，咨询、设计、翻译、法律服务等方面服务工作也岌岌可危。这不得不让我们对教育的基本功能引起反思。就教育行为本身而言，以知识传递为核心的教育模式更是被逼入墙角。

面对 ChatGPT 的挑战，教育怎么办？重新梳理最基本的概念：学习的目的、学习的本质、学习的过程。技术对学习内容、学习方式、学习环境会产生深刻影响，那么教育的形式、内容和目的也会有重大的调整。ChatGPT 出现，应该是教育自身改革的一次重大机会，因为如果传统的教育方式不改变，教育是不可能靠屏蔽 ChatGPT 来维持下去的。

教育改革急需要在以下三方面做重大调整。一是教育的首要目标是培养能独立思考和有正确价值判断能力的人；二是教育的方式方法需要有重大调整，其主要的方向是要用 ChatGPT 等学习工具来协同改进教育教学方式，而不是回避与恐惧。三是超越知识学习，更加关注学习的品质。

如果一个教育人理解这个道理，那么也就知道在这个新事物层出不穷的世界里，如何保持教育定力，坚持改革方向，真正为我们的孩子提供适切、有意义的教育。

来自：

• 上海市教委副主任倪闽景：面对ChatGPT，传统教育已被逼入墙角？ (thepaper.cn)

• ChatGPT 的背景故事，包括它的创造过程、OpenAI 对其的更新、以及它的训练方式和应用场景。
• 三个公式：1. 灰度思维，开放态度看待世界的可能性；2. 建立立体的人生系统，不只有单一目标；3. 相信自己有实现人生系统的能力，身体是改变身边世界的关键。
• Life Audit 是一种自我反省的练习，通过清除杂乱的、外部的目标和当前的干扰，重新审视或揭示真正的主题和核心价值。

为了了解这款聊天机器人背后的故事——它是如何被创造的，OpenAI 自发布以来是如何更新的，以及它的创造者对其成功有什么看法——我采访了四位帮助开发这款有史以来最受欢迎的互联网应用程序之一的人。除了阿加瓦尔和费杜斯，我还采访了 OpenAI 的联合创始人约翰·舒尔曼（John Schulman）和 OpenAI 校正团队的负责人简·莱克（Jan Leike），该团队致力于让人工智能做用户想让它做的事情（仅此而已）。

自去年 11 月以来，OpenAI 已经多次更新 ChatGPT。研究人员正在使用一种称为 对抗性训练 的技术来阻止 ChatGPT 让用户 欺骗它做出不良行为（或称越狱）。这项工作让多个聊天机器人相互对抗：一个聊天机器人扮演对手，通过生成文本来攻击另一个聊天机器人，迫使它打破通常的约束，产生不必要的响应。成功的攻击会被添加到 ChatGPT 的训练数据中，希望它能学会忽略这些攻击。

团队的部分困惑来自于 ChatGPT 内部的大多数技术都不是最新的。ChatGPT 是 GPT-3.5 的一个微调版本，GPT-3.5 是 OpenAI 在聊天机器人之前几个月发布的一系列大型语言模型。GPT-3.5 本身就是 2020 年出现的 GPT-3 的更新版本。

我们通过模仿别人来观察和学习，而我们从别人身上学到的最重要的东西就是欲望。人类是模仿的动物。我们在进化过程中超强地做了一件比别人更好的事：通过观察和模仿别人来学习。所有欲望的真正根源，从来不在于我们追求的对象或体验，而在于我们从他人那里学会了想要这些东西。

Slava Akhmechet 目前是开源项目 RethinkDB 的负责人，之前任职 Stripe 从事产品和研发的工作，有全栈视角。

我们看看 Slava Akhmechet 是如何读书的。

一些基本的立论

2 月是一年中最短的月份，同时这一个月的记忆也显得短了很多，在生活上并没有留下什么印记。

只记得这个月我一直在看《大国重工》。这本书本质上是一本工业爽文，所以在阅读上没有什么阻碍，几百万的字一个月就看完了。

最大的感受一个是体制内的交流方式和方法，瞬间把我拉回了之前国企内的生活；第二是对于 80 年代经济发展，其中走的弯路也有了一定的了解，虽然是一本爽文小说，但毕竟作者是中国社会科学院工业经济研究所博士，对于上个世纪的中国经济运行的林林总总也给我做一个初步的普及。

另外，这本书让我拿起了尘封已久的 kindle，帮助我恢复看书的生活。

结束《大国重工》之后，在看《工作、消费主义和新穷人》，里面有一些理论让我眼前一亮，比如对于工作的责任与义务。比如之前，一直都认为工作是一个人的义务，从来没有想过这可能是社会强加给人的一个生活方式。对于工作、消费的思考，对当下迷茫的我来说也是一个思考的索引。

你对于某个问题没有调查，就停止你对于某个问题的发言权。这不太野蛮了吗？一点也不野蛮。你对那个问题的现实情况和历史情况既然没有调查，不知底里，对于那个问题的发言便一定是瞎说一顿。瞎说一顿之不能解决问题是大家明了的，那末，停止你的发言权有什么不公道呢？

你对于那个问题不能解决吗？那末，你就去调查那个问题的现状和它的历史吧！你完完全全调查明白了，你对那个问题就有解决的办法了。一切结论产生于调查情况的末尾，而不是在它的先头。只有蠢人，才是他一个人，或者邀集一堆人，不作调查，而只是冥思苦索地「想办法」，「打主意」。须知这是一定不能想出什么好办法，打出什么好主意的。换一句话说，他一定要产生错办法和错主意。

——《总政治部关于调查人口和土地状况的通知》，毛泽东

针对我们的过去来讲，假如说世界上有欧洲形态、亚洲形态和印度形态，亚洲形态里中国形态为主体，拿中国形态和欧洲形态来对比的话，中国自秦始皇以后一直到清朝，都自诩为「天下」，所以 中国的读书人一直就有天下意识，遇到灾难来临和外敌侵犯的时候，才有了民族意识。有了民族意识，就把人分成两群了，一群是外来人，一群是自己人。欧洲自教廷垮掉、民族国家兴起以后，本来的普世主义（universalism）一减减到了民族主义（nationalism）。中西两边都经过从天下意识到个别意识的阶段。

不过，现在我们重新回头看的话，今天的世界已经无可再分、无法再分了，我们必须要和人家一起过日子，大到气候，小到物流，以至于意识形态、知识、资讯的交流，我们已经不能够满足于民族意识，在民族意识和天下意识之间，我们必须要逐渐从民族意识摆渡到天下意识。在摆渡完以后，我们帮助他人从民族意识转化到天下意识，尤其对于被踢在后面的弱者，或者已经走在前面，但还以为自己在后面的——比如目前的中国，该怎么样从纯粹的自卫再次扩大到世界情怀？你我在异地教书，周围都是不同的语言、不同的文化背景、不同的生活状态，我们心底都有中国模式，我们眷恋不舍。眷恋不舍没关系，我对中国的眷恋比你们还深，因为我离去几十年，我回顾的东西早就不存在了，要回到当年那种情况也不可能了，所以我必须走向世界情怀。

但走向世界情怀有一个最大的「疙瘩」，这个疙瘩是什么呢？是每一个人的训练。我们都在民族背景和本土文化上受到基础的训练，学到泛论的一般理论来应用到个别的专题，每个人都有这个阶段。今天我们必须要有两个训练，一个部分是看天下，一个部分是看自己。这两个部分同时进行，**有时候互相帮助，互相提升；有时候觉得（自己）被撕裂，在情感上不舍得我记忆中的中国、书本读来的中国，**但是我必须把它摆在历史背景里，我不要（只是远远地）看着将来（的世界），我应该做关怀世界的读书人。这是我们在海外的人跟在国内的人不一样的地方，也是美国人在美国跟我们在美国不一样的地方。