Why·Liam·Blog

人生若如初見

ChatGPT 3.5 只引入了对话能力,但是立马就引爆了整个非技术圈。最显而易见,无论是天猫精灵、小爱同学还是 Alexa,相较于 ChatGPT 都像是上个时代产物。人们在面对 AIGC 时,除了对技术变革的惊讶,还有就是对于被替代的惶恐,以及对于未来风口的追赶。

我对这 6 年前的技术感到十分的好奇,所以想看一下 AIGC 中 GPT 的算法模型是如何工作的。

image.png

首先需要了解的是神经网络(Artificial Neural Networks),这是一种计算机程序或算法,其设计灵感源自于生物神经系统的工作原理。它由大量 相互连接的节点(也称为神经元)组成,这些节点模拟人脑中的神经元之间的联系。

具体来说,神经网络通常包括 输入层、隐藏层和输出层。输入层接收原始数据,并将其传递给隐藏层。隐藏层通过加权求和和激活函数的处理,将输入信号转化为更高层次的抽象特征表示,并传递给输出层。输出层根据目标任务的不同,可能采用不同的激活函数和损失函数来实现分类、回归、聚类等目标。

阅读全文 »

  • ChatGPT 实现了生成式人工智能,拥有数字内容孪生、数字编辑、数字创作三项能力,对教育产生了挑战,需要重大调整,包括培养能独立思考和有正确价值判断能力的人、用 ChatGPT 等学习工具来协同改进教育教学方式、超越知识学习,更加关注学习的品质。
  • 增加功能是增加收益的最有效方法,如果认为简化意味着缺少功能,那么这是一种错误的归因,因为产品的成功并不是因为缺少功能。
  • 「开火与动」原则 —— 每天都要向前走一小步,继续发力以挤压竞争。对于小公司来说,时间是你的朋友,逐步进展是最终成功的关键。

与以往的分析式人工智能(利用机器学习急速学习数据分布,实现分类、预测等任务)相比,ChatGPT 实现了生成式人工智能,在学习归纳数据分布的基础上同时学习数据产生的模式,用自编码器创造数据中不存在的新样本。这有点像我们婴幼儿期,对看见听见触摸到的世界进行观察,并在人的大脑中生成连接,父母亲对其理解进行引导和纠正。

ChatGPT 绝不是一个聊天机器人,也不仅仅是拥有强大算力和优秀算法模型的机器,它是活的,是一个不断进化的数字生命体,它已经拥有了几乎人类所有知识的总和,而且拥有三项超乎想象的能力——数字内容孪生能力构建现实世界 - 虚拟世界映射;数字编辑能力打通现实世界虚拟世界交互通道;数字创作能力从数据理解走向数据创作。

ChatGPT 对教育会产生什么影响?几十年来,上海高校毕业生就业去向历来排名第一的制造业,现在已经跌落到第二,无人工厂越来越多,人工智能大规模替代蓝领工作,已经成为事实。在服务业方面,人工智能也大规模开始替代人的工作,不仅仅是无人面条店、咖啡店,有了 ChatGPT,咨询、设计、翻译、法律服务等方面服务工作也岌岌可危。这不得不让我们对教育的基本功能引起反思。就教育行为本身而言,以知识传递为核心的教育模式更是被逼入墙角。

面对 ChatGPT 的挑战,教育怎么办?重新梳理最基本的概念:学习的目的、学习的本质、学习的过程。技术对学习内容、学习方式、学习环境会产生深刻影响,那么教育的形式、内容和目的也会有重大的调整。ChatGPT 出现,应该是教育自身改革的一次重大机会,因为如果传统的教育方式不改变,教育是不可能靠屏蔽 ChatGPT 来维持下去的。

教育改革急需要在以下三方面做重大调整。一是教育的首要目标是培养能独立思考和有正确价值判断能力的人;二是教育的方式方法需要有重大调整,其主要的方向是要用 ChatGPT 等学习工具来协同改进教育教学方式,而不是回避与恐惧。三是超越知识学习,更加关注学习的品质。

如果一个教育人理解这个道理,那么也就知道在这个新事物层出不穷的世界里,如何保持教育定力,坚持改革方向,真正为我们的孩子提供适切、有意义的教育。

来自:

阅读全文 »

  • ChatGPT 的背景故事,包括它的创造过程、OpenAI 对其的更新、以及它的训练方式和应用场景。
  • 三个公式:1. 灰度思维,开放态度看待世界的可能性;2. 建立立体的人生系统,不只有单一目标;3. 相信自己有实现人生系统的能力,身体是改变身边世界的关键。
  • Life Audit 是一种自我反省的练习,通过清除杂乱的、外部的目标和当前的干扰,重新审视或揭示真正的主题和核心价值。

为了了解这款聊天机器人背后的故事——它是如何被创造的,OpenAI 自发布以来是如何更新的,以及它的创造者对其成功有什么看法——我采访了四位帮助开发这款有史以来最受欢迎的互联网应用程序之一的人。除了阿加瓦尔和费杜斯,我还采访了 OpenAI 的联合创始人约翰·舒尔曼(John Schulman)和 OpenAI 校正团队的负责人简·莱克(Jan Leike),该团队致力于让人工智能做用户想让它做的事情(仅此而已)。

自去年 11 月以来,OpenAI 已经多次更新 ChatGPT。研究人员正在使用一种称为 对抗性训练 的技术来阻止 ChatGPT 让用户 欺骗它做出不良行为(或称越狱)。这项工作让多个聊天机器人相互对抗:一个聊天机器人扮演对手,通过生成文本来攻击另一个聊天机器人,迫使它打破通常的约束,产生不必要的响应。成功的攻击会被添加到 ChatGPT 的训练数据中,希望它能学会忽略这些攻击。

团队的部分困惑来自于 ChatGPT 内部的大多数技术都不是最新的。ChatGPT 是 GPT-3.5 的一个微调版本,GPT-3.5 是 OpenAI 在聊天机器人之前几个月发布的一系列大型语言模型。GPT-3.5 本身就是 2020 年出现的 GPT-3 的更新版本。

阅读全文 »

我们通过模仿别人来观察和学习,而我们从别人身上学到的最重要的东西就是欲望。人类是模仿的动物。我们在进化过程中超强地做了一件比别人更好的事:通过观察和模仿别人来学习。所有欲望的真正根源,从来不在于我们追求的对象或体验,而在于我们从他人那里学会了想要这些东西。

photo-1544716278-ca5e3f4abd8c (1074×806) (unsplash.com)

Slava Akhmechet 目前是开源项目 RethinkDB 的负责人,之前任职 Stripe 从事产品和研发的工作,有全栈视角。

我们看看 Slava Akhmechet 是如何读书的。

一些基本的立论

阅读全文 »

2 月是一年中最短的月份,同时这一个月的记忆也显得短了很多,在生活上并没有留下什么印记。

只记得这个月我一直在看《大国重工》。这本书本质上是一本工业爽文,所以在阅读上没有什么阻碍,几百万的字一个月就看完了。

最大的感受一个是体制内的交流方式和方法,瞬间把我拉回了之前国企内的生活;第二是对于 80 年代经济发展,其中走的弯路也有了一定的了解,虽然是一本爽文小时,但毕竟作者是中国社会科学院工业经济研究所博士,对于上个世界的中国经济运行的林林总总也给我做一个初步的普及。

另外,这本书让我拿起了尘封已久的 kindle,帮助我恢复看书的生活。

结束《大国重工》之后,在看《工作、消费主义和新穷人》,里面有一些理论让我眼前一亮,比如对于工作的责任与义务。比如之前,一直都认为工作是一个人的义务,从来没有想过这可能是社会强加给人的一个生活方式。对于工作、消费的思考,对当下迷茫的我来说也是一个思考的索引。

阅读全文 »

你对于某个问题没有调查,就停止你对于某个问题的发言权。这不太野蛮了吗?一点也不野蛮。你对那个问题的现实情况和历史情况既然没有调查,不知底里,对于那个问题的发言便一定是瞎说一顿。瞎说一顿之不能解决问题是大家明了的,那末,停止你的发言权有什么不公道呢?

你对于那个问题不能解决吗?那末,你就去调查那个问题的现状和它的历史吧!你完完全全调查明白了,你对那个问题就有解决的办法了。一切结论产生于调查情况的末尾,而不是在它的先头。只有蠢人,才是他一个人,或者邀集一堆人,不作调查,而只是冥思苦索地「想办法」,「打主意」。须知这是一定不能想出什么好办法,打出什么好主意的。换一句话说,他一定要产生错办法和错主意。

——《总政治部关于调查人口和土地状况的通知》,毛泽东

针对我们的过去来讲,假如说世界上有欧洲形态、亚洲形态和印度形态,亚洲形态里中国形态为主体,拿中国形态和欧洲形态来对比的话,中国自秦始皇以后一直到清朝,都自诩为「天下」,所以 中国的读书人一直就有天下意识,遇到灾难来临和外敌侵犯的时候,才有了民族意识。有了民族意识,就把人分成两群了,一群是外来人,一群是自己人。欧洲自教庭垮掉、民族国家兴起以后,本来的普世主义(universalism)一减减到了民族主义(nationalism)。中西两边都经过从天下意识到个别意识的阶段。

不过,现在我们重新回头看的话,今天的世界已经无可再分、无法再分了,我们必须要和人家一起过日子,大到气候,小到物流,以至于意识形态、知识、资讯的交流,我们已经不能够满足于民族意识,在民族意识和天下意识之间,我们必须要逐渐从民族意识摆渡到天下意识。在摆渡完以后,我们帮助他人从民族意识转化到天下意识,尤其对于被踢在后面的弱者,或者已经走在前面,但还以为自己在后面的——比如目前的中国,该怎么样从纯粹的自卫再次扩大到世界情怀?你我在异地教书,周围都是不同的语言、不同的文化背景、不同的生活状态,我们心底都有中国模式,我们眷恋不舍。眷恋不舍没关系,我对中国的眷恋比你们还深,因为我离去几十年,我回顾的东西早就不存在了,要回到当年那种情况也不可能了,所以我必须走向世界情怀。

但走向世界情怀有一个最大的「疙瘩」,这个疙瘩是什么呢?是每一个人的训练。我们都在民族背景和本土文化上受到基础的训练,学到泛论的一般理论来应用到个别的专题,每个人都有这个阶段。今天我们必须要有两个训练,一个部分是看天下,一个部分是看自己。这两个部分同时进行,**有时候互相帮助,互相提升;有时候觉得(自己)被撕裂,在情感上不舍得我记忆中的中国、书本读来的中国,**但是我必须把它摆在历史背景里,我不要(只是远远地)看着将来(的世界),我应该做关怀世界的读书人。这是我们在海外的人跟在国内的人不一样的地方,也是美国人在美国跟我们在美国不一样的地方。

阅读全文 »

一个人到了 30 岁,应该要对自己了如指掌,确切知道自己有哪些优缺点,晓得自己的极限在哪里,预见自己的衰颓 —— 做他自己。尤其是接受这些。我们会变得很积极。一切有待实践,一切也有待抛却。不再造作,但仍戴着面具。我已经见过够多的世面,几乎能够抛开一切。剩下的,是一种每天持续不断,不可思议的努力。能够守密的努力,不抱希望,亦无怨尤。再也不会去否认什么,因为一切都能够加以肯定。—— 阿尔贝・加缪《加缪手记》

img

时间本身没有变,一年有四季,生孩子还需要十个月,至少迄今为止科技无法让这些客观事物耗费的时间有变化。

但按理说科技提高了效率,我们空余的时间应该越来越多才对。但实际上社会环境和文化导致我们得主观意识,或基于渴望,或基于恐惧,希望能在单位时间内而做出更多事情,因此导致时间反而变得不够用。所以科技只是前提条件,真正的原因则是源自社会和文化:

  • **社会结构变得不稳定,需要不断提效以应对竞争。**因为资本主义其分配资源的本质源自于市场竞争,所以我们虽然自由但实际上无处不在竞争中,从学分到工资,从配偶到孩子。这些竞争中的筹码叫做「成就」。这种筹码源自于我们在单位时间内所付出的劳动,效率越高,获得的筹码越多。比如 30 岁财务自由,就比 60 岁财务自由让人羡慕,因为其在时间效率上高出了一倍。所以大家「卷」,也是希望能提高效率来获得更多成就。
  • **文化趋势让人们认为个人幸福源自更多体验。**当今世俗社会,让人们仅关注当下,所谓幸福生活,就是能在活着的时候,获得尽量多且深入的体验。所以我们即使空闲下来,也在忙着去体验更多,比如去更多地方、看更多电影、认识更多人等。但悲剧在于,这个世界提供的可供体验的选项,远比你能体验的事情要多得多,所以即使是休息,也试图在单位时间塞入更多事情去体验。也就有了打卡式旅游(提效),甚至打卡的时候再直播(时间复用)等现象。
阅读全文 »

为什么很多人年纪轻轻却总说自己已经老了。是因为自己没有达到自己心目中在这个年纪应该取得的成绩。老的不是年纪而是年纪与预期的之间的差距。老的实质是一种丧失,害怕死亡的人往往是因为没有好好活过。

图片

今天年轻人面临的压力其实是相当大的,不仅是物质上而且跟多的是心理上和情绪上的。三和青年引起很多关注,可能有两个原因。

第一个原因是他们其实代表了一种抗议性的退出。在今天的中国,竞争变得越来越激烈,而且竞争的目标变得越来越单一。所有的人都想在一线二线城市一个好的地段有三居室的房子,要有车等等。这样的一个情况下,三和青年说我干不了,我不参与这个竞争。所以他是一种退出。

那么第二个大家对三和青年的关注可能是反映了我们对这种退出的恐慌。大家觉得三和青年这样的一个人生选择不可理解,不可接受,好像在道德上有问题。他在道德上是什么问题呢?可能就是因为他退出了这种游戏,所以对这个游戏的天然正义感、天然合理性和合法性形成了某一种挑战。

阅读全文 »

本周,杭州烟花表演给夜空带来了一次难忘的壮观景象,缤纷的烟花映衬着星空,色彩斑斓,五颜六色,洒落在空中,如同流星一样耀眼夺目,犹如华丽的舞蹈,让夜晚更加美丽动人。

IMG_1709

为什么国内外的互联网行业都在变糟?除了疫情、经济周期这些问题,互联网行业本身的「中年危机」或许是更核心的原因。

一个序列,以光标所在的建筑物开始。光标试图将建筑物放在某个位置,但建筑物倒塌了。

科技行业似乎正处于衰退之中。尽管总体失业率仍然很低,但几乎所有主要科技公司——包括亚马逊、Meta、Snap、Stripe、Coinbase、Twitter、Robinhood 和英特尔——在过去几个月都宣布了两位数的裁员。其中许多公司的股票估值在过去一年中下跌了 50% 以上。

阅读全文 »

三年的疫情的防控政策结束,很多人都再次出了远门。

相传中国传统年是一头叫「年」的邪恶怪兽。它会在腊月二十九至正月初一期间来到人间吃人,带来灾难和不幸,所以人们通过放烟火、敲锣打鼓等活动来驱赶年,保护自己和家人。虽然现在年味越来越淡了,但这是人类文化、社会、历史和科技进步背景下的正常演变过程,只是人类行为方式不同了而已。不管何年何时,我们都要克服那头恶兽,需要「过年」, 避祸消灾、福运盛达。我想这就是过年仪式感的人类学隐喻吧。—— 人类学家陪你过大年

在前些年,在腊月初始,关于春晚的彩排消息就开始蔓延,但是近几年科技越来越发达,但是人们对于春晚的关注度却越来越低。

在春晚初期,他只是承担了人们的精神狂欢的功能,但是在近现代,国家对于春晚所附加的内容越来越多,有对人们精神生活的关注、当下社会议题的映射、来年国民发展的期许。同时,由于科技、媒体、社会等的发展,人们一年一度的期许早就在日常抖音和商超的奢靡中提高了阈值。

烟花爆竹是中国的传统文化。去年,全国禁放烟花的县市数量达到 444 个,但是作为承载经济和文化的产品,今年部分消费市场的悄悄地放开了。记得小时候,会去村里的小卖部买各种形形色色的烟花,摆出各种花样百出的造型、燃放方式。或许也是因为抖音里见过太多光怪陆离的场景,对于烟花的呈现方式不是我关注的重点,但是我依赖向往在年三十万晚上大家齐放的震撼场景,那种对「年」的驱赶,并新年祈福的方式。

阅读全文 »
0%