【大白话系列 #3】大白话聊 ChatGPT(Sarah & 王建硕)

00:00
02:17:51
节目详情

欢迎各位收听 Traders’ Talk 大白话系列的第 3 期。


这次建硕和我聊的是一个充满未知和想象力的话题——ChatGPT。就在今天凌晨(2023/3/15),OpenAI 发布了多模态预训练大模型 GPT-4,它比之前的产品更加可靠、更有创意,能处理更细微的指令。


在本期节目中,建硕科普了 ChatGPT 的定义和原理,澄清了关于它的常见误解,并从创业者的角度出发畅谈了 ChatGPT 的应用前景和创业机会。最后,我们还探讨了与 AI 相关的隐忧。


感谢各位的收听,我是 Sarah,让我们开始本期节目吧!


———以上文本由 ChatGPT 生成———


【相关文稿及视频】


本期播客逐字稿(未精校)https://d58hixvcd6.feishu.cn/minutes/obcnyme2oqv67s82sct87997

完整视频直播逐字稿(精校):https://d58hixvcd6.feishu.cn/docx/HfMEds7Z1ov37wxqM19czTBinWg

如何收看视频直播详见下图�


【嘉宾简介】


王建硕,


百姓网创始人、董事长

公众号:王建硕


【Timeline】


一、ChatGPT 定义及原理


00:02:58 ChatGPT 首先是一个产品,其次才是一个大语言模型


00:04:23 自然语言处理 NLP 的两大分支:大语言模型 VS 特定语言模型


00:08:30 GPT-3.5 中的 3.5 编号是怎么来的?


00:10:36 ChatGPT 中 G、P、T 三个字母以及微调的含义


00:18:26 特德·姜的文章比喻:ChatGPT 是人类知识模糊的 JPG


00:21:18 人工智能幻觉 AI Hallucinations 是怎么产生的,需要规避吗?


二、澄清关于 ChatGPT / LLM 的迷思


00:30:41 为什么 ChatGPT 是数学很差的文科生?它在做的不过是文字补全


00:34:41 近两年大语言模型的突破性进展:涌现、思考链路,但依然算不上通用人工智能


00:40:52 ChatGPT 敲开了自然语言用户界面 LUI 的大门


00:45:09 建硕经历的四次历史上的惊叹时刻,其中浏览器时刻与 ChatGPT 时刻极为相似


00:49:48 Web3 现在还相当于互联网的 1979 年,有改变人类世界的能力、但还未到火候,在行业里等待可能是危险的


00:53:51 中国有必要再做一个类似 ChatGPT 的大语言模型吗?


00:59:51 ChatGPT 与搜索引擎的关系和区别


01:01:33 ChatGPT 有没有自我 / 意识 / 人格?


01:13:14 如何看待杨立昆 Yann LeCun 教授的评价:ChatGPT 所应用的技术并无多大创新,只是在工程设计上非常优秀?


三、创业视角看 ChatGPT


01:15:36 ChatGPT 可能被应用的领域有哪些?


01:19:34 基于同一套 GPT 模型 API 开发的产品该如何进行产品差异化、构建竞争壁垒?


01:22:38 ChatGPT 这一次浪潮究竟是谁的机遇,产业链的价值捕获最终会落在何处?


01:28:43 国内外创业者在这条路上时间差吗?各有什么风险和机遇?


01:35:31 ChatGPT 会让人失业吗?


01:39:50 会用 AI 的人和不会用 AI 的人之间会形成更大的不公平吗?


四、AI 隐忧


01:42:13 ChatGPT 生成的内容(包括 AI 作图的作品)应该受版权保护吗?


01:44:45 ChatGPT 背后的语料是否可能涉及侵犯隐私或非授权的数据爬取?


01:49:48 未来互联网会不会充斥着 AI 生成了大量同质化 / 平均水平的语料,进而让未来的一代成为「迷失的一代」?


01:59:48 ChatGPT 不仅不会像抖音算法那样割裂世界,反而给人类一个世界大同的可能性


五、其他


02:10:07 AI 教育的重要性,以及建硕在实践的瀛海威互联网分享精神的传承


【名词解释】

1. ChatGPT 的核心是大型语言模型(详见第 4 点),及《ChatGPT 中,G、P、T 分别是什么意思?》。

2. 微调(Fine-Tuning):这部分训练是在预训练之后进行的。该程序接受一项任务,然后针对更具体的数据在更小、更具体的任务上进一步训练它。

3. OpenAI 各代产品:GPT-1、2、3、4 、InstructGPT 与 ChatGPT

2018 年 GPT-1(开源):首次让人工智能像人类一样「理解文字」、写出文字

2019 年 GPT-2(开源,1.5 billion 参数)

2020 年 GPT-3(未开源,175 billion 参数,45T 文本)

InstructGPT:专注于让其听懂指令

ChatGPT(GPT-3.5,500G 文本):基于对话场景以及安全边界等进行加强,是 GPT-3 模型上进行微调的产物。

2023/3/2 GPT-3.5 API 开放:人人可用、接入门槛低

2023/3/15 GPT-4 上线,拥有多模态能力,可接受图像输入并理解图像内容

4. 自然语言处理(Natural Language Processing,简称 NLP):是 AI 领域的一个子领域,旨在让计算机能够理解、处理、生成自然语言。

    大语言模型(Large Language Model,简称 LLM):是自然语言处理领域中的一种技术。LLM 可以基于深度学习算法构建的模型,通过学习大量的文本数据,可以对文本数据进行学习和预测。“大”指的是参数多、语料多。

    特定语言模型(Specific Language Model):是一种针对特定语种和领域的自然语言处理模型。它在大语言模型的基础上,使用特定领域的文本数据进行训练和优化,以提高模型在该领域中的预测和生成能力。

    意图检测(Intention Detection):是 NLP 领域的一种技术,旨在识别和理解用户在一段文本中的意图。在应用中,意图识别通常与语音识别和语音合成等技术相结合,以实现智能对话和交互。

    实体检测(Entity Detection):同样是 NLP 领域的一种技术,旨在从文本中识别出具有特定意义的实体,例如人名、地名、组织机构、日期、数字等。

5. 提示词(Prompt):一种文本片段,包含了对输入数据进行处理的指令或提示,系统可以根据 Prompt 生成相应的输出。通常用于生成文本、回答问题等任务中。

6. 人工智能幻觉(AI hallucinations):人工智能系统在生成输出时,所产生的一些错误或不合理的结果。这些结果通常是由于模型在训练过程中,所接受的数据不足或不平衡所导致的。

7. 涌现(Emergence):从简单的算法、模型或数据中出现的意想不到的结果或行为。当神经网络的复杂性和训练样本的多样性超过一定规模后,就会有抽象的推理结构在神经网络里自发地涌现出来,这个过程是非线性的,量变导致质变。

8. 思维链路(Chain of Thought,简称 CoT):用于描述神经网络中的信息流动和计算过程。这一概念试图复现慢思考模式的过程。

9. 通用人工智能(Artificial General Intelligence,简称 AGI):与目前大多数人工智能系统只能解决特定领域的问题不同,AGI 可以具有类似人类的智能,能够在多个领域中学习和应用知识,处理和理解不同类型的信息,并具备自我学习和自我改进的能力。AGI 被认为是人工智能领域中最具挑战性和最具科学意义的目标之一。

10. AIGC(Artificial Intelligence Generated Content):由人工智能自动生成的内容,这些内容可以是文字、图像、音频、视频等。

11. Yann LeCun 杨立昆教授:Meta AI 首席科学家,2018 年图灵奖获得者,CNN 卷积神经网络之父,是世界上最有影响力的人工智能研究人员之一。

12. BUI、TUI、CUI、GUI、GIUI、LUI:https://mp.weixin.qq.com/s?__biz=MjM5NzI0Mjg0MA%3D%3D&mid=2652376369&idx=1&sn=488d996d44e4d01a7c7d00d7892702f6&chksm=bd305f868a47d690bba06466c7e93df8c817169ab0cd4ea734e83f1df1433d3e046eb9a935ff&scene=21#wechat_redirect

13. 乔布斯与 GUI:1979 年,在一次对施乐的帕洛阿托研究中心(Palo AltoResearch Center)的拜访过程中,史蒂夫·乔布斯(Steve Jobs)发现了 GUI 的设计图纸和鼠标。随后便将它运用于 Apple Macintosh 的开发过程中。

14. DNS(Domain Name System):一个用于将域名转换为 IP 地址的分布式数据库系统。

Netscape Navigator:第一个广泛使用的商业化 Web 浏览器,由美国公司 Netscape Communications Corporation 开发并于 1994 年发布。

15. 图灵测试(Turing Test):一种测试人工智能是否具有智能的标准之一,由英国计算机科学家图灵在 1950 年提出。

16. HTTP 协议、HTML 协议、FTP 协议、Telnet 协议、Mailto 协议、Gopher 协议、NNTP 协议(大家感兴趣的话自行查定义哈……后台不让放这么多字于是我删掉了)。

17. 阿帕奇(Apache):一款开源的 Web 服务器软件。它以高性能、稳定性、灵活性和安全性著称,可以满足各种 Web 应用的需求。

18. 红旗浏览器:中国自主研发的一款浏览器软件,由中国红旗软件股份有限公司开发,它是国内第一款支持 IPv6 协议的浏览器。

19. AI 军备竞赛 The AI Arms Race Is On:2023 年 2 月,Google 推出 Bard;微软推出 New Bing。国内百度类 ChatGPT 聊天机器人项目名字确定为「文心一言」(ERNIE Bot);中国初创公司元语智能首发 ChatYuan。

20. 巴别塔:《圣经·创世纪》中的一个故事,讲述了人类曾经想要建造一座高耸入云的巨塔,以便让自己的名字传遍全世界,但被上帝惩罚,使得人类的语言不同,无法相互理解,于是他们停止了建造,分散到世界各地。这个故事被认为是对人类的骄傲和自大的警示,同时也是对人类语言多样性的认识和尊重。


【相关链接】

1. 建硕公众号中关于 ChatGPT 的文章(文末)

2. ChatGPT Is a Blurry JPEG of the Web(ChatGPT是网上所有文本的模糊图像),《降临》原作者、科幻小说家 Ted Chiang(特德·姜)发布于 The New Yorker 的文章。

3. 木遥《涌现》《涌现(续)》

4. A Conversation With Bing’s Chatbot Left Me Deeply Unsettled,出自《纽约时报》专栏作家、 Hard Fork 播客主播 Kevin Roose,他讲述自己花了两个小时体验 New Bing,得到了一场非常诡异的被 AI 示爱的体验。

5. “ChatGPT is 'not particularly innovative,' and 'nothing revolutionary', says Meta's chief AI scientist”,《Meta首席AI科学家:ChatGPT并无特别的变革创新》,Yann LeCun 杨立昆教授认为,与其说 ChatGPT 是一个科学上的突破项目,不如说它是一项成功的工程实践。

6. A16z《Who Owns the Generative AI Platform?》,这篇文章将 ChatGPT(或 AIGC)产业链玩家分为了以下几种:

实体基础设施供应商可能是迄今为止这个市场上最大的赢家,捕获了大部分的价值,占据了流经此的大部分资金。如底层的芯片等硬件制造商、云服务商(基本无创业公司机会)。

上层的 AI 模型开发公司,也就是创造最大价值的公司——即训练生成式 AI 模型并将其应用于新应用程序——并没有获得大部分价值。

终端的纯调用模型 API 的应用开发公司的收入增长非常快,但往往在留存率、产品差异化和毛利率方面苦苦挣扎。

7. 斯坦福大学心智理论论文:Theory of Mind May Have Spontaneously Emerged in Large Language Models

8. 百姓网 AI 教育负责人 ElfeXu 文章:《因 AI 而强大》《如何在遍布 AI 的世界里游刃有余地生活》

9. Hung-yi Lee 关于 ChatGPT 的原理剖析视频系列

10. 老华《关于 ChatGPT 的一些问题和思考》分享:王建硕视频号-直播回放-3月4日 ChatGPT 应用畅想小聚(00:11:00-01:50:25)。

11. 《ChatGPT 与人类未来:AI 茧房、安全漏洞与未知的社会形态》,来自硅谷 101 公众号文章,提到创新工场 CTO 王咏刚在朋友圈中写到:「悲观情况是:因为人类的极度懒惰,互联网被AI生成的、错误率普遍高于人类知识工作者的『灌水内容』占领,我们的孩子成为『迷失的一代』」。

12. 《AI 作图的版权属于作者吗?》 by 刘飞 Lufy


剪辑:二琳


制作:Sarah、我不跑调


展开
大家都在听
《别卷了,停一下》
《别卷了,停一下》
《别卷了,停一下:专治精神内耗的恢复站》 致每一个“活得有点累”的人 你好,我是林昕瑶。 如果你也—— 每天醒来第一件事不是开心,而是心慌; 周末晚上就开始焦虑周一,心跳加速; 刷完朋友圈更难受,总觉得别人都过得比自己好; 想拒绝却永远说“好的”,然后一个人生闷气; 失眠、熬夜、报复性刷手机,第二天后悔又重复; 经常问自己:活着到底有什么意义? 那么,这个专辑,是为你做的。 这是一档什么样的节目? 《别卷了,停一下:专治精神内耗的恢复站》 100节音频故事,每节7-10分钟。不是专家说教,不是心灵鸡汤。是一个和你一样累、一样烦、一样躲在消防通道里哭过的人,在陪你说话。每一节的结构都一样: · 一个真实故事——可能是我的,可能是朋友的,可能是你给我讲的 · 一个心理学小知识——不讲术语,只讲人话 · 一个今天就能用的方法——不用花钱,不用准备,做了就有一点点用 · 一个微小作业——很小很小,但做了就会有变化 100节,100天,正好一个季节。像和自己的一场长谈。 你会听到这些故事(随便挑几个) 第1节 · 那个在深夜给前女友发微信的程序员 他不是放不下,是太累了。大脑CPU过载的时候,手会不听使唤。 第2节 · 那个每天想辞职100次的人 她后来学会了“5%逃跑计划”——不逃整个工作,只逃5%,逃完回来继续扛。 第21节 · 那个躲在消防通道里哭的人 哭完站起来,整理一下衣服,回去继续开会。没人知道他哭过。 第26节 · 那个永远说“好的”的人 她第一次拒绝同事的时候,手在抖。后来她说:“原来天没塌。” 第35节 · 那个做了一件“没用但开心”的事的人 30岁的人,买了个风筝,在公园放了一下午。她说那是最开心的一天。 第50节 · 那个写了20张紧急卡片的人 她把卡片放在床头,最难的时候随手拿一张,上面写着:“你以前也走过很多难走的路。” 第63节 · 那个给焦虑起名叫“小喇叭”的人 焦虑一来,她就说:“哦,小喇叭又开始了。你先播着,我忙完再听。” 第73节 · 那个被裁员后发现“最坏结果也没那么坏”的人 她说:“不是我运气好,是我发现,原来我能扛得住。” 第89节 · 那个一个人去医院的人 她说:“一个人去医院,是成年人的孤独考试。” 第100节 · 那个走完100天的人 那个人,就是你。 你会学到这些方法(随便挑几个) · 电量检测法:每天三个闹钟,用手势回答还剩多少电 · 5%逃跑计划:逃不掉的时候,
15
107期
《长安骗局说明书》
《长安骗局说明书》
《长安骗局说明书》有声小说炸裂来袭! 你觉得自己够精明吗? 你确定自己从来没被骗过? 还是说……你被骗了都不知道?! 朋友们!请放下手中的茶杯!竖起耳朵!听我说! 【这是一部什么神仙小说?!】 想象一下!如果你穿越回唐朝长安城—— 迎面走来个算命先生:“这位客官,三日之内必有血光之灾啊!” 旁边西域商人:“昆仑山万年冰晶,只卖五百两!” 转角老御医:“你这病,得用龙涎香配雪山冰莲……” 你会不会掏钱?!你会不会上当?! 我赌你会!!! 因为—— 【主角团闪亮登场!骗子天团来啦!】 赵有才——长安骗术总设计师! · “什么叫骗术?让你哭着把钱给我,还谢谢我!” · 口头禅:“这单成了,三七分账!” · (众配角:“谁三谁七?”) · (赵有才淡定:“当然是我七,你们三。”) 李淳——表面书生,实则影帝! · “叔叔,咱们这局是不是太损了?” · “徒弟,记住!善良是优点,但别让它变成弱点!” 柳如眉——卖身葬父的数学天才! · 三句话让赵有才多花十两银子! · “账本我看一眼,就知道哪笔钱是假的!” · “骗我?先问问我的算盘答不答应!” 张半仙——喜剧担当,专业拆台! · “赵瞎子,你这套‘血光之灾’我都用三十年了!” · 酒后真言:“其实吧……那尊神像流泪是我用鱼线拉的……” 【名场面预警!笑到肚子疼!】 场景一:分赃大会 张半仙:“这次骗了八百两,我功劳最大!” 刘一手:“放屁!我的假药才是关键!” 赵有才:(默默拿出账本)“来,我给你们算算……” 众人:“别算了别算了!你七就你七!” 场景二:师徒“温馨”教学 李淳:“叔叔,咱们非要骗李员外吗?他看起来挺可怜的……” 赵有才:“可怜?他去年抬高米价,饿死三个佃户的时候,怎么不可怜?” 李淳:“……那咱们这是替天行道?” 赵有才:“不,咱们只是顺便替了个天。” 场景三:当骗子遇到女学霸 柳如眉:(拔算盘)“你刚才说那批丝绸成本五十两?” 赵有才:“对……对啊。” 柳如眉:“江南市价三十五两,你五十两进货?赵先生,你数学是张半仙教的吧?” 张半仙:(远处打喷嚏)“谁骂我?!” 【你将在这部小说里听到……】 硬核知识: · 古代假银票怎么做旧? · “仙人跳”的完整剧本怎么写? · 如何让全城人相信三个月后有洪灾? · ……以及最关键的:怎么识破这些套路! 爆笑情节: · 骗子内讧,互相拆台! · 装神弄鬼穿帮现场! · 骗到皇帝头上是什么体验?(提示:刺激!)
14
121期
《我的卦盘通地府》
《我的卦盘通地府》
“林叔叔,我的作业本……真的是被猫藏起来了吗?” 林宴 “唔……其实啊,是被你的梦想悄悄藏起来啦——它想让你,再多玩那么一小会儿呢。” 老奶奶: “小伙子啊,你说……我家老头子,真给我托梦啦?” 林宴: “嗯,他说啊……院子里的桂花又开了,记得摘些来做糕……还说,和他第一次见你时,一样香呢。” “当一块能通往幽冥的卦盘,偏偏落在了一个……连自己都不相信奇迹的人手里,哎呀,这故事,可就有意思了——”。 “你看得见生死簿?那我们……是不是就能,改命了?” 【警告。检测到非法数据篡改意图。】 “改命?呵……我不改命。” “我只想,让每个人都看见”: “阳光晒在脊背上的那股子暖劲儿……”。 “一碗热汤下肚,从胃里熨帖到心里的那种踏实……” “还有,拥抱时听到的,那颗为你而跳动的心……”。 “这些啊,可比任何命数,都真得多,也重得多。” 林宴: “我的卦盘通地府。” “它掰开揉碎教会我的第一课,不过是……” “好好活着。” 老奶奶: “珍惜眼前。” 小女孩: “相信温暖。” 老警察鬼: “守护人间。” 喵十三: “喵~”。 “人间,值得呀。” “2026年,最温暖奇妙的都市邂逅——《我的卦盘通地府》,已在喜马拉雅温暖上线。” “愿你在这里听到欢笑,触到温情,然后更用力的,拥抱属于你的人间烟火。” “我们,故事里见。”
11
59期
评论(0条)
快来抢沙发吧!
打开蜻蜓 查看更多