机EP66 AI时代,法律真的追不上了吗?— 对法律、科技和监管的重新思考

EP66 AI时代,法律真的追不上了吗?— 对法律、科技和监管的重新思考

在喜马拉雅播放
创作者写的节目说明

“AI发展得太快,法律根本追不上。”这可能是今天讨论AI监管时最常见的判断。但法律和技术,真的只是一场兔子与乌龟的赛跑吗?

这一期,我们从汽车、Law of the Horse谈到Code is Law、Collingridge Dilemma与AI Agent,尝试重新理解法律、技术与监管的关系:AI究竟带来了什么真正的新问题?监管是否只能来自国家法律?当代码、模型和产品架构开始直接塑造人的行为时,究竟谁在制定我们生活中的规则?

在这期节目里,你可以听到:

法律真的永远追不上技术吗?

从汽车说起:技术创新 ≠ 法律问题创新

Liability ≠ Regulation:责任与监管的分野

我们真的需要一套“AI Law”吗?

四个维度重新理解“监管”本身

Code is Law:当“你不应该”变成“你做不到”

从LLM到AI Agent:从Information走向Action

到底是谁在监管AI?

如果Code is Law,谁制定Code?

技术治理的时间困境

我们所谓的“监管技术”,到底在监管什么?

法律真正面对的是变化中的社会事实

为什么我们总想把AI想象成一个“人”?

从AI中心走向系统的Situation

当原来的“人”消失了,我们一定要让AI坐进去吗?

法律、市场、社会观念与代码并非彼此追逐,而是共同构成不断反馈、彼此塑造的规则系统

本期提及的学者及学术作品

Frank H. Easterbrook, “Cyberspace and the Law of the Horse” (1996)

Lawrence Lessig, “The Law of the Horse: What Cyberlaw Might Teach” (1999)

David Collingridge, The Social Control of Technology (1980).

Lyria Bennett Moses, “How to Think about Law, Regulation and Technology: Problems with ‘Technology’ as a Regulatory Target” (2013)

BGM

coordination-by-alex-productions

lovely-by-alex-productions

声明

本播客的内容仅代表个人观点,并不代表任何律师事务所或律师出具的任何形式的法律意见或建议。未经本播客的授权,不得转载或使用播客节目中的任何内容。

联系方式

[email protected]

说明里标出的时间点,点一下跳过去

AI 看点

本期看点

AI 从整集转写里归纳的,不是节目方的宣传语

最值得听的

把「法律追不上技术」拆成责任与监管两件事,并给出四维监管框架作为可复用的分析工具。

别处听不到的

用「AI 误付一百万」的假设案例,逐条列出法律上真正该追问的权限与控制链条问题。

最打动人的

开车慢的司机与车里有生病孩子的对比,说明同一行为换个解释,判断就完全不同。

AI 推荐理由

为什么值得听

AI 读完整集转写后给出的推荐理由

「AI 发展太快,法律追不上」这句话几乎成了法律人的条件反射,这期却把它拆开重问了一遍。主播从一百年前汽车撞人的案子讲起,串起 Easterbrook 的「马法」之争、Lessig 的 Code is Law、Collingridge Dilemma,最后落到一个反直觉的判断:AI 误付一百万时,追问「AI 做错了什么」在法律上几乎没有信息量,真正该问的是谁给了它权限、谁设了支付上限、谁最有能力避免风险。

AI 概要

本期概要

由 AI 从整集转写生成,是创作者说明之外的补充

本期从「AI 发展太快,法律追不上」这句流行判断出发,重新审视法律、科技与监管三者的关系。主播先借汽车与马车的类比说明新技术不等于新法律问题,再引入 Easterbrook 的「马法」之争与 Lessig 的「Code is Law」四维监管框架(法律、社会观念、市场、架构),指出代码正在承担准公共规则的职能。随后用 Collingridge Dilemma 解释监管为何总被夹在「太早不懂、太晚改不动」之间,并借 Lyria Bennett Moses 的观点指出所谓法律空白多是旧法与新事实场景的错配。最后用社会心理学的 disposition/situation 之分,主张不要急于把 AI 拟人化为责任主体,而应拉远镜头审视整个系统的权限、收益与风险分配。

AI 识别的章节

章节

点一章从那里开始播 · 与上面创作者标的时间点各自独立

00:05

开场:法律追不上 AI,是不是一个被问错的问题

主播交代更新节奏受新加坡法考与带娃影响,随后抛出核心命题:AI 发展太快、法律追不上这句话是否符合直觉却问错了方向。他提出本期要探讨的三个基础问题——AI 带来的是不是新问题、监管是否只等于立法、谁在制定社会规则。

03:06

汽车与马车:新技术不等于新法律问题

用二十世纪初汽车撞人的假设说明,交通工具撞伤人的核心法律问题(注意义务、因果关系、损害)在马车时代就已存在,仍由传统侵权法处理。但汽车普及后催生了驾照、限速、安全标准、强制险等事前制度,由此引出「责任不等于监管」的关键区分。

06:08

马法之争:Easterbrook 与「AI 法」的举证责任

介绍 1996 年 Easterbrook 的《Cyberspace and the Law of the Horse》,用「马法」比喻质疑为何要给新技术造新法律。ChatGPT 生成错误内容、AI 生成侵权图片、用个人数据训练模型,核心仍是过失、著作权、个人信息保护等旧规则。他给「AI 法」提出了类似举证责任的要求:必须说明改变了哪个传统法律处理不了的事实情况。

09:31

Lessig 的四维监管:法律、社会观念、市场与架构

Lessig 回应 Easterbrook:互联网的特殊性在于让我们发现过去对监管的理解本就不完整。真正约束行为的从来不只是法律,还有社会观念(孙宇晨小作文式的道德谴责)、市场(价格限制行为)与架构(只有楼梯没有电梯的楼)。在数字世界,架构变成代码——法律说「不应该」,代码直接让你「做不到」。

13:25

Code is Law:AI Agent 从信息走向行动

澄清 Code is Law 不是把代码等同于法律,而是说代码能更直接地约束行为。AI Agent 订机票的例子说明 AI 从「描述世界」转向「改变世界」,随之而来的是权限、访问、支付、人工确认等一连串问题。真正决定 AI 能做什么的是 API 限制、沙盒、token 限制等技术设计,本质是分配权利、限制行为、控制风险。

16:41

谁在监管 AI:四种力量的现实角力

用 Lessig 框架逐一检视:法律(AI Act、个人信息保护)、市场(企业客户用采购标准倒逼 AI 公司重视安全)、社会观念(从「用 AI 写论文是作弊」到「不用 AI 效率低下」)、架构(模型公司通过训练、微调、prompt 决定用户能做什么)。代码作为监管工具的特点是快、细、自动执行。

20:00

如果 Code is Law,谁在制定 Code

平台监管用户、模型提供者决定什么问题可答、什么行为可执行。一个数亿用户的 AI 系统修改底层规则,第二天几亿人的互动方式同时改变,其影响可能超过很多国家修改一部重要法律。私人企业设计的技术架构已产生准公共规则的效果,但缺乏立法那样的合法性程序与可审查性。

23:07

Collingridge Dilemma:监管永远被夹在两个风险之间

新技术早期最容易改变却不知道改什么,后期知道该改什么时却已改不动——产业链、用户习惯、行业标准、基础设施都已固化。AI 是这一理论的教科书案例。技术治理的目标不是找完美时间点,而是在承认无法预测未来的前提下保留纠错能力:高风险操作需人工授权、权限需符合标准、关键操作留痕审计、异常需预警通报。

27:40

监管技术到底在监管什么:从技术回到人

AI 不是边界清晰的监管客体,产业链上有模型开发者、云端、算力、API、应用端、企业用户与消费者。技术进入社会后会改变行为、组织架构、商业模式与消费者预期,这些变化又反过来改变技术。所谓「法律滞后」的另一种理解是:法律赖以建立的社会事实基础变了,如合同法默认的人与人谈判、意思表示场景被 Agent 取代。

31:21

我们为什么总想把 AI 想象成一个人

用开车慢的司机与车里有生病孩子的对比,引出社会心理学的 disposition(内部倾向)与 situation(外部情境)之分。人类天然高估 disposition、低估 situation。当对象换成 AI,我们会说「AI 产生幻觉」「AI 骗了我们」,把复杂技术系统描述成有内部心理状态的行动者,而「学习」「记忆」「理解」这些词本身带有强烈人格化隐喻。

34:50

从 disposition 转向 situation:责任该落在哪里

AI 误付一百万元的例子说明,说「AI 做了错误决策」在法律上几乎无信息量。真正要问的是谁选了模型、谁给了银行账户权限、为什么支付上限高达百万、谁最有能力避免风险。镜头拉远后能看到模型、数据、开发者、部署企业、算法与权限。不要急于让 AI 填补「责任主体」这个空位,否则系统中很多人会逃避责任。

38:15

结语:AI 是一面镜子

回应开场:法律追不上 AI 这句话不完整,因为它默认法律与技术彼此独立。现实中法律改变市场、市场改变技术、技术改变行为、行为形成观念、观念推动法律,四维监管是相互交织的系统。AI 真正带来的挑战不是追赶速度,而是把既有的监管、权力与责任分配问题放大到无法忽视的程度。

机智的律师生活 · 更多单集

看全部 66 期 →

机智的律师生活

机EP66 AI时代,法律真的追不上了吗?— 对法律、科技和监管的重新思考

机智的律师生活 · 10 月 8 日 · 41 分钟

EP66 AI时代,法律真的追不上了吗?— 对法律、科技和监管的重新思考

在喜马拉雅播放
创作者写的节目说明

“AI发展得太快,法律根本追不上。”这可能是今天讨论AI监管时最常见的判断。但法律和技术,真的只是一场兔子与乌龟的赛跑吗?

这一期,我们从汽车、Law of the Horse谈到Code is Law、Collingridge Dilemma与AI Agent,尝试重新理解法律、技术与监管的关系:AI究竟带来了什么真正的新问题?监管是否只能来自国家法律?当代码、模型和产品架构开始直接塑造人的行为时,究竟谁在制定我们生活中的规则?

在这期节目里,你可以听到:

法律真的永远追不上技术吗?

从汽车说起:技术创新 ≠ 法律问题创新

Liability ≠ Regulation:责任与监管的分野

我们真的需要一套“AI Law”吗?

四个维度重新理解“监管”本身

Code is Law:当“你不应该”变成“你做不到”

从LLM到AI Agent:从Information走向Action

到底是谁在监管AI?

如果Code is Law,谁制定Code?

技术治理的时间困境

我们所谓的“监管技术”,到底在监管什么?

法律真正面对的是变化中的社会事实

为什么我们总想把AI想象成一个“人”?

从AI中心走向系统的Situation

当原来的“人”消失了,我们一定要让AI坐进去吗?

法律、市场、社会观念与代码并非彼此追逐,而是共同构成不断反馈、彼此塑造的规则系统

本期提及的学者及学术作品

Frank H. Easterbrook, “Cyberspace and the Law of the Horse” (1996)

Lawrence Lessig, “The Law of the Horse: What Cyberlaw Might Teach” (1999)

David Collingridge, The Social Control of Technology (1980).

Lyria Bennett Moses, “How to Think about Law, Regulation and Technology: Problems with ‘Technology’ as a Regulatory Target” (2013)

BGM

coordination-by-alex-productions

lovely-by-alex-productions

声明

本播客的内容仅代表个人观点,并不代表任何律师事务所或律师出具的任何形式的法律意见或建议。未经本播客的授权,不得转载或使用播客节目中的任何内容。

联系方式

[email protected]

说明里标出的时间点,点一下跳过去

AI 看点

本期看点

AI 从整集转写里归纳的,不是节目方的宣传语

最值得听的

把「法律追不上技术」拆成责任与监管两件事,并给出四维监管框架作为可复用的分析工具。

别处听不到的

用「AI 误付一百万」的假设案例,逐条列出法律上真正该追问的权限与控制链条问题。

最打动人的

开车慢的司机与车里有生病孩子的对比,说明同一行为换个解释,判断就完全不同。

AI 推荐理由

为什么值得听

AI 读完整集转写后给出的推荐理由

「AI 发展太快,法律追不上」这句话几乎成了法律人的条件反射,这期却把它拆开重问了一遍。主播从一百年前汽车撞人的案子讲起,串起 Easterbrook 的「马法」之争、Lessig 的 Code is Law、Collingridge Dilemma,最后落到一个反直觉的判断:AI 误付一百万时,追问「AI 做错了什么」在法律上几乎没有信息量,真正该问的是谁给了它权限、谁设了支付上限、谁最有能力避免风险。

AI 概要

本期概要

由 AI 从整集转写生成,是创作者说明之外的补充

本期从「AI 发展太快,法律追不上」这句流行判断出发,重新审视法律、科技与监管三者的关系。主播先借汽车与马车的类比说明新技术不等于新法律问题,再引入 Easterbrook 的「马法」之争与 Lessig 的「Code is Law」四维监管框架(法律、社会观念、市场、架构),指出代码正在承担准公共规则的职能。随后用 Collingridge Dilemma 解释监管为何总被夹在「太早不懂、太晚改不动」之间,并借 Lyria Bennett Moses 的观点指出所谓法律空白多是旧法与新事实场景的错配。最后用社会心理学的 disposition/situation 之分,主张不要急于把 AI 拟人化为责任主体,而应拉远镜头审视整个系统的权限、收益与风险分配。

AI 识别的章节

章节

点一章从那里开始播 · 与创作者标的时间点各自独立

00:05

开场:法律追不上 AI,是不是一个被问错的问题

03:06

汽车与马车:新技术不等于新法律问题

06:08

马法之争:Easterbrook 与「AI 法」的举证责任

09:31

Lessig 的四维监管:法律、社会观念、市场与架构

13:25

Code is Law:AI Agent 从信息走向行动

16:41

谁在监管 AI:四种力量的现实角力

20:00

如果 Code is Law,谁在制定 Code

23:07

Collingridge Dilemma:监管永远被夹在两个风险之间

27:40

监管技术到底在监管什么:从技术回到人

31:21

我们为什么总想把 AI 想象成一个人

34:50

从 disposition 转向 situation:责任该落在哪里

38:15

结语:AI 是一面镜子

本期提到的品牌与产品

节目里自然聊到的,不是广告

ChatGPT作为大语言模型进入公众视野的起点被反复引用
01:10中性
Law of the HorseEasterbrook 论文中的核心比喻
06:08中性
Code is LawLessig 的著名论断,本期核心概念之一
13:25中性
Collingridge Dilemma技术治理的经典难题,用于解释监管时机困境
23:24中性
AI Act作为法律维度监管 AI 的例子被提及
16:41中性
机机智的律师生活

机智的律师生活

一档面向法律从业者与法学生的法律行业播客,围绕律师执业细分、资本市场实务、法律教育与AI冲击展开实务盘点与制度深挖。

已收录 66 期 · 最近更新 10 月 8 日

这一期适合谁

AI 对内容的推测

听众画像25–34 岁为主 · 男女均衡 · 消费力较高
更适合法律从业者

这一期偏哪一派

典型沪派内容由事前准备的学术文献与理论框架驱动(Easterbrook、Lessig、Collingridge、Moses),主…

在哪里听

http://www.ximalaya.com/album/56054422.xml复制

概要、章节、提及与推广标注由 AI 生成,可能有误;内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

更多单集 全部 66 期 →