O11. 当女性和文科生重新饲养 AI,这些事情正在悄悄改变

11. 当女性和文科生重新饲养 AI,这些事情正在悄悄改变

在小宇宙播放
创作者写的节目说明

2025 年,Everyday Sexism Project 发起人 Laura Bates 出版《The New Age of Sexism》。她讨论了 AI 女友、被女性化和顺从化的虚拟助手、深度伪造色情,以及训练数据如何继承旧有偏见。她提到,在新一轮 AI 革命中,旧的厌女结构正在获得更便宜、更快速、更大规模的新工具。

当下 AI 的发展,大概是带有荒诞性的。它一边继承并放大旧世界的偏见,一边也确实降低了普通人做出新工具、创造新可能,甚至托举新世界的门槛。

比如最近,我们认识了 2 个同样在女性困境上做出行动的团队。

第一个团队,是 Genderly。这是一个从性别视角出发的文本分析与表达支持平台,能帮助大家识别语言中的性别偏见,理解背后的权力结构与叙事逻辑,并给出更包容、更清晰、更符合你意愿的表达选择和更清楚的回应。

第二个团队,叫非默。她们从去年在德中国留学生性侵害案出发,发现很多受害者事后陷入漫长沉默,背后的原因有异国恐惧、信息滞后、取证混乱、身边无人可依等等。因此非默用 AI 做了一个关键时刻的安全入口,通过SOS 加密求助、加密存证、连接心理与法律资源等方式,让最难开口的那几分钟,不再被恐惧推迟。

所以,人究竟能不能反过来参与技术对世界的塑造,并从自己的处境出发创造一个更友好、平等的世界?

这期播客,我们和这两位团队的朋友聊了一个多少小时,从怎么想到这个产品开始,到如何集结更多人一起把产品做好,以及如果你也像她们一样,都是从当下最火的“黑客松”中诞生了这样一个灵感,如何不让它赛后即消失,而是走向真正的商业可持续,让产品影响更多人。

那我们接下来就开始吧~

本期视频播客版本可在小红书、视频号、哔哩哔哩平台 🔍 BottleDream 看到~在播客中提到的“照片”,可滑动到下文 shownotes 后的「播客中提及图片」模块看到。

Shownotes

  • 两个“女本位” AI 产品究竟想改变什么?

  • 得知在德留学生事件后,同为女性的她们开始行动

  • 通用大模型会给回答,却不知如何避免二次伤害

  • AI 学会了全世界的知识,也学会了全世界的偏见

  • 修正一次 AI 的表达,也在调平一点世界的偏见

  • 不是技术大牛,也能从自己的痛点开始造东西

  • 当技术门槛降低,“处境”会不会成为一种珍贵的能力?

  • 撞见“竞品”后,她们决定一起做

  • 一个产品,也是几百个人进入公共行动的入口

  • 当产品承载公共议题,它该向谁收费?

  • 一张消磁的手机卡,竟意外启动了一场创造

  • 行动,然后对自己和世界都充满无限的信心

更多 More

1. Genderly 介绍:语言从不中立,我们做了 Genderly(可跳转公众号)

2. 非默 介绍:https://xhslink.cn/m/AXywBvRpxTM(小红书主页)

(在@BottleDream 小红书/视频号/B 站 视频播客版本可看到产品录屏)

3. 404 提到的队友在黑客松期间发布的帖子:隐形性别偏见话语调研

4. 播客结尾的歌曲为非默团队成员与 AI 共同创作:点击收听全曲

制作组

嘉宾:404、Liz

内容策划 & 主播:短短

视频拍摄 & 基础制作:平凡

剪辑 & 后期:xiexie & 梦昕 &小羊

封面设计:小王& xiexie


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AI 看点

本期看点

AI 从整集转写里归纳的,不是节目方的宣传语

最值得听的

通用大模型为何识别不出「市长是男性」这类隐性偏见,以及垂类产品用分析框架、RAG和自建语料库怎么补上这个洞。

别处听不到的

创始人参加黑客松的真实动机只是不想浪费回京补手机卡的机票钱,产品却从这段职业经验里长了出来。

最打动人的

非默团队纠结求助功能要不要发出声音——有人怕震慑不了施暴者,有人怕刺激更严重的暴力,这正是受害者真实的两难。

AI 推荐理由

为什么值得听

AI 读完整集转写后给出的推荐理由

一个女生因为手机卡消磁、不想浪费回京机票,随手报了场黑客松,结果做出了检测中文隐性性别偏见的工具。节目里她现场复测「市长的女儿怎么称呼市长」,某海外头部大模型答「爸爸」。另一个团队则从一桩跨国性侵案出发,做出加密存证工具,还讲清了为什么最终砍掉互助功能——怕有人假装帮忙。

AI 概要

本期概要

由 AI 从整集转写生成,是创作者说明之外的补充

本期请到两个从黑客松走出的女性创业团队:Genderly 做中文语境下的隐性性别偏见检测与回应,非默做以加密存证为核心的个人安全工具。节目从「市长的女儿怎么称呼市长」这类测试题切入,讨论通用大模型如何继承语料中的性别偏见、垂类产品如何用自建框架与语料库去修补,也聊到两个团队如何组队、如何砍掉有二次伤害风险的互助功能、如何设计 To B 商业化(API 接入智能眼镜、对接公益与法律机构),以及「处境本身就是一种产品能力」这一判断。

AI 识别的章节

章节

点一章从那里开始播 · 与上面创作者标的时间点各自独立

00:00

开场:AI 一边放大偏见,一边降低造工具的门槛

用「市长的女儿怎么称呼市长」的模型输出与德国留学生案件切入,点出本期要聊的两个女性团队,以及AI的荒诞性:既继承旧世界偏见,又让普通人能造新工具。

01:06

两个产品是什么:Genderly 与非默

Genderly 是中文语境下的性别偏见检测与表达支持工具,分浏览器插件与网页长文本分析;非默以加密安全存证为核心,延展紧急求助与心理法律支持。

03:26

非默的起点:从跨国性侵案到砍掉互助功能

团队在全女社群组队参赛,围绕真实案件做需求调研。求助功能要不要发声、互助社群是否可靠,两个纠结都指向受害者真实的风险权衡,最终砍掉互助端。

09:09

市长的女儿喊爸爸:通用模型补全出的隐性偏见

Genderly 回应的是「我心里不舒服但说不出为什么」的广泛困境。通用模型只做涉黄暴力等显性合规,中文隐性性别偏见无人专门解决;语音输入里「他」的默认男性指代也是同一问题。

12:51

产品改变的不是观点,是「原来我没错」

四零四认为产品最先给用户的是确认感,而非改变认知;一位内容工作者试用后才发现自己笔下男女角色占比失衡。讨论延伸到残障等更广的下位者处境。

17:32

团队背景与「处境是一种能力」

Genderly 成员横跨社会学、性别研究、影视、生物工程与计算机;非默成员来自全女社群。四零四拆解「处境」一词,认为离需求最近的人才有动力做垂类产品。

24:06

小红书帖子带来的合并:不把同类当竞品

插件团队与网页端团队因一篇复盘帖相遇并合并。面对同类产品,两个团队的反应是惊喜而非防御,认为竞品变多说明问题终于被关注。

29:48

内测社群变成共建入口

用户自发投稿bad case进语料库,非默社群则共同起草并签署关于加快立法与药物合规的请愿书。节目提出:每个新项目都是公众参与公共行动的入口。

35:53

商业化:不做C端收费,去做API护栏

Genderly 主攻To B,希望在AI输出前介入;第一个付费案例是把API接进Rokie眼镜做实时偏见识别。非默对接公益、妇联与法律心理机构,并筹划线下防身术meetup。

40:14

技术怎么实现:分析框架、RAG与自建语料库

January Test 先判断文本是否与性别议题相关,避免硬套;再用RAG调用社会学与性别研究理论;语料来自用户投稿、团队改写对照与线下调研。主播用「补墙上的洞」比喻垂类产品的价值。

43:33

一张消磁的手机卡,和「先开始」的结论

四零四参加黑客松的初衷只是不想浪费回京补卡的机票,却把过往职业经验变成了产品。两位嘉宾的收束是放弃完美主义、相信同频的人会自己聚过来。

Open the Bottle 开个瓶子 · 更多单集

看全部 16 期 →

Open the Bottle 开个瓶子

O11. 当女性和文科生重新饲养 AI,这些事情正在悄悄改变

Open the Bottle 开个瓶子 · 8 月 8 日 · 54 分钟

11. 当女性和文科生重新饲养 AI,这些事情正在悄悄改变

在小宇宙播放
创作者写的节目说明

2025 年,Everyday Sexism Project 发起人 Laura Bates 出版《The New Age of Sexism》。她讨论了 AI 女友、被女性化和顺从化的虚拟助手、深度伪造色情,以及训练数据如何继承旧有偏见。她提到,在新一轮 AI 革命中,旧的厌女结构正在获得更便宜、更快速、更大规模的新工具。

当下 AI 的发展,大概是带有荒诞性的。它一边继承并放大旧世界的偏见,一边也确实降低了普通人做出新工具、创造新可能,甚至托举新世界的门槛。

比如最近,我们认识了 2 个同样在女性困境上做出行动的团队。

第一个团队,是 Genderly。这是一个从性别视角出发的文本分析与表达支持平台,能帮助大家识别语言中的性别偏见,理解背后的权力结构与叙事逻辑,并给出更包容、更清晰、更符合你意愿的表达选择和更清楚的回应。

第二个团队,叫非默。她们从去年在德中国留学生性侵害案出发,发现很多受害者事后陷入漫长沉默,背后的原因有异国恐惧、信息滞后、取证混乱、身边无人可依等等。因此非默用 AI 做了一个关键时刻的安全入口,通过SOS 加密求助、加密存证、连接心理与法律资源等方式,让最难开口的那几分钟,不再被恐惧推迟。

所以,人究竟能不能反过来参与技术对世界的塑造,并从自己的处境出发创造一个更友好、平等的世界?

这期播客,我们和这两位团队的朋友聊了一个多少小时,从怎么想到这个产品开始,到如何集结更多人一起把产品做好,以及如果你也像她们一样,都是从当下最火的“黑客松”中诞生了这样一个灵感,如何不让它赛后即消失,而是走向真正的商业可持续,让产品影响更多人。

那我们接下来就开始吧~

本期视频播客版本可在小红书、视频号、哔哩哔哩平台 🔍 BottleDream 看到~在播客中提到的“照片”,可滑动到下文 shownotes 后的「播客中提及图片」模块看到。

Shownotes

  • 两个“女本位” AI 产品究竟想改变什么?

  • 得知在德留学生事件后,同为女性的她们开始行动

  • 通用大模型会给回答,却不知如何避免二次伤害

  • AI 学会了全世界的知识,也学会了全世界的偏见

  • 修正一次 AI 的表达,也在调平一点世界的偏见

  • 不是技术大牛,也能从自己的痛点开始造东西

  • 当技术门槛降低,“处境”会不会成为一种珍贵的能力?

  • 撞见“竞品”后,她们决定一起做

  • 一个产品,也是几百个人进入公共行动的入口

  • 当产品承载公共议题,它该向谁收费?

  • 一张消磁的手机卡,竟意外启动了一场创造

  • 行动,然后对自己和世界都充满无限的信心

更多 More

1. Genderly 介绍:语言从不中立,我们做了 Genderly(可跳转公众号)

2. 非默 介绍:https://xhslink.cn/m/AXywBvRpxTM(小红书主页)

(在@BottleDream 小红书/视频号/B 站 视频播客版本可看到产品录屏)

3. 404 提到的队友在黑客松期间发布的帖子:隐形性别偏见话语调研

4. 播客结尾的歌曲为非默团队成员与 AI 共同创作:点击收听全曲

制作组

嘉宾:404、Liz

内容策划 & 主播:短短

视频拍摄 & 基础制作:平凡

剪辑 & 后期:xiexie & 梦昕 &小羊

封面设计:小王& xiexie


在小宇宙查看该单集文稿

说明里标出的时间点,点一下跳过去

AI 看点

本期看点

AI 从整集转写里归纳的,不是节目方的宣传语

最值得听的

通用大模型为何识别不出「市长是男性」这类隐性偏见,以及垂类产品用分析框架、RAG和自建语料库怎么补上这个洞。

别处听不到的

创始人参加黑客松的真实动机只是不想浪费回京补手机卡的机票钱,产品却从这段职业经验里长了出来。

最打动人的

非默团队纠结求助功能要不要发出声音——有人怕震慑不了施暴者,有人怕刺激更严重的暴力,这正是受害者真实的两难。

AI 推荐理由

为什么值得听

AI 读完整集转写后给出的推荐理由

一个女生因为手机卡消磁、不想浪费回京机票,随手报了场黑客松,结果做出了检测中文隐性性别偏见的工具。节目里她现场复测「市长的女儿怎么称呼市长」,某海外头部大模型答「爸爸」。另一个团队则从一桩跨国性侵案出发,做出加密存证工具,还讲清了为什么最终砍掉互助功能——怕有人假装帮忙。

AI 概要

本期概要

由 AI 从整集转写生成,是创作者说明之外的补充

本期请到两个从黑客松走出的女性创业团队:Genderly 做中文语境下的隐性性别偏见检测与回应,非默做以加密存证为核心的个人安全工具。节目从「市长的女儿怎么称呼市长」这类测试题切入,讨论通用大模型如何继承语料中的性别偏见、垂类产品如何用自建框架与语料库去修补,也聊到两个团队如何组队、如何砍掉有二次伤害风险的互助功能、如何设计 To B 商业化(API 接入智能眼镜、对接公益与法律机构),以及「处境本身就是一种产品能力」这一判断。

AI 识别的章节

章节

点一章从那里开始播 · 与创作者标的时间点各自独立

00:00

开场:AI 一边放大偏见,一边降低造工具的门槛

01:06

两个产品是什么:Genderly 与非默

03:26

非默的起点:从跨国性侵案到砍掉互助功能

09:09

市长的女儿喊爸爸:通用模型补全出的隐性偏见

12:51

产品改变的不是观点,是「原来我没错」

17:32

团队背景与「处境是一种能力」

24:06

小红书帖子带来的合并:不把同类当竞品

29:48

内测社群变成共建入口

35:53

商业化:不做C端收费,去做API护栏

40:14

技术怎么实现:分析框架、RAG与自建语料库

43:33

一张消磁的手机卡,和「先开始」的结论

本期提到的品牌与产品

节目里自然聊到的,不是广告

Genderly四零四团队的性别偏见检测工具,分插件与网页端
01:14正面
非默以加密安全存证为核心的个人安全工具
02:28正面
First Street非默团队成员相识的全女社群
19:14正面
Rokie 眼镜接入Genderly API做实时偏见识别的硬件
37:35正面
腾讯研究院AI向善征集活动的主办方
20:20中性
德国留学生跨国性侵案非默产品的直接触发事件
03:26负面
OOpen the Bottle 开个瓶子

Open the Bottle 开个瓶子

由 BottleDream 团队出品的对谈播客,聚焦社会创新、内容创作与社区生活,以一线实践者案例探讨社会创业、AI 伦…

已收录 16 期 · 最近更新 9 月 22 日

这一期适合谁

AI 对内容的推测

听众画像25–34 岁为主 · 偏女性 · 消费力中等
更适合关注性别议题的年轻女性

这一期偏哪一派

偏沪派主播按预设问题清单逐条追问产品缘起、功能取舍、商业化与团队背景,嘉宾专业性驱动,跑题被有意识收住。

在哪里听

https://feed.xyzfm.space/drwekw6yp6u6复制

概要、章节、提及与推广标注由 AI 生成,可能有误;内容版权归创作者,声湃按创作者开放的 RSS 收录。了解收录与 RSS →

更多单集 全部 16 期 →