Artwork

内容由声动活泼提供。所有播客内容(包括剧集、图形和播客描述)均由 声动活泼 或其播客平台合作伙伴直接上传和提供。如果您认为有人在未经您许可的情况下使用您的受版权保护的作品,您可以按照此处概述的流程进行操作https://zh.player.fm/legal
Player FM -播客应用
使用Player FM应用程序离线!

S7E33 | 3秒克隆声音?我们怎么面对 AI 的黑暗面

26:11
 
分享
 

Manage episode 381610063 series 2435123
内容由声动活泼提供。所有播客内容(包括剧集、图形和播客描述)均由 声动活泼 或其播客平台合作伙伴直接上传和提供。如果您认为有人在未经您许可的情况下使用您的受版权保护的作品,您可以按照此处概述的流程进行操作https://zh.player.fm/legal

在 AI 深度伪造泛滥的时代,眼见不一定为实,有图不一定有真相。

深度伪造 (Deepfake) 指的是利用 AI 深度学习技术来生成或者操纵多媒体内容,包括合成某个人的图像、视频以及声音。在 ChatGPT 等 AI 大语言模型助力下,我们所面对的已经不再是一个只有假新闻、虚假消息的世界了。最近,国内外陆续出现了利用深度伪造技术进行 AI 换脸、拟声的诈骗案例,被骗金额高达上百万,成功率甚至接近 100%。

身为播客行业的工作者,我不禁思考,制作一个高度逼真的 AI 合成音频究竟有多难或者多容易?其真实程度是否足以骗过我的家人和朋友?需要多长成本、时间和声音样本,才会让 AI 合成更加准确?我们怎么去辨别 AI 深度伪造内容?为了阻止 AIGC 的滥用,AI 科技公司以及相关平台做出了哪些努力呢?在 AI 技术狂奔式的发展的今天我们又应该如何保护自己的隐私?

这次节目是我的一个不一样的尝试,欢迎大家在评论区告诉我你对这一期节目形式以及对 AI 生成内容滥用的看法。

本期人物
Dr Adrian Kaehler,AI 领域科学家,EDEXAI 的创始人兼 CEO
Leander,AI 算法科学家
丁教,声动活泼联合创始人,「科技早知道」主播

时间轴
[01:57] 尝试使用 AI 克隆播客主播的声音,你打多少分?
[02:58] 美国记者的 AI 拟声实验,居然成功骗过家人朋友、Snapchat CEO和银行?
[04:27] 只需 3 秒就能克隆声音,一张照片就能换脸?
[08:21] 用工具检测学生作业是否为 AI 生成的,有必要吗?
[09:47] 如何辨别 AI 深度伪造的内容?现在是道高一尺还是魔高一丈?
[14:38] 社交媒体平台怎么发现并且处理 AI 虚假信息?平台怎么应对战争、大选满天飞的假内容?
[21:58] 个人信息泄露不可避免的 AI 新世界,我们该如何保护自己?

关联链接
英国能源公司 CEO 被 AI 合成语音骗走 22 万欧元
Microsoft 发布 AI 声音生成工具 VALL-E
10分钟被“好友”骗走430万元!如何警惕AI“深度造假”?
华尔街日报记者 Joanna Stern 的 AI 克隆实验原视频
How to stop AI deepfakes from sinking society — and science

关联节目
AI Agent 智能体 真相和未来 | 硅谷徐老师对话英伟达、DeepMind大模型专家(上)
贫穷限制 AI 想象?|硅谷徐老师对话英伟达、DeepMind 大模型专家(下)
S7番外|OpenAI创始人说教育一定会适应ChatGPT,他说对了吗?
S6E47|年终总结3:AIGC可能改变人类未来,但它知道自己的未来在哪里吗?

幕后制作
监制:丁教、Jecci
声音设计/配音:迪卡普里鑫
运营:瑞涵
设计:饭团

加入声动胡同会员计划
成为声动活泼会员,支持我们独立而无畏地持续创作,并让更多人听到这些声音。
支付 ¥365/年 成为声动胡同常住民。加入后,你将会在「声动胡同」里体验到专属内容、参与社群活动,和听友们一起「声动活泼」。

在此之前,也欢迎你成为声动胡同闲逛者 ,免费体验会员内容、感受社群氛围。了解更多会员计划详情,我们在声动胡同等你。

商务合作
声动活泼商务合作咨询

加入我们
声动活泼正在招聘全职「节目监制」、「节目营销」、「商业化项目管理」,查看详细讯息请 点击链接。如果你已准备好简历,欢迎发送至 hr@shengfm.cn, 标题请用:姓名+岗位名称。

关于声动活泼
「用声音碰撞世界」,声动活泼致力于为人们提供源源不断的思考养料。
我们还有这些播客:声动早咖啡What's Next|科技早知道吃喝玩乐了不起反潮流俱乐部泡腾 VC商业WHY酱跳进兔子洞
欢迎在即刻、微博等社交媒体上与我们互动,搜索 声动活泼 即可找到我们。
期待你给我们写邮件,邮箱地址是:ting@sheng.fm

声小音
欢迎扫码添加声小音,在节目之外和我们保持联系。

Special Guests: Dr Adrian Kaehler and Leander.

  continue reading

324集单集

Artwork
icon分享
 
Manage episode 381610063 series 2435123
内容由声动活泼提供。所有播客内容(包括剧集、图形和播客描述)均由 声动活泼 或其播客平台合作伙伴直接上传和提供。如果您认为有人在未经您许可的情况下使用您的受版权保护的作品,您可以按照此处概述的流程进行操作https://zh.player.fm/legal

在 AI 深度伪造泛滥的时代,眼见不一定为实,有图不一定有真相。

深度伪造 (Deepfake) 指的是利用 AI 深度学习技术来生成或者操纵多媒体内容,包括合成某个人的图像、视频以及声音。在 ChatGPT 等 AI 大语言模型助力下,我们所面对的已经不再是一个只有假新闻、虚假消息的世界了。最近,国内外陆续出现了利用深度伪造技术进行 AI 换脸、拟声的诈骗案例,被骗金额高达上百万,成功率甚至接近 100%。

身为播客行业的工作者,我不禁思考,制作一个高度逼真的 AI 合成音频究竟有多难或者多容易?其真实程度是否足以骗过我的家人和朋友?需要多长成本、时间和声音样本,才会让 AI 合成更加准确?我们怎么去辨别 AI 深度伪造内容?为了阻止 AIGC 的滥用,AI 科技公司以及相关平台做出了哪些努力呢?在 AI 技术狂奔式的发展的今天我们又应该如何保护自己的隐私?

这次节目是我的一个不一样的尝试,欢迎大家在评论区告诉我你对这一期节目形式以及对 AI 生成内容滥用的看法。

本期人物
Dr Adrian Kaehler,AI 领域科学家,EDEXAI 的创始人兼 CEO
Leander,AI 算法科学家
丁教,声动活泼联合创始人,「科技早知道」主播

时间轴
[01:57] 尝试使用 AI 克隆播客主播的声音,你打多少分?
[02:58] 美国记者的 AI 拟声实验,居然成功骗过家人朋友、Snapchat CEO和银行?
[04:27] 只需 3 秒就能克隆声音,一张照片就能换脸?
[08:21] 用工具检测学生作业是否为 AI 生成的,有必要吗?
[09:47] 如何辨别 AI 深度伪造的内容?现在是道高一尺还是魔高一丈?
[14:38] 社交媒体平台怎么发现并且处理 AI 虚假信息?平台怎么应对战争、大选满天飞的假内容?
[21:58] 个人信息泄露不可避免的 AI 新世界,我们该如何保护自己?

关联链接
英国能源公司 CEO 被 AI 合成语音骗走 22 万欧元
Microsoft 发布 AI 声音生成工具 VALL-E
10分钟被“好友”骗走430万元!如何警惕AI“深度造假”?
华尔街日报记者 Joanna Stern 的 AI 克隆实验原视频
How to stop AI deepfakes from sinking society — and science

关联节目
AI Agent 智能体 真相和未来 | 硅谷徐老师对话英伟达、DeepMind大模型专家(上)
贫穷限制 AI 想象?|硅谷徐老师对话英伟达、DeepMind 大模型专家(下)
S7番外|OpenAI创始人说教育一定会适应ChatGPT,他说对了吗?
S6E47|年终总结3:AIGC可能改变人类未来,但它知道自己的未来在哪里吗?

幕后制作
监制:丁教、Jecci
声音设计/配音:迪卡普里鑫
运营:瑞涵
设计:饭团

加入声动胡同会员计划
成为声动活泼会员,支持我们独立而无畏地持续创作,并让更多人听到这些声音。
支付 ¥365/年 成为声动胡同常住民。加入后,你将会在「声动胡同」里体验到专属内容、参与社群活动,和听友们一起「声动活泼」。

在此之前,也欢迎你成为声动胡同闲逛者 ,免费体验会员内容、感受社群氛围。了解更多会员计划详情,我们在声动胡同等你。

商务合作
声动活泼商务合作咨询

加入我们
声动活泼正在招聘全职「节目监制」、「节目营销」、「商业化项目管理」,查看详细讯息请 点击链接。如果你已准备好简历,欢迎发送至 hr@shengfm.cn, 标题请用:姓名+岗位名称。

关于声动活泼
「用声音碰撞世界」,声动活泼致力于为人们提供源源不断的思考养料。
我们还有这些播客:声动早咖啡What's Next|科技早知道吃喝玩乐了不起反潮流俱乐部泡腾 VC商业WHY酱跳进兔子洞
欢迎在即刻、微博等社交媒体上与我们互动,搜索 声动活泼 即可找到我们。
期待你给我们写邮件,邮箱地址是:ting@sheng.fm

声小音
欢迎扫码添加声小音,在节目之外和我们保持联系。

Special Guests: Dr Adrian Kaehler and Leander.

  continue reading

324集单集

所有剧集

×
 
Loading …

欢迎使用Player FM

Player FM正在网上搜索高质量的播客,以便您现在享受。它是最好的播客应用程序,适用于安卓、iPhone和网络。注册以跨设备同步订阅。

 

快速参考指南