一个潜在的 AI风险

 

AI 技术在 2023年大爆发，于是各种各样的新产品如同雨后春笋一般​涌现出来。从业者一直在找寻真正可以引爆大众参与度的产品，而最容易得到​推广的产品类型毫无疑问就是工具。

就我的个人观察，迄今为止较为成功的产品都是帮人解决​某个实际问题的工具。比如说：沉浸式翻译。它可以调用包括 GTP、deepl、Google 在内的 AI 平台，​对网页进行翻译，甚至可以直接翻译电子书。由于强大的功能，高速的回应式迭代，以及良好的用户口碑，很快就​得以传播开来。

但是与此同时，我也注意到另外一些工具产品，对它们的潜在风险充满​担忧。比如说最近出现了一批个性头像生成工具，具体使用方法是首先让用户上传一批自己的真实大头照，然后 AI 根据这些真实照片，生成不同风格的头像或者大头贴。

毫无疑问，这种产品会比翻译类工具更受欢迎，因为人人都自恋，人人都要头像，而且历史上曾经有类似的头像生成 App ​大获成功。但是隐忧也由此产生：

随着 AI 技术的进步，机器可以制造出越来越逼真的个人形象。换句话来说，AI 可以制造出越来越具备个人生物特征​的形象。

想一想看，面部解锁功能靠的是​人脸识别技术。为了防止有人用一张照片去解锁，你做面部识别的时候系统会要求你点头、眨眼​。现在有了 AI 技术，有了你的脸部照片，那么人工合成你的个人形象，从而欺骗​人脸识别系统就是个技术问题，​安全风险随之产生。

即便利用静态图片生成动态视频还存在技术障碍，那么，下一步如果有 App 利用你上传的一段自拍视频，帮你生成自己的数字人呢？是不是就可以得到了你的​面部动态数据了？

之前，我使用微软的 TTS​，用 AI 把我的文章转为语音。但是，这个服务只允许把文字转换为微软提供的几种口音。我很自然地想到，为什么不是我念几段话，然后 AI 根据我的语音，生成我个人的语音模型，​可以用我的声音来读我的文章呢？

微软还真有这个服务，​个人语音定制。我去看了一下开通规则，​直接就退了。因为这件事根本就不是交钱然后得到服务的事，微软要求你提交申请，在申请里写明你是什么公司，你是什么个人，你要利用这个服务做什么事情等等等等，​然后等待他们的审批。那种熟悉的官僚主义气味，让我一下意识到了​微软其实并不真的想提供这项服务，并不想对所有人都开放。

后来我也理解了这件事​。因为看起来这是用 AI 合成你的语音，实际上是 AI 得到了个人的声纹。即便精度不足以骗过声音锁，模拟出你的声音，给你通讯录上的好友打电话，冒充你的身份应该是​可以做到的。微软也许能做到声音库数据不至于外泄，但是如果成千上万的人申请并且开通了这项服务，它也无法确保开通服务的人​拿去做什么事情。

这是我们这个时代的新问题。以前人们担忧的是密码泄露，现在人们需要担忧的是生物特征数据泄露，这包括你的指纹，你的声音，你的虹膜，你的面部特征。一旦外泄，意味着你的各种指纹锁、声音锁、虹膜锁、​面部识别锁都处于风险之中。即便你没有开通任何这样的安全服务，这些数据也可以用作制造你的虚假​发言，虚假视频。

密码泄露可以通过修改密码，增加双重验证加以解决。然而，生物特征数据泄露那就是一泄永露，因为你不可能去修改你的指纹，你的声音，你的眼睛，​你最多只能去整容。

所以，当我们面对各种基于 AI 技术的新奇趣产品时，不要只考虑到它的娱乐性，不要只考虑到它的个性化，​我们更需要关注它们所带来的安全隐患。交出个人数据是容易的，交出去之后，对方如何保管，如何使用，​那就由不得自己了。

当然，当然，我知道有人又会反驳​说：难道人们不是随时随地在社交网络上主动泄露自己的​生物特征数据吗？难道人们不是每天​发布自拍吗？难道人们不是每天​上传自己的视频吗？这些数据早就已经大泄而特泄，还缺几个新的App？

这话也没错，我之前也看过两则​传闻。一则是说根据手​掌的高清图片，AI 可以提取人的指纹，这一条没能获得验证。另一则是一篇论文，说他们的AI 算法可以根据人敲击键盘的声音，反向推导​出敲击的内容，准确率还挺高。

风险的确无处不在，随着技术进步，就个人隐私和个人信息安全问题现实也总是​会提出新的挑战。之前，人们在社交媒体上发布自拍，Vlog，的确无法预见到今天​所要面临的风险，但是在今天可能人们需要不得不重新考虑。而从长远来看，生物特征数据泄露和滥用怕也是一个无法​完全禁止的趋势。

但我的看法是：能够多保护一天也是有意义的。每多延误一天，就增加一分技术或者立法​解决安全风险的可能。况且，你的个人数据淹没在社交平台上的海量数据之中，和你的个人数据专门提交给 AI 新创公司，这还是两回事。前者要搜集和锁定你的身份，目前还有成本作为门槛，并没有那么直接。一滴水躲藏在大海中，和滴在显微镜下的载玻片上，它的处境​还是有些不同的。

最后，我们所能指望的也只有人类社会制定的规则，​和人类组织之间的合作。记得之前海外出过一款 AI 产品，​其主要功能是一键扒衣。用户上传任何一张照片，AI 可以迅速去掉衣服，变成裸体。但它最终也没有成为席卷全球的现象级 App。看起来人类还是有所选择，​人类还是存在某些共识，人类还是具有​智慧可以认识到：如果这个 App 允许我对别人那么做，那么别人同样可以对我那么做，所以，最好不要​有这样的 App 存在。

我的意思是，在人类适应新问题之前，在人类调整规则和法律之前，在人类组织达成共识采取统一行动之前，你最好保护好你的个人生物特征数据，​别轻易交出去。也许，在多年的美颜之后，你可以开始考虑​对自己的自拍照片做劣化处理了。

------

附件：