2023-09-09

一个潜在的 AI风险

 


AI 技术在 2023年大爆发,于是各种各样的新产品如同雨后春笋一般​涌现出来。从业者一直在找寻真正可以引爆大众参与度的产品,而最容易得到​推广的产品类型毫无疑问就是工具。
就我的个人观察,迄今为止较为成功的产品都是帮人解决​某个实际问题的工具。比如说:沉浸式翻译。它可以调用包括 GTP、deepl、Google 在内的 AI 平台,​对网页进行翻译,甚至可以直接翻译电子书。由于强大的功能,高速的回应式迭代,以及良好的用户口碑,很快就​得以传播开来。
但是与此同时,我也注意到另外一些工具产品,对它们的潜在风险充满​担忧。比如说最近出现了一批个性头像生成工具,具体使用方法是首先让用户上传一批自己的真实大头照,然后 AI 根据这些真实照片,生成不同风格的头像或者大头贴。
毫无疑问,这种产品会比翻译类工具更受欢迎,因为人人都自恋,人人都要头像,而且历史上曾经有类似的头像生成 App ​大获成功。但是隐忧也由此产生:
随着 AI 技术的进步,机器可以制造出越来越逼真的个人形象。换句话来说,AI 可以制造出越来越具备个人生物特征​的形象。
想一想看,面部解锁功能靠的是​人脸识别技术。为了防止有人用一张照片去解锁,你做面部识别的时候系统会要求你点头、眨眼​。现在有了 AI 技术,有了你的脸部照片,那么人工合成你的个人形象,从而欺骗​人脸识别系统就是个技术问题,​安全风险随之产生。
即便利用静态图片生成动态视频还存在技术障碍,那么,下一步如果有 App 利用你上传的一段自拍视频,帮你生成自己的数字人呢?是不是就可以得到了你的​面部动态数据了?
之前,我使用微软的 TTS​,用 AI 把我的文章转为语音。但是,这个服务只允许把文字转换为微软提供的几种口音。我很自然地想到,为什么不是我念几段话,然后 AI 根据我的语音,生成我个人的语音模型,​可以用我的声音来读我的文章呢?
微软还真有这个服务,​个人语音定制。我去看了一下开通规则,​直接就退了。因为这件事根本就不是交钱然后得到服务的事,微软要求你提交申请,在申请里写明你是什么公司,你是什么个人,你要利用这个服务做什么事情等等等等,​然后等待他们的审批。那种熟悉的官僚主义气味,让我一下意识到了​微软其实并不真的想提供这项服务,并不想对所有人都开放。
后来我也理解了这件事​。因为看起来这是用 AI 合成你的语音,实际上是 AI 得到了个人的声纹。即便精度不足以骗过声音锁,模拟出你的声音,给你通讯录上的好友打电话,冒充你的身份应该是​可以做到的。微软也许能做到声音库数据不至于外泄,但是如果成千上万的人申请并且开通了这项服务,它也无法确保开通服务的人​拿去做什么事情。
这是我们这个时代的新问题。以前人们担忧的是密码泄露,现在人们需要担忧的是生物特征数据泄露,这包括你的指纹,你的声音,你的虹膜,你的面部特征。一旦外泄,意味着你的各种指纹锁、声音锁、虹膜锁、​面部识别锁都处于风险之中。即便你没有开通任何这样的安全服务,这些数据也可以用作制造你的虚假​发言,虚假视频。
密码泄露可以通过修改密码,增加双重验证加以解决。然而,生物特征数据泄露那就是一泄永露,因为你不可能去修改你的指纹,你的声音,你的眼睛,​你最多只能去整容。
所以,当我们面对各种基于 AI 技术的新奇趣产品时,不要只考虑到它的娱乐性,不要只考虑到它的个性化,​我们更需要关注它们所带来的安全隐患。交出个人数据是容易的,交出去之后,对方如何保管,如何使用,​那就由不得自己了。
当然,当然,我知道有人又会反驳​说:难道人们不是随时随地在社交网络上主动泄露自己的​生物特征数据吗?难道人们不是每天​发布自拍吗?难道人们不是每天​上传自己的视频吗?这些数据早就已经大泄而特泄,还缺几个新的App?
这话也没错,我之前也看过两则​传闻。一则是说根据手​掌的高清图片,AI 可以提取人的指纹,这一条没能获得验证。另一则是一篇论文,说他们的AI 算法可以根据人敲击键盘的声音,反向推导​出敲击的内容,准确率还挺高。
风险的确无处不在,随着技术进步,就个人隐私和个人信息安全问题现实也总是​会提出新的挑战。之前,人们在社交媒体上发布自拍,Vlog,的确无法预见到今天​所要面临的风险,但是在今天可能人们需要不得不重新考虑。而从长远来看,生物特征数据泄露和滥用怕也是一个无法​完全禁止的趋势。
但我的看法是:能够多保护一天也是有意义的。每多延误一天,就增加一分技术或者立法​解决安全风险的可能。况且,你的个人数据淹没在社交平台上的海量数据之中,和你的个人数据专门提交给 AI 新创公司,这还是两回事。前者要搜集和锁定你的身份,目前还有成本作为门槛,并没有那么直接。一滴水躲藏在大海中,和滴在显微镜下的载玻片上,它的处境​还是有些不同的。
最后,我们所能指望的也只有人类社会制定的规则,​和人类组织之间的合作。记得之前海外出过一款 AI 产品,​其主要功能是一键扒衣。用户上传任何一张照片,AI 可以迅速去掉衣服,变成裸体。但它最终也没有成为席卷全球的现象级 App。看起来人类还是有所选择,​人类还是存在某些共识,人类还是具有​智慧可以认识到:如果这个 App 允许我对别人那么做,那么别人同样可以对我那么做,所以,最好不要​有这样的 App 存在。
我的意思是,在人类适应新问题之前,在人类调整规则和法律之前,在人类组织达成共识采取统一行动之前,你最好保护好你的个人生物特征数据,​别轻易交出去。也许,在多年的美颜之后,你可以开始考虑​对自己的自拍照片做劣化处理了。


------

附件:


没有评论:

发表评论

近期热门博文