近日，某大 V 机构法人发生了更换。在 AI 时代，人脸识别技术虽带来诸多便利，但也潜藏着巨大风险。此前，该机构依赖人脸识别系统进行用户管理等工作，然而，一旦法人更换，新法人的面部信息录入系统可能面临诸多问题。比如，旧法人的面部数据未及时清理，可能导致信息混淆，引发隐私泄露风险；又或者新录入的面部信息在识别过程中出现误判，影响机构的正常运营。这一事件提醒我们，在 AI 飞速发展的当下，必须高度重视人脸识别技术背后的风险，加强数据管理和安全防护。

本文来自微信公众号：caoz的梦呓 （ID：caozsay），作者：caoz，原文标题：《人脸识别与AI时代》，题图来自：AI生成

蹭点热点吧，这不最近看到不少相关的传闻，一些大V背后的商业机构，法人被黑客变更，然后导致公众号管理权限被变更，然后就被用来发诈骗文章割韭菜。

那么黑客是怎么变更法人的呢，说简单也简单，人脸识别。

我到现在，各种支付平台的人脸识别都没开通过，就显得很不与时俱进，这是一个过气中老年的顽固和保守。

人脸识别这个技术，首先是AI时代一个非常显著的成就，因为人脸识别这玩意本身只能是模糊识别，一个人不可能任何时候表情，脸部的各种细节都是一致的对不对，特别是随着时间变化，人脸型，皱纹，发型都会有不同的变化，比如很多人一见面就会说，曹老师，你怎么又瘦了。所以这是一个需要有足够包容性的识别系统，仅仅凭借人类的标注能力，在AI技术不成熟的时候，是不可能实现的。

但这种包容性，模糊性的识别问题，就会带来两种需要防范的错误，一种就是漏判，该识别到的无法识别，比如这个人最近晒黑了，或者失眠眼睛肿了，无法识别。这种其实日常也会遇到，比如我在过新加坡海关的时候偶尔也会提示识别不对要去走人工通道做二次识别。另一种就是错判，不是本人却被识别为本人，也就是被别人冒用身份，冒用脸型。

但这两个问题，对技术的要求截然相反，第一种需要增加包容性，允许更多的容错性，才能兼容一个人不同状态的脸部识别。但第二种恰恰相反，需要收紧兼容性，防止误判，将不同人或者不符合识别标准的图像资源识别，从而导致身份入侵。

可是问题又来了，对于一般的测试，对于一般的诸如领导审查，哪个问题更容易成为考核的重点呢，第一种。毕竟一个人发现自己无法被正确识别，肯定是很明显的，他们会说你的系统不好，当项目验收，领导亲自来体验产品的时候，保证识别率肯定是最重要的指标。至于误判，反正平时也很难测试对不对。

提升识别率肯定是最容易体现技术业绩的，至于误判率，毕竟在正常场景下，大家都是用自己的身份来识别的。

然后AI进入了新的阶段，可以让照片动起来了，可以自动生成视频了，张嘴，摇头，点头，这都不叫事了。

然后偏偏那些大V、大佬们的照片、视频网上到处都有。

你看，AI的识别技术遇到了AI的素材生成。

我没有证据，但我有个怀疑，为了追求识别率的指标，因为这个指标更容易被认可，成为业绩，这些识别模型会不会都加大了容错设计，这就导致误判的口子变大了。

我也没有证据，但我也依然有个怀疑，突破识别的大概率就是用AI生成的各种动作视频。

当然，不管我怀疑得对不对，最近类似这样的事情有不少。

第一，提醒有关官方部门，提升识别能力和手段，不要轻易让识别系统被攻破。

第二，提醒各大互联网自媒体平台，一些粉丝较多的自媒体账户在涉及变更管理员权限等操作时，需要一些必要的安全校验和人工审核。

第三，提醒读者，不管你关注的是谁，信用有多好，对他们发表的内容要有自己的判断力，不要无脑跟，盲目信，有可能这个博主确实没有打算骗你，但他自己也被黑了呢。

第四，提醒各家AI厂商们，用AI突破AI的这个问题貌似已经挺严重了，而且估计会成为长期的技术难题，因为盾和矛的快速发展都是同步的。

本文来自微信公众号：caoz的梦呓 （ID：caozsay），作者：caoz