爆火的妙鸭相机，AI的合规问题

编者按：本文来自微信公众号“索骥合规”（ID:gh_2c7979aa193d），索骥合规网授权发布。

最近，打开朋友圈，翻开小红书，妙鸭相机四处刷屏——各种古装、校园风、晚礼服等写真照片扑面而来。

妙鸭相机是一款基于 AI 人脸识别的相机类应用。9.9元的低廉价格加上AI写真的噱头，让妙鸭相机迅速爆红。

图片来源于网络，侵删

宣布正式面向大众开放仅仅三天，就刷屏社交媒体。在7月20日晚间高峰期一度有4000-5000人排队，需等待十几个小时才能出片。

作为国内第一家AI性质的照片生成系统，妙鸭相机的爆火，让人们看到了AI的强大，也令不少人担心AI的可怕。

一、AI相机是否侵犯用户隐私

在妙鸭相机小程序，用户只要上传一张正面照，以及不少于20张的补充照片，就能制作出数字分身，自动生成不同类型和风格的写真。

妙鸭相机目前提供了30多种模板，包括都市正装、奢感光等不同风格，其生成质量已经到达十分逼真的地步，和实体照相馆拍摄的写真相差无几。

是谁做出了AI能力如此强大的妙鸭相机？

企查查显示，妙鸭相机的主体公司是成立于2006年的未序网络科技（上海）有限公司，，该公司是（阿里）大文娱参投的创业团队。该创业项目组从今年1月开始做妙鸭相机，7月份完成妙鸭的1.0版本。

据业内消息透露，妙鸭如今还是挂靠在阿里大文娱体系下，并非独立公司。

其实利用AI来完成照片的分身，妙鸭并不是第一家，比如去年海外的同类 AIGC 产品 Lensa也是火爆一时。

不过Lensa的价格要比妙鸭高很多，其会员订阅价为29.99美元/年，在2022年收入约为 1620 万美元。也就是说，其会员数已经至少有54万。

虽然目前妙鸭相机并未公布相关的用户数据，但从其微信公众号来看，从6月30日开始邀请内测，到7月17日正式上线，已经有9万人浏览过如何制作和付费的指南。保守计算，妙鸭相机付费用户也已经破万。

这么多用户上传照片，不仅令很多人担心起用户隐私的问题。

关于AI技术的使用问题，国外AI大模型开发已涉及数据隐私安全问题，ChatGPT人工智能大模型开发商OpenAI，因未经事先同意的情况下，使用社交媒体、博客、维基百科上数百万条评论的数据，涉嫌通过互联网窃取用户私人信息，在美国加利福尼亚州被指控并发起集体诉讼。诉讼结果判定OpenAI侵犯了互联网上数百万用户的版权和隐私权。

二、妙鸭存在的合规问题

妙鸭相机是否涉嫌侵犯用户隐私？

首先，从技术方面来看，妙鸭相机的核心技术是 AI 人脸识别，这是一个非常热门和发展迅速的领域，也是一个非常竞争激烈和容易引发争议的领域。

从合规方面来看，妙鸭相机涉及到用户上传照片、制作数字分身、生成写真等敏感操作，这就涉及到用户版权、隐私保护等法律法规和道德伦理问题。

妙鸭仅上线两日，一条近似“霸王条款”的用户协议很快将其推上舆论的风口浪尖。按照这一版本的用户协议，用户用AI生成的内容，永远都能被妙鸭用于包括商用等多个用途。

图源：妙鸭授权协议截图

这条“霸王条款”显然冒犯到了不少用户。有没有保障用户隐私和数据安全，是妙鸭相机出圈后的最大争议点。

对于这个问题，官方迅速回应了，说协议有误，用户照片不会用于其他用途，分身制作完成后也会自动删除。

图源：妙鸭微博截图

由于需要上传20张照片才能进行照片的制作，人们对人脸数据的担忧，贯穿了P图软件、捏脸等人脸相关应用的发展史，但将大模型技术引入其中后，问题会更显著。

因为生成的人像过于逼真，AI内容一旦不慎被泄漏，就很容易被用于违法犯罪当中——从AI换脸诈骗到隐私保护问题深陷合规漩涡，如何不踩安全红线，是AI应用们当前要面对的头号问题。

近日欧洲议会投票通过《人工智能法案》（AI Act）授权草案，其根据风险等级制定监管制度，将AI风险分为不可接受风险、高风险、有限风险和极小风险四个等级，分别对应不同的监管要求。风险较高的应用程序将面临更严格要求，包括更加透明和使用准确的数据；并要求任何模型在欧盟区域上市前，都需要向欧盟数据库进行验证。

在国内，关于AI的法律法规脚步显然比以前走得更快——2023年7月13日，网信办联合7部门发布了《生成式人工智能服务管理暂行办法》，其中规定“不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息”。

而对于AI主导的妙鸭相机，网友们也分成了两大阵营，有说技术发展是好事，但用户信息会不会被窃取，很难有保障，还是线下拍照吧，可以记录生活，有纪念意义；有说AI写真这个想法看上去令人眼前一亮，现在写真的照片实在是耗时很长、金额也很贵，妙鸭的思路正好戳中了这些痛点。

根据中国报告大厅公开信息，2023年，中国写真市场目标人群突破2亿，越来越多人愿意为个性化写真买单。全拓数据显示，目前我国摄影行业还处于行业成长期，2021年我国摄影行业市场规模已超过5000亿元。海马体创始人黄逸涵曾在接受《晚点 LatePost》采访时表示，海马体一年的营收规模约达20 亿元。

妙鸭就像线上版本的摄影机构，以一杯奶茶钱的价格，打造用户喜欢的写真场景，并且声称具备写真质感的照片，这对海马体等线下机构无疑是极大的冲击。

新技术浪潮下，写真馆的服务和品质提升能否赶上AI模型的技术升级速度，是个值得关注的问题，留给“海马体们”的时间不多了。

总之，AI的财富密码已被打开，但安全性如何保障、尝鲜感过后如何持续为用户提供价值，才真正关乎妙鸭相机AI应用的长期发展,“9.9元”的开端的确美妙，但市场仍需“妙鸭”讲出更多故事。

（本文仅代表作者观点，不代表索骥合规立场）