AI合规进行时：如何制定规则？

编者按：本文来自微信公众号“索骥合规”（ID:gh_2c7979aa193d），索骥合规网授权发布。

自1956年“人工智能”的概念首次被提出已过60余年，此间，人工智能从虚化的代码逐渐转化成实践应用，不过，人工智能规模化商用发展并非是一帆风顺的，直到时间来到2022年，生成式AI出现的热潮之下，各国对于AI规则的“军备竞赛”已然开始。

《中国人工智能大模型地图研究报告》显示，截至今年5月28日，中国10亿参数规模以上的大模型已发布79个。百度、阿里、华为等实力雄厚的互联网公司，分别发布“文心一言”、“通义千问”及华为盘古大模型等；人工智能新秀竞相推出大模型，比如澜舟科技的孟子GPT、智谱AI的ChatGLM、科大讯飞的星火大模型等。

而美国和中国就占全球已发布大模型总量的80%以上，AI迅猛发展对国内外监管带来了全新的挑战。

一、AI带来的合规问题 

前段时间在某平台，“AI孙燕姿”翻唱的《发如雪》《下雨天》等播放量已达上百万，抖音平台上也出现了“AI孙燕姿”的合集，且播放量在不断上升。此外，“AI周杰伦”“AI王菲”等也都相继问世。

“AI歌手”主要是利用AI技术提取歌手的音色特征，对其他歌曲进行翻唱。一时之间，“AI歌手”是否涉及侵权成为讨论焦点。

与“AI歌手”相似的，是AI绘画。AI绘画是指利用AI技术来生成内容的新型创作方式，同样因著作权的归属问题频频惹出争议，遭到大批画师抵制。全球知名视觉艺术网站ArtStation上的千名画师曾发起联合抵制，禁止用户将其画作投放AI绘画系统。

在AI成功地生成了一个作品之后，相关的很多著作权问题也会出现，AI作品是否应该有著作权？如果有，它们该归谁所有？对于这个问题，目前依然存在着很大的分歧。

然而AI的危险是它不仅可以生成作品，还可以“换脸”。最近火爆全网的妙鸭相机就是AI换脸的典型案例。详情请阅读《火爆的妙鸭相机，AI的合规问题》

换脸的软件还有很多，比如Swapface，支持三种情景的AI头像合成，分别是直播换脸、视频换脸和图像换脸。目前AI换脸的应用范围越来越广，随之犯罪分子也发现了这一“商机”。

前不久，就有一男子因AI“换脸”，10分钟被骗430万元，在这过程中双方还在视频中确认了面孔和声音。事后才知道原来是骗子通过AI换脸和拟声技术，佯装好友对其实施诈骗。

除了佯装“熟人脸”实施诈骗，AI换脸还可能出现在直播带货中。甚至网上出现了一些“换脸直播”教程，教程发布者声称实时变脸软件可以帮助用户轻松“变脸”，极大地助力引流卖货。

在国外，AI也同样带来了合规困扰。

今年6月，由16人匿名提起诉讼，声称OpenAI与其主要支持者微软公司在数据采集方面违背了合法获取途径，选择了未经同意与付费的方式，进行个人信息与数据的收集。显而易见，尽管ChatGPT是一项迷人的技术，但人们对它及其他生成式AI应用都存在着极大的担忧，尤其是在涉及到隐私和误导信息方面。

起诉人称，OpenAI为了赢得“AI军备竞赛”，大规模挪用个人数据，非法访问用户与其产品的互动以及与ChatGPT集成的应用程序产生的私人信息，根据这份长达157页的诉讼文件，OpenAI以秘密方式从互联网上抓取了3000亿个单词，并获取了“书籍、文章、网站和帖子——包括未经同意获得的个人信息”，行为违反了隐私法。

诉状指出：“就个人身份可识别信息而言，被告没有充分过滤掉它们在训练模型中的应用，使得数百万人面临着有可能将这些信息在短时间内或其他方式上披露给全球陌生人的风险”

尽管人工智能技术拥有无限的创新潜力，但在其应用过程中，我们需要关注诸多合规风险，，比如说数据安全方面，利用生成式AI窥探个人隐私，甚至破坏商业机密和破坏国家安全，还有生成式AI 存在一定的知识产权保护的问题，以及伦理问题，介于AI现在水平没到高智慧程度，这个可能会在未来探讨。

二、全球酝酿监管措施 

人工智能风险监管已经成为当前政策治理中不可或缺的考量因素。相关实践看来，各国在治理措施中表现出了一定共识：AI需要监管，但同时鼓励创新。

随着问题的凸显，各国也把对于AI的监管提上日程。

斯坦福大学发布的《2023年人工智能指数报告》中提到，对127个国家立法记录调研的结果显示，包含“人工智能”的法案被通过成为法律的数量，从2016年的仅1个增长到2022年的37个。报告对81个国家2016年以来的人工智能法律法规记录的分析也同样表明，全球立法程序中提及人工智能的次数增加了近6.5倍。

具体监管方面，表现出了差异，美国、欧盟等暂时尚未对人工智能技术研发企业作出直接的禁止性规定，其中欧盟倾向于从人工智能整体行业提出鼓励性或倡议性的监管要求。

国外AI七巨头齐聚白宫发出了：美国发力AI治理，抢占国际技术话语高地的口号，齐聚白宫的七家AI公司分别为亚马逊、Anthropic、谷歌、Inflection AI、Meta、微软和OpenAI。承诺书主要强调了未来人工智能发展的三个原则：安全，保障和可信任。具体来看，七家人工智能公司作出的承诺涵盖多个领域。

与美国还停留在“口头呼吁”阶段不同，6月14日，欧洲议会通过了一项名为《人工智能法案》（AI Act）的法律草案，该法案将对被视为该技术最危险的用途施加新的限制——投票禁止实时远程生物识别技术，欧盟禁令意味着不能在公共场合实时人脸扫描；同时要求OpenAI和谷歌等公司必须进行风险评估，并披露更多用于创建程序的数据。不仅如此，《人工智能法案》将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求。

总体来看，从美国和欧盟对人工智能监管的差异可以看到，监管思路上美国更希望由市场决定，以市场为导向，更加注重效率；欧盟采用了预防的方法，在伤害出现之前先对其进行监管，更加注重安全。

与欧美国家相比，国内在AI治理方面已走在了世界前列。

从今年4月11日，国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》，到7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局发布《生成式人工智能服务管理暂行办法》，仅仅用了3个月的时间，并且自2023年8月15日起施行。

与此同时，《办法》做出了一系列的规范和管理措施，《办法》明确了提供和使用生成式人工智能服务的总体要求，提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

在未来，AI模型的创造能力能达到何种程度，可能还需要进一步观察、整理和总结，但对不同主体进行更明晰的责任认定，对不同的应用实践进行更严格的边界管理，通过法律保障和行业监管，给AI技术立下规矩，是引导人工智能“向善”的重要一步。

我们要加强基础技术的自主创新，把握机会。对于生成式人工智能而言大数据时代，数据合规已经逐渐成为企业长远发展的基石和竞争力，而AI如何在政策监管和技术发展之间找到平衡也考验着全球。

（本文仅代表作者观点，不代表索骥合规立场）