苹果为何下架涉ChatGPT应用？

近日，苹果官方通知，中国区APP商店所有应用不允许提供ChatGPT相关服务，有提供的应用需要下架整改，整改完毕上架。

被关停的上百款APP涉及对ChatGPT的使用，多是AI聊天工具、图片生成、语音生成、文字生成等辅助软件。根据上述网传图片，平台向用户发送的声明声称由于“没有获得在中国运营所需的许可证”，无法在中国使用。

此次苹果平台下架APP，赶在《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）8月15日生效之前行动，苹果平台出于合规考虑的意图十分明确。结合更早生效的《互联网信息服务深度合成管理规定》（以下简称《规定》，2023年1月10日生效），由美国OpenAI公司开发的ChatGPT在中国合规难的现实得到印证。

可以预见，此次APP下架如蔓延至安卓平台，目前依赖应用ChatGPT技术的诸多创业项目将在短期面临调整。

一、境外生成内容，难以满足境内监管要求

苹果平台所提及的许可证要求，来自于《互联网信息服务管理办法》的第四条对经营性互联网信息服务实行许可制度的规定。根据该规定，在中国大陆地区运营类ChatGPT服务应取得第二类增值电信业务经营许可证。

苹果短信回复中提到的《规定》，对利用ChatGPT技术提供AI合成文本、图像、音频、视频、虚拟场景的服务商提出了诸多合规要求，对AI合成内容的管控是《规定》的重中之重。特别是不能传播虚假新闻，新闻转载只能来自新闻信息稿源单位。

《规定》还要求，深度合成服务提供者应当以“人机结合”的方式对输入数据和合成结果进行审核，还需要建立用于识别违法和不良信息的特征库。

《暂行办法》中，也对内容的合法性、真实性提出要求，规定不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益以及暴力、淫秽色情等内容。服务商还需要采取有效措施防止生成内容产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视，以及不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

《暂行办法》还要求服务提供者采取措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。在生成式AI技术研发过程中进行数据标注的，服务提供者应当制定清晰、具体、可操作的标注规则，抽样核验标注内容的准确性。

ChatGPT的服务基于OpenAI对全球语料库的深度学习和训练，如果境内AI服务提供商只是简单把ChatGPT接入境内，不对ChatGPT生成的内容进行审查，将很难满足中国政府对内容合法性、真实性的监管要求。

二、境外数据训练，难以保护境内权益 

《规定》与《暂行办法》对生成式AI的规范不仅体现在对生成结果的要求，更追溯到人工智能训练的过程。个人信息保护、知识产权保护、数据安全，是两文件以及各相关法律法规的共同要求。

对于在境外进行数据训练的ChatGPT而言，很难实现符合中国监管要求的运营合规。

根据《个人信息保护法》， 个人信息处理者需取得个人信息主体的同意或其他合法理由， 才可以处理其个人信息，并且遵循收集个人信息的“最小范围”原则。然而， OpenAI公布的隐私政策，只描述了个人访问OpenAI及其关联公司的网站或使用其相关产品和服务时对个人信息的处理， 并未提及其收集训练数据环节的个人信息保护政策。这显然与《规定》与《暂行办法》中对个人信息的保护存在差距。ChatGPT的预训练模型基于大量受著作权法保护的第三方文字作品内容作为其数据库的训练素材，其是否符合中国《著作权法》对第三方作品的保护要求存在疑问。

《规定》要求，运营商需采取必要措施保障训练数据安全；训练数据包含个人信息的，应当遵守个人信息保护的有关规定。

《暂行办法》规定，生成式人工智能服务提供者进行AI训练，应当使用具有合法来源的数据和基础模型；不得侵害他人依法享有的知识产权；应当取得个人同意或者符合法律、行政法规规定的其他情形。服务提供者还需要采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

对于使用者输入内容，OpenAI声称，“作为持续改进的一部分，当您通过我们的API使用OpenAI模型时，我们可能会使用您提供给我们的数据来改进模型。” 

《暂行办法》要求服务提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。该规定与OpenAI对用户输入信息的搜集和再利用也可能存在冲突。

此外，利用境外ChatGPT服务，还有固有的合规问题。

目前OpenAI并没有在中国大陆提供有关ChatGPT的服务，也没有设立相应的公司运营ChatGPT。在中国大陆地区使用ChatGPT的服务商，或需通过“翻墙”访问，或使用“中间商”提供的ChatGPT服务。通过“翻墙”软件访问ChatGPT属于行政违规行为。

另外，根据ChatGPT的工作原理，用户在输入端提出问题后，该问题信息会被传输到美国的OpenAI公司。在此过程中便涉及数据出境、入境的跨境问题。若用户所提问题涉及到个人信息、敏感信息甚至涉及国家安全、公共健康和安全等方面的重要数据，也存在着风险。

由于无法要求ChatGPT的服务商能够遵循中国大陆境内的合规要求，目前通过接入ChatGPT技术为境内客户提供服务的APP，事实上一直处于合规的灰色地带。

三、合规风险难避，ChatGPT创业面临难题

《规定》对发布AI应用的互联网平台的责任有明确要求：互联网应用商店等应用程序分发平台应当落实上架审核、日常管理、应急处置等安全管理责任，核验深度合成类应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。

《暂行办法》也明确要求，对来源于境外向境内提供不合规的生成式AI服务，国家网信部门应当通知有关机构予以处置。

因此，苹果、安卓应用商店对上架APP的合规承担责任，对不符合《规定》要求的APP予以下架，在落实合规要求上无可厚非。

值得产业界关注的是，对于依赖于ChatGPT功能而起步的国内诸多创业项目，则是坏消息。

随着ChatGPT的横空出世，一系列依赖于ChatGPT功能的创业蔚然成风。从ChatGPT高阶使用培训，到简单的接入通道，再到为各种工作场景开发的写文案、写剧本、做PPT、生成图片、视频，一系列互联网新创公司快速生长起来，其中不乏简单的套皮软件。

虽然国内生成式人工智能大模型正蓬勃发展，但难以完全替代ChatGPT。虽然利用境外数据向境内接转生成式AI服务存在市场需求，但合规风险“直接爆表”。创业企业若依赖境外系统作为底层支撑技术，在合规问题上已经“满盘皆输”。

在中国监管新规推动下，平台的下架整改有助于市场筛选出真正有实力的AIGC新创项目。依赖于境外大模型基础的应用可能不得不面临选择境内企业的基础数据服务，而植根于境内大模型基础的AIGC细分赛道应用，随着国内大模型的进一步成熟，有望能在长期竞赛中脱颖而出。

本文来自微信公众号：Internet Law Review（ID：Internet-law-review），作者：李克难