扫码打开虎嗅APP
本文来自微信公众号:财经杂志(ID:i-caijing),作者:刘以秦、徐文璞,编辑:谢丽容,原文标题:《OpenAI加大对中国账号封管力度,目前影响有限》,题图来自:视觉中国
近期有媒体报道称,美国AI公司OpenAI的推送邮件中称,自今年7月9日起,将开始阻止来自非支持国家和地区的API(应用程序接口)服务。目前OpenAI共支持161个国家和地区,不包括中国内地和中国香港。
多位使用了OpenAI的API接口服务的中国技术人员告诉《财经》,目前他们并未收到要求停止使用的通知。
事实上,OpenAI从未开放过中国市场的服务,中国用户大多通过代理服务或微软云来使用OpenAI的工具和服务。OpenAI此前没有官方表态,界定该方式是否可行。今年2月开始,OpenAI陆续发布AI安全相关的报告和声明,表示有部分国家和地区的个别用户,通过OpenAI的工具生成虚假内容,影响网络安全。
OpenAI推送的邮件通知中指出,自7月9日起,OpenAI将开始阻止来自非支持国家和地区的API流量。受影响组织若希望继续使用OpenAI的服务,必须在其支持的国家和地区内访问。图片来源:Twitter,OpenAI用户发布
今年2月14日,OpenAI发文称,通过与微软安全部门的合作,封锁了五个不安全的账号,这五个账号分别来自中国、俄罗斯、伊朗、朝鲜。这些账号的不安全行为主要包括网络钓鱼、生成恶意代码等。
同一天,微软也发布文章称,已经制定了相关原则来降低安全风险,包括封锁恶意用户账号,通知其他AI服务商,与其他利益相关者定期交换安全信息,持续向公众通报。同时,微软会与OpenAI合作监控攻击行为,不断改进优化防御机制和技术。
今年5月30日,OpenAI发布了一个39页的调查报告。报告称,在过去三个月中,OpenAI又发现了五个不安全行为,分别来自俄罗斯、中国、伊朗和以色列。主要行为包括用OpenAI的模型生成内容,发布在社交平台上,生成虚假回复,发送垃圾邮件等。报告中还提到,虽然这些账号在多个社交平台上开展活动,但目前并未产生实际影响,几乎没有真实用户评论、互动。只有个别账号因为文本粗糙,被少量用户评论说是假消息。
根据报告,这些危险行为的相关账号已被封禁,整体数量很少。
OpenAI还在声明中提到,该公司构建了AI工具来提升检测和分析危险行为的效率。调查出上述几个危险行为只用了几天的时间,接下来还会优化模型来提升调查能力和效率。
目前中国公司和开发者使用OpenAI的API主要通过两种方式:一是购买微软Azure云服务,微软Azure是OpenAI的独家云服务提供商,中国用户可以通过Azure国际版调用GPT的能力,中国头部科技公司均已购买Azure的GPT服务。二是通过海外服务器做转发,稳定性相对弱一点,需要准备一些备选服务器随时调换。
如果未来OpenAI加大区域限制,对于中国开发者来说,可能的影响是提高使用成本。多位中国科技公司人士分析,根据目前OpenAI发布的相关声明,只要不从事相关危险行为,大概率不会被封号,即使封号了也可以再想办法绕开。不过,一位国内大模型公司人士告诉《财经》,如果OpenAI真的对区域严格限制,即使使用海外服务器,也绕不开,这取决于OpenAI的封锁力度。
目前中国科技公司使用OpenAI服务,主要用于训练自己的大模型,或是用于实际业务中,包括生成内容、软件开发、自动化办公等。
OpenAI本身也并不符合中国市场的相关法律规范。2023年7月13日,中国网信办联合发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布了《生成式人工智能服务管理暂行办法》,要求提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。截至今年3月,共有117家大模型公司完成备案,没有OpenAI。
该管理办法中还提到,“对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的,国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。”
本文来自微信公众号:财经杂志(ID:i-caijing),作者:刘以秦、徐文璞,编辑:谢丽容