当意大利“禁用”ChatGPT

本文来自微信公众号：经济观察网 （ID：eeojjgcw），作者：欧阳晓红，原文标题：《当意大利“禁用”ChatGPT：OpenAI有20天“整改期” 创始人Sam期待访意》，题图来自：视觉中国

一

4月1日是“愚人节”，对ChatGPT意大利用户来说，这个“玩笑”开大了；对OpenAI而言，却有些猝不及防——它有20天的调整适应期。

当地时间3月31日，以“非法收集个人资料；未成年人年龄核实系统缺失”之名，意大利个人数据监管局（Guarantor for the Protection of Personal Data，GPDP）宣布禁用ChatGPT，直到它尊重隐私法规；行政措施立即生效。同时，监管部门立案侦查。

而在30日就发出的行政措施文件中，GPDP称，对ChatGPT进行多次测试，并就用户数据隐患问题先后指出以下几点：

1. ChatGPT并未告知用户任何关于OpenAI通过该服务数据收集的相关信息。

2. 缺失对于用户个人数据的处理，以及对其作为ChatGPT算法优化途径的合格评判基准。

3. 服务方提供的数据相关信息与部分事实不符。

4. 在OpenAI发布的条款中明确该公司产品不为13岁以下用户提供服务，ChatGPT却缺失任何对于用户年龄的验证。

GPDP还称，3月20日发生了有关付费服务订阅者的用户与ChatGPT对话和支付信息的数据泄露。并指出，最重要的是OpenAI缺乏法律依据来证明其收集和大量存储个人数据以便“训练”平台操作的基础算法是合理的。此外，根据OpenAI条款，服务用户是13岁以上的人，但GPDP强调，没有任何过滤器来验证用户的年龄，使未成年人面临对其发展程度和自我意识绝对不合适的答案。

OpenAI在欧盟未设办事处，但在欧洲经济区任命了一名代表，GPDP要求其必须在20天内反馈为实施GPDP要求而采取的措施，从该文件发布即日起，OpenAI有二十天的时间根据欧盟相关法律对产品作出调整，否则同样根据欧盟法律，其将被处以最高2000万欧元或4%的全球年营业额的罚款。

因此，OpenAI需要在规定时间提供有关数据收集的所有文件，包括还必须明确要采用哪些系统来验证访问其服务的用户年龄，悉数满足要求后，才能继续在意大利运营。

就此，OpenAI创始人Sam Altman在社交媒体上回应，当然会服从意大利政府，并已停止在意大利提供ChatGPT（尽管其认为遵守所有的隐私法）。“意大利是我最喜欢的国家之一，期待很快再次访问。”

事实上，GPDP叫停ChatGPT后，OpenAI在意大利连夜暂停了对该服务的访问。4月1日，当一早醒来的意大利用户尝试连接OpenAI时，得到的网页响应是：《网站所有者可能设置了阻止用户访问的限制》。

针对付费订阅用户，OpenAI将向3月份购买ChatGPTPlus订阅的意大利所有用户退款；还暂停了意大利的订阅续订，以便在 ChatGPT 暂停期间不会向用户收费。

“我们致力于保护人们的隐私，并相信我们提供的 ChatGPT 符合GDPR和其他隐私法。我们将与意大利数据保护局合作，以尽快恢复您的访问权限。”OpenAI支持团队在致意大利ChatGPT用户的公开信中表示，“许多人告诉我们，发现 ChatGPT 对日常任务很有帮助，我们期待很快再次提供它。”

二

是这样吗？据英国BBC报道，OpenAI承认对数据的处理缺失存在漏洞，随后又称ChatGPT之所以有收集数据的机制，是为了让其“学习这个世界”，而非“学习用户个人”，并表示“希望早日恢复对意大利的服务”。

问题在于，意大利用户不知道，20天“整改期”之后的结果如何。Sam Altman认为，OpenAI遵守了所有的隐私法；但GPDP有异议，需要OpenAI提供相关证明文件（但它们看起来并不容易），包括对用户年龄的核实系统问题何解？而且，意大利对基于欧盟人权法律下的个人隐私权极其重视，GPDP行政措施中所列的每一项内容均引自相关法律。

“我们需要停止ChatGPT，我们不知道它对我们的数据做了什么。”GPDP董事会成员之一的律师Guido Scorza就此接受媒体采访时表示。

自2020年开始，就一直是GPDP董事会成员的Guido Scorza说，GPDP此次是独立行动。现在OpenAI有20天的时间来遵守规定。

当被问及ChatGPT 收集了哪些数据时，Guido Scorza称，并不清楚。“我们唯一可以说的是（ChatGPT）收集个人数据是为了开发算法。如果不是这种情况，当我们向他询问或多或少有名的人物简介时，ChatGPT就无法回答我们的问题。”

提及律师与OpenAI的分歧或异议，Guido Scorza直言，特别是三种不同的违规行为：(a) 收集了数十亿人的个人数据来训练他们的算法，而没有告知他们这种情况，并且可能没有适当的法律依据，(b)在不告知他们这些数据的命运的情况下在对话期间收集用户的个人数据，以及(c)生成内容以回答问题，这些内容有时会归因于人们不准确和不真实的事实和情况，从而提出对他们个人身份的歪曲表述。

Guido Scorza举例称，如果他问聊天机器人Guido Scorza是什么时候进入数据保护局的，答案为2016年，但事实是2020年。“这（回答）还没关系；但如果他说我在海边撞到一个孩子然后逃跑了，而真相并非如此，那将永远毁了我的生活。而且我认为我们不允许发生这种情况。”Guido Scorza说。

他强调，这次GPDP是独立行动，因为 OpenAI不在欧洲相关隐私保护机构合作程序之内。不过，他认为，接下来的几天里，欧洲层面肯定会有讨论的空间，以了解是否以及如何合作和共同行动。

其画外音或是，GPDP“打响禁用ChatGPT头炮”之后，欧洲相关组织可能也会采取行动。

“AI热潮下，意大利禁用ChatGPT也许不会是个案。”分析人士认为，“而OpenAI自身漏洞也是不可忽视的长期隐患。在完全不知走向的科技革命中，任何一步均可能演变为无法弥补或逆转的历史，无论对错、代价如何；因此，现阶段下的AI向前推进的每一步都需审慎评估。”

就在几天前，包括埃隆·马斯克（Elon Musk）在内的1000多人联名呼吁暂停高级人工智能的开发，直到独立专家开发、实施和审计这类设计的共享安全协议。

当地时间29日，据路透社报道，马斯克和一群人工智能专家、行业高管在由非营利组织未来生命研究所（FLI）发布的一封公开信中，呼吁暂停开发比GPT-4更强大的系统，暂停6个月，并指出其对社会和人类存在潜在风险。他们在信中写道：只有在我们确信它们的效果是积极的，风险是可控的情况下，才应该开发强大的人工智能系统。

这种担忧其实由来已久。在派拓网络副总裁兼亚太及日本地区首席安全官Sean Duca看来，ChatGPT（AI）是把“双刃剑”。多年来，全世界都在猜测AI可能即将统治世界。如今，用户可以使用AI驱动的安全工具和产品，在几乎无需人为干预的情况下应对大量网络安全事件，但业余黑客也可以利用同样的技术开发智能恶意软件程序并发起隐形攻击。

Sean Duca认为，ChatGPT带来的网络安全隐患不容忽视。比如，此前在拉斯维加斯举行的黑帽和Defcon安全大会上，一个技术团队展示了AI在生成钓鱼邮件和鱼叉式钓鱼信息方面是如何超越人类的。当务之急是采取智能化的行动来化解这些不断发展的威胁。好消息是自主响应如今能够在无需人类干预的情况下有效解决威胁。但随着AI驱动的攻击成为常态，受到自动化恶意软件攻击的企业、政府和个人需要越来越多地依靠AI和机器学习（ML）等新兴技术做出自动化响应。

诚然，随着技术的发展，人们越来越多地意识到数据隐私和保护的重要性。根据Gartner预测，到2024年末，全球75%人口的个人数据将得到现代隐私法规的保护。面对愈发完善的数据法律法规，作为数据管理领域全球领导者的Commvault列出了2023年数据隐私和保护的十大工作重点。

其中，重点一是数据保护策略：在不断变化的数据环境中，企业应该创建整体数据保护策略中的数据隐私、备份和恢复，以及灾难恢复计划，并不断更新。重点二是“加密”，加密对于数据保护和保护隐私数据至关重要。数据加密有助于防止对个人信息的未授权访问。这对于医疗机构、金融机构等需要处理大量隐私数据的企业机构尤为重要。

此外的重点六是数据治理和洞察；调查显示，57%的首席信息安全官承认，他们不清楚他们的一部分数据（或所有数据）位于何处，又是如何被保护的。随着隐私数据量的不断增长，法规的数量也在成倍增加。企业需要了解他们的数据，包括数据的位置以及哪些数据存在风险等等。企业如此，个人数据保护亦然。

“AI和人类之间的微妙平衡将成为实现网络安全的关键因素。”Sean Duca表示。

本文来自微信公众号：经济观察网 （ID：eeojjgcw），作者：欧阳晓红