21 世纪经济报道:AI 领域风波不断,隐私争议与侵权诉讼频发
21世纪经济报道记者肖潇 北京报道
本周人工智能领域的风波不断,尤其是海外明星AI公司,接连陷入诉讼纠纷。
个人信息保护方面:同程酒店“订后即焚”新功能,引发隐私争议
人工智能方面:北京发布首份教育领域AI应用指南
海外方面:.AI因青少年沉迷AI后自杀案被家长起诉;《银翼杀手2049》制作方起诉特斯拉AI侵权;遭媒体集团联合起诉;Meta 达成首笔 AI 新闻授权交易
个人信息保护
1、同程酒店“订后即焚”新功能,引发隐私争议
近日同程旅行小程序推出新功能“订后即焚”, 用户在入住后次日中午12点,酒店开房订单会自动永久删除,也查不到任何订房记录。同程旅行表示,该功能的设计初衷是为了保护用户隐私。
新功能上线后引发热议,有观点认为,这一设计对隐私保护的作用不大,更可能鼓励出轨隐瞒的行为,还会导致消费者维权困难。
对此,同程旅行回应,订单自动删除后,取消险、随意退、意外险等相关保险服务如需申请理赔,可以联系同程客服。而如果担心与酒店产生纠纷,可以在退房时在酒店前台开具发票,保留好相关凭证。对于网友的疑虑,将考虑是否要优化该功能。
人工智能
1、北京发布首份教育领域人工智能应用指南
10月26日,《北京市教育领域人工智能应用指南》发布,该文件由北京市教委委托,北京教育科学研究院牵头,联合北京师范大学、北京智源人工智能研究院共同研制。文件明确了人工智能在 6 大重点教育领域 29 个典型场景的应用规范。
与此同时,《指南》对学校的教育人工智能应用作出规范要求,包括不得违背基本的教育教学规律和学生身心成长规律;全面了解生成式人工智能的风险、局限性与不足,严格保护个人隐私、敏感信息和涉密信息。
北京市教委等 4 部门近日还发布了《北京市教育领域人工智能应用工作方案》,明确到 2025 年,全市要完成建设教育领域人工智能试点应用场景,大中小学普遍开展人工智能场景应用;到 2027 年,全市教育领域人工智能规模化、系统化、常态化应用的格局基本成型。
海外
1、青少年沉迷AI聊天机器人后自杀,.AI遭家长起诉
10月23日,美国佛罗里达州家长梅根·加西亚(Megan )向AI聊天应用初创公司.AI提起诉讼,要求对方为自己14岁的儿子塞维尔·塞泽( )的死亡负责,阻止.AI继续使用非法收集的未成年用户数据训练产品并伤害其他人。
根据家长的起诉书内容,14 岁男孩 从去年开始使用 .AI,与以《权力的游戏》中的丹妮莉丝·坦格利安(龙妈)为原型的聊天机器人互动。起诉书表示,丹妮和其他AI角色与男孩开展过有性暗示的对话。起诉书还指出,有两次向丹妮提到过自杀念头,在与丹妮进行最后一次互动后,自杀身亡。
起诉书认为,.AI“故意设计和编程,使其变成一种欺骗性和过度性化的产品,并故意将其推销给像 这样的孩子”起诉书还认为平台没有提供足够的安全保护措施,产品存在设计缺陷。
南财点评:去年我国通过的《生成式人工智能服务管理暂行办法》明确要求,禁止生成任何危害他人身心健康的内容,且提供者必须采取有效措施,防止生成此类有害信息。所有面向境内公众的生成式AI服务都需要遵守要求。
不过青少年心理健康问题很少是由单一原因引起的,往往有多个触发因素。业内人士认为,眼下比较好的办法是提供标识,如果AI能更清楚地指出自己不是真人,可能有利于防止年轻用户沉迷。
2、《银翼杀手2049》制作方起诉特斯拉AI侵权
10月22日,《银翼杀手 2049》的幕后制作公司Alcon 对特斯拉、马斯克及华纳兄弟探索公司提起诉讼,认为其使用 AI 图像生成器为“We, Robot”活动制作了宣传图片,并模仿了 2017 年科幻电影《银翼杀手 2049》中的镜头。诉讼书提出了版权侵犯和虚假代言的指控。
诉讼书表示,“We, Robot”活动当日,马斯克请求华纳兄弟允许使用电影中的一张静态帧,因为涉及国际版权,员工向制作方Alcon 发送紧急许可请求。制片人最终拒绝了这项请求,但以此生成的AI图片仍然出现在特斯拉活动中——主办方展示的一张图片与《银翼杀手2049》的标志性场景高度重合。
目前起诉书递交至美国加州联邦法院,公司寻求损失赔偿,并要求法院禁止特斯拉进一步分发有争议的宣传材料,赔偿金额尚未定量。
3、遭媒体集团联合起诉
《华尔街日报》母公司道琼斯和《纽约邮报》,在美国纽约联合起诉侵权。开发了目前势头正盛的AI搜索产品,每次用户提问后,大模型会检索、总结五条互联网并引用链接。起诉书指出,不仅向用户提供了受版权保护文章的片段,甚至有向付费订阅用户直接提供全文。
两家出版商在起诉书中表示,本次起诉目的是对的行为寻求补救措施,它们认为公然通过搭便车()的方式利用出版商生产的宝贵内容,并与出版商争夺读者,抢走了原本属于这两家出版商网站的流量。
4、Meta 达成首笔 AI 新闻授权交易
Meta 同路透社达成了一份多年期的有偿新闻授权协议,Meta 旗下 AI 聊天机器人即日起回答用户有关时事新闻的查询时可引用路透社的报道资源并给出原文链接。这也是 Meta 在 AI 时代与新闻媒体签署的首份内容授权合同。交易条款的细节目前尚未披露。