TikTok关闭算法安全防护实验波及1500万用户,美参议员限期回应

软件/AI
美国两名参议员要求TikTok在9月1日前就一项争议实验作出答复。该实验人为关闭了1500万美国用户的算法安全防护功能,一名16岁少年在被推送大量悲伤相关内容后自杀身亡。议员质疑TikTok为何将未成年人纳入对照组,并要求公司披露所有知情员工名单及同类实验记录。
TikTok关闭算法安全防护实验波及1500万用户,美参议员限期回应

美国国会两名参议员向TikTok发出限期质询,要求该公司对一项涉及1500万美国用户的算法安全防护实验作出解释。该实验曾被用于测试内容推荐机制,一名16岁用户在实验期间因持续接收悲伤、自杀类视频而自杀身亡。

参议员玛莎·布莱克本(田纳西州共和党)与理查德·布卢门撒尔(康涅狄格州民主党)在致TikTok首席执行官周受资及美国区负责人亚当·普雷瑟的信中,将这一决策形容为“堕落”。

彭博社报道透露,TikTok有意为美国10%的用户停用了一项算法安全防护机制,借此构建对照组。该机制的设计目标是防止用户被大量有害内容淹没,但TikTok希望验证保留该功能是否会削减用户参与度,于是启动了这场实验。

16岁的蔡斯·纳斯卡正是对照组用户之一。在他的算法安全防护被关闭后,系统向其持续推送涉及悲伤、自杀和孤独主题的视频,这种状态一直持续到他离世。参议员认为,该案例凸显了平台在未成年人保护层面的严重失职。

两位议员要求TikTok就13项问题作出书面答复,包括列出所有知晓该实验的员工姓名,以及解释为何允许未成年人进入对照实验组。他们还要求TikTok提供一份在美国境内进行的所有同类实验清单——即那些关闭或延迟安全功能的算法测试记录。

参议员给出的答复期限是9月1日。截至该报道发布时,TikTok尚未对质询公开作出回应。这起事件再次把社交媒体平台的两难处境推向台前:既要优化产品体验,又必须守住内容安全的底线。