管理我的频道

深入抖音海外版TikTok的算法黑暗面

劳伦·海明斯(Lauren Hemmings)刚开始使用抖音海外版TikTok时看到的推送信息与任何其它用户的都很相似。

家庭舞蹈短视频、疫情搞笑短片、蛋糕烘培等等。

与全世界近10亿的Tiktok用户一样,她下载这个应用程序的目的是为了娱乐。

“最初的想法很单纯,就是想找个乐子而已,”现年19岁的劳伦说。

然而,当她滚动浏览一条条视频时,劳伦发现抖音海外版Tiktok推送的视频内容变得愈加黑暗。

Tiktok可能改变她的生活方向,扭曲她对世界和自己的看法。

TikTok已经改变了互联网,成为当下的一种文化现象。

该应用程序的强大算法在全世界前所未有。

由澳大利亚广播公司(ABC)Triple j电台的《Hack》节目和《四角方圆》(Four Corners)联合开展的一项调查发现,TikTok的算法让澳大利亚人接触到一些危险的内容,同时控制哪些人和政治运动抗可以得到用户的关注。

TikTok宣称其使命是“激发创造力,带来欢乐”。但TikTok带来的风险是有可能扭曲一代人中相当一部分用户看待世界的方式,而这种对世界观的影响并非总是向好的。

在TikTok上观看视频时,不需要挑选——视频会源源不断地推送给你。

每个用户的视频推送都是独一无二的,并会标有“为您推荐”(For You)。

用户所看到的视频都是经由算法(一套计算机指令)计算挑选过的,从理论上说,这些算法能找出你想要的视频,并向你推送更多类似的视频。

用户一注册,TikTok就开始收集有关用户的位置、性别和年龄的数据,以及更具争议性的用户面部数据信息。

如果用户给视频“点赞",关注账户,或全程观看TikTok视频的次数越多,算法就越能了解到用户的兴趣。

昆士兰科技大学研究员邦迪·凯(Bondy Kaye)博士说:“真正让TikTok与众不同的是…... 这个‘为您推荐’页面。该推送系统似乎能够做到非常及时,非常准确。”

“跳出这种循环是非常困难的,其原本的设计就是让你不停地看下去。”

越是向下滚动,看到的广告就越多。而这一点正是TikTok中国母公司字节跳动价值超过2500亿澳元的原因所在。

劳伦·海明斯下载TikTok时,TikTok的算法向她推送了一位健身网红的视频。这位网红的体形与劳伦相似,曾一度控制食物摄入量,大幅减掉了体重。

“当我[关注]她时,很多相同的页面不断出现,”劳伦说。

“我从来没有真正对我的身体有那么多负面的想法,直到听到有人说,‘我讨厌这个身体。我每天晚上都会因为这种体型而哭泣。’”

“我不再看有趣的舞蹈视频或其他任何东西,只是像这样完全专注于健身和健康生活方式的目标。”

TikTok的算法将劳伦推向了一个极端,拼命地关注一天吃了多少卡路里,研究人员警告说,这种做法会导致进食障碍。

“我一天里都吃什么”主题标签在TikTok上有超过70亿的浏览量。

该标签下充斥着人们详细说明吃了多少卡路里的视频,其中往往穿插着他们纤瘦体型的镜头。

“这变成了一种上瘾,”劳伦说。

“我觉得如果不知道食物含多少卡路里,或者吃了会超过我全天的卡路里摄入目标,那我就不能吃……有几个月,我都是先称量好食物,然后才会吃。

“在使用TikTok之前,我从来都没计算过卡路里。”

使用TikTok四个月后,劳伦被诊断出患上了进食障碍。

研究人员说,有许多因素可导致进食障碍,但社交媒体已日益成为问题的焦点。

“我想,如果我没下载TikTok的话,就不会得进食障碍… Tiktok的这种算法就是要找出具有某种弱点的人群,然后利用这种弱点,”劳伦说。

斯威本大学(Swinburne University)的Suku Sukunesan博士就如何提升应用程序安全性向TikTok提供建议。

他将自己置身于Tiktok进食障碍社区之中。

“我立即得到了所有这些涉及进食障碍的内容。几小时后,TikTok建议我关注30个不同的账户,他们都是有进食障碍的人,”他说。

Sukunesan博士说,这些TikTok有效地教会人们如何患上进食障碍,而且这种算法还可能将他们引向更严重的视频,比如那些提倡自我伤害的视频。

“这几乎就像一个无底的深渊,这些孩子最终会进一步伤害自己,”他说。

克莱尔·本斯泰德(Claire Benstead)对使用TikTok犹豫不决。她听说TikTok不适合有进食障碍的人。

现年22岁的克莱尔五年多以来多次住院接受治疗。她正在康复过程中,下载了TikTok应用。

她很快就开始观看相关视频,这让她的进食障碍变得更严重。

“我根本没有康复,病情复发倒是发展很快,”她说。

“随着病情加重,我变得更加痴迷,我所能做的就是翻开手机,看看这段录像。我在上面一看就是几个小时,根本停不下来。”

克莱尔的心理医生建议她通过举报宣传进食障碍的视频来清理这些有害的推送。

TikTok的公司政策称,TikTok禁止“描绘、宣传、淡化或美化可能导致自杀、自残或进食障碍活动的内容”。

但克莱尔曾试图举报宣传进食障碍的视频,但被告知这些视频没有违反TikTok的任何准则。

“这似乎是徒劳的。进食障碍是所有疾病中死亡率最高的一种,而你们却在提倡这些行为,使情况变得更糟,”克莱尔说。

TikTok处理这个问题的对策是禁止宣传进食障碍的主题标签,这样用户就无法搜索到这些视频。如果有人搜索,TikTok就会弹出进食障碍支持服务机构蝴蝶基金会(Butterfly Foundation)的号码。

进食障碍患者以及研究人员均表示,虽然这是一种积极的措施,但并不会阻止用户观看到这些视频,特别是当人们可以轻易地绕过标签搜索禁令。

“我们的团队与非政府组织和其他合作伙伴协商,不断更新关键词干预清单,”TikTok的一位女发言人说。

另一位TikTok用户对《Hack》和《四角方圆》栏目说,当她看到一名男子自杀的视频被疯传并进行了举报后,得到的回应则是该视频没有违反TikTok的平台规范。

该视频源自于Facebook,但被分享到所有主要的社交媒体平台。

TikTok是最后一个将该视频下架的平台,此前该视频在TikTok上已被疯狂转发。

Sukunesan博士说:“作为一名研究人员,作为一名家长,知道这种内容没有违反的平台规范,这让人非常不安。”

据几位研究人员称,在TikTok上找到有害的内容只需不到30秒的时间,而该算法在几个小时内就能用冒犯性的视频占满用户的推送页面。

科技倡权组织Reset Australia进行了一系列实验,发现这种算法需要大约4个小时就能得知一名13岁的孩子对种族主义内容感兴趣,需要大约7个小时就能用性别歧视视频占满用户的推送页面。

用户观看这类内容的时间越长,这类视频出现的频率就越高。

技术监管机构Reset Australia的Rys Farthing说,任何有害内容的影响都会累积增加。

“我无法想象,如果年轻人掉进了这种漩涡,不断获得这类推送,结果会是什么样子。这非常令人不安。”

一方面,TikTok面临着根除有害视频的压力,另一方面,也被指责使用这种算法以不道德的理由审查和压制帖子。

家住珀斯的TikTok网红尤尼斯·瓦尼(Unice Wani)通过表演极受欢迎的舞蹈,对口型演唱流行的嘻哈音乐,在一年多的时间里斩获近60万粉丝。

这位18岁的女孩利用TikTok平台提高人们对她所属社区面临各种问题的认识。

尤尼斯说:“我越是走红,基本上就越能向年轻一代展示,向更多有色人种女孩或其他人展示我对自己的身份认同很有自信。”

但尤尼斯注意到,她的视频经常被推送页面隐藏,也就是说,没有人看得到她的视频。这是TikTok用户所说的“影子禁令”,他们说这是算法偏见的反映。

“你往往会因为说出诸如种族主义之类的东西而遭到很多影子禁令…我猜他们更关注白人女孩的舞蹈和类似的东西。”

墨尔本大学人工智能研究员尼尔斯·伍特斯(Niels Wouters)博士说,虽然TikTok的推送都是自动完成的,这与任何其他算法并无差异,但算法是由人创造的。

“作为人类,我们都有偏见。因此,当我们创建一个算法时,绝对有可能在这些算法中嵌入我们自己的偏见。”

7月,一些黑人网红进行了一场无限期的罢工,拒绝编排TikTok所依赖的热门舞蹈,并指责TikTok利用了他们的创造力,却没有在算法中优先考虑他们。

“人们说,要在TikTok上获得浏览量,要让人们喜欢你,你得要有天赋。然而,当我们展示这些才能时,却没有人将其归功于我们,”尤尼斯说。

“无论我们如何努力,我们就是无法得到这些。”

2020年3月,TikTok公司政策文件遭泄露,其政策要求管理员压制被认为“丑陋、贫穷或残疾”的创作者的帖子。

这些文件称,包括“胖呼呼的或过肥”、“脸长得太丑……如皱纹太多……或面部畸形……以及有其他残疾”等人的视频应该移除。

“如果主角长得不好看,那么影片一定会比较不吸引人,不值得推荐给新用户,”这些文件称。

TikTok当时回应说,这些准则中的大部分已不再使用。但TikTok的一些身患残疾的视频创作者指责TikTok公司的做法仍未没变。

帕尼奥拉·努库努库(Paniora Nukunuku)就是其中一位创作者。

帕尼奥拉发布到TikToks的内容以悉尼街头为背景,是一段段关于残疾人生活、种族和政治的开诚布公又有喜剧效果的短剧。

他说:“我没有想到我所做的内容现在会有这么多的粉丝,听到年轻人说‘我从没想过我会看到像我这样的人’,很暖心。”

在公司政策文件被泄露出来一周后,帕尼奥拉发布了一段视频,讲述一个陌生人告诉他不应该有残疾证。

“这段视频被撤下了......我不知道为什么,”他说。

帕尼奥拉提出上诉,视频又被放了回去,但他的其他一些有关他残疾的视频也被删除了。

“我知道,我的内容为许多像我一样的人提供了价值,他们像我一样长相,他们像我一样生活,他们像我一样有着棕色的肤色。如果他们在社交媒体平台上没有任何代表,那么和他们建立联系就真的很难了。”

像邦迪·凯这样的专家说,TikTok需要解决这些问题。TikTok

“如果TikTok不着手投入必要的资源来面对其中的一些批评,则将酿成更大的问题,很可能会导致黑人、原住民、有色人种永远离开这个应用程序,”凯博士说。

在一份声明中,TikTok说 “支持多样性”,并否认对“我们平台上的任何创作者或社群”的歧视。

这并不是帕尼奥拉唯一一次感受到TikTok的力量。

他发布的一段关于“黑人的命也是命”事件的视频使他的账号被禁了一个星期,而他在一个支持巴勒斯坦人的集会上拍摄的另一段视频在发布几小时后就被删除了。

“我很生气。我当时想,为什么?这些视频中没有任何东西可以证明被删除是合理的,真的没有,” 帕尼奥拉说。

“绝对感觉TikTok对什么内容应该在平台上发布有一些偏好......这真的会令人沮丧。”

去年,TikTok对压制带有“黑人的命也是命”和“乔治·弗洛伊德”话题标签的帖子表示道歉,此前数以千计的创作者在平台上抗议他们的视频被压制或账号被禁止。

该公司表示,算法中的一个小故障导致了这一问题,但少数创作者表示,正在浮现某种模式。

其他几个发布亲巴勒斯坦内容的创作者也有类似经历。

澳大利亚战略政策研究所(ASPI)对TikTok的审查制度进行了首次学术调查,结果发现该公司积极利用其算法来隐藏其认为有争议的政治言论。

这项由美国国务院资助的研究发现,受到压制的视频标签包括大规模拘留维吾尔人、香港抗议活动、LGBTQI性小众群体和反俄罗斯政府的短视频内容。

澳大利亚战略政策研究所的弗格斯·莱恩(Fergus Ryan)说:“我们看到了在中国进行内容审核的证据,以及这种思维方式在中国以外的TikTok仍然适用。”

他说,TikTok正在苦苦挣扎于自己的身份。

“随着它在世界各地的扩张,特别是在它受到很多监督之后,该公司已经试图尽可能地将TikTok这个公司与它在中国的根源脱钩。但最终,这些联系是无法完全切断的。”

在一份声明中,TikTok否认该公司涉及审查制度。

“我们不会根据政治敏感性来调节或删除内容。我们从来没有应中国政府的要求删除内容,也没有人要求我们这样做。”

随着TikTok扩大其在澳大利亚的业务,巩固其在当地的地位,以扩大其用户群,专家和该应用程序的用户正在敦促该公司正视对其的批评。

奈尔斯·伍特斯(Niels Wouters)担心它扭曲了人们看待世界的方式。

“我们确实面临着这样的风险:一代代年轻人......已经形成了对技术平台规定为正常或新常态的东西的身份认同。”

对劳伦来说,保留这个应用程序并不值得牺牲她的心理健康。

她说:“我最终在几个月后戒了TikTok,但即使这样,它仍然给我留下了饮食失调......我花了非常非常长的时间来解决这个问题。”

“TikTok并不是到这儿来帮助人们的。如果他们要靠什么赚钱,那么他们就会靠这个赚钱。我想他们也许需要意识到这对人们的影响。”

**撰稿:** Avani Dias, Jeanavive McGregor 和 Lauren Day

**制作与设计:** Nick Wiggins

**摄影:** Mathew Marsic

**视频:** Nick Wiggins 和 Harriet Tatham

**声明:本文版权归澳大利亚广播公司(ABC)所有。转载请务必注明出处为“澳大利亚广播公司ABC中文”,并附上原文链接。任何侵犯ABC版权的行为都可能被追究法律责任。**

澳大利亚广播公司(Australian Broadcasting Corporation,ABC)是澳大利亚全国公共广播机构,独立于政府、政治团体,商业或其他行业机构,不涉及任何利益关系,编辑自主,提供客观和公正的新闻报道。ABC中文遵循ABC编辑方针,以澳大利亚视角,报道国内外重大新闻事件、深度分析时事要闻、多方展现观点碰撞。

**欢迎在社交媒体上关注ABC中文:**

**联系我们:**
原文连结明镜声明DMCA 政策

相关新闻

猜你喜欢

六度新闻