负能量内容引青少年入歧途，社交媒体该如何负责？

来源：bbc.com等

编译：Lena（实习生）

编辑：罗布君

图片：网络

按：近期，英国媒体报道了“14岁女孩受Instagram上自残图片影响后自杀”的新闻，使社交媒体平台的社会责任再次成为了公众讨论的焦点。

在这起案件中，来自伦敦北部哈罗区的一名14岁女孩，在没有任何已知精神疾病的情况下，被发现在家中卧室里自杀。父亲在她的ins帐号上发现，她关注的一个账户上有一张照片，照片上一个被蒙住眼睛的女孩抱着一只泰迪熊，并配字:“这个世界太残酷了，我不想再看到了。”甚至在莫莉去世后一个月，Pinterest还给她发过一封根据算法推荐的自残内容的电子邮件。

这些发现虽然不是直接证据，但或多或少说明了莫莉轻生的一些动机。父亲认为，社交媒体公司应该为女儿的死承担责任，这一观点引起了社会各方人士的大讨论。让我们和传媒研究（xjbcmyj）一起看看媒体、官方、心理学家和科技公司分别是如何看待这件事的。

“在我面前的屏幕上，一只手正在从一条布满伤口的大腿上挤压着血液，伤口在压力下慢慢打开，无名指的指尖将血液挥洒在她的皮肤上。

然而这只是众多诡异图片中的一个。点开另一个标签，几十个手腕被割破的，脖子被割伤的图片，甚至有一名女孩嘴里含着刀片，满身是血的场景。

每当我登录时,它们都会给我推荐新的相关图片。即便退出登录，它们还是会持续不断地给我发电子邮件，提醒我又有新的图片可以看了……“

——《每日邮报》记者

近期，英国儿童事务专员(children 's commissioner)安妮•朗菲尔德(Anne Longfield)公开批评Facebook和Snapchat等社交媒体公司对其平台上的内容控制不当，并声称近期的青少年自杀事件应该成为对于它们运营方式的“反思时刻”。

在一封致众多大型媒体平台的公开信中，朗菲尔德表示，14岁女孩莫莉•拉塞尔的自杀事件在警示着我们，孩子们可以通过社交平台很轻易地接触到“可怕”的内容，并导致无法挽回的后果。

在自杀前，莫莉没有精神问题，看起来与常人无异

朗菲尔德对这些公司说:“最近发生了一些惨剧，年轻人们大量接触那些发布有关自杀和自残等令人深感不安的网站，并且他们最终选择了自杀。这应该是一个值得反思的时刻。我呼吁你们接受存在的问题，并致力于解决它们——或者公开承认你们做不到。”

“对用户体验的潜在干扰，不应再成为逃避保护青少年安全的借口。”朗菲尔德重申，她呼吁设立一个独立的“数字监察员”，以确保这些公司为保护年轻人的身心健康做出了必要措施。

官方怎么说

卫生部长马特·汉考克表示，他对莫莉的死亡感到“震惊”，并“非常迫切地希望年轻人受到在网络平台上受到保护”。在BBC的节目中，他还呼吁社交媒体网站“清除”宣扬自残和自杀的内容。

当被问及是否可以禁止社交媒体时，汉考克表示:“到最终一步的话，议会可能会有这种制裁。”但他补充道:“但我并不想走到那一步。”

英国文化大臣杰里米•赖特(Jeremy Wright)告诉议员们，政府正“非常仔细地考虑”要求对社交媒体公司实施法律上的注意义务的呼吁。

他表示，社交媒体公司进行了一些改变，但这还不够，并补充称，“那些认为众议院或政府可以袖手旁观，而让社交媒体自己改进的想法是错误的”。

工党副领袖、文化发言人汤姆•沃森指责Facebook更注重“从孩子身上获利”，而不是保护他们。

总体来说，政客们的指责主要是呼吁社交媒体平台承担责任，并希望诉诸法律的途径来制裁缺乏责任感的企业。

心理学家怎么说

事实上，外媒在报道中大量使用的一个词汇“自杀式影片”隐含的指向就是一些年轻人通过观看这些血腥图片和视频，得到心理上的满足和痛苦的释放。

根据青少年自杀预防慈善机构Papyrus的负责人格德•弗林(Ged Flynn)所说，这种心理状态是“当年轻人有轻生的念头时，他们通常会寻求和他们有同样经历的人的认可，而网上这些图片和视频，会加剧他们的自杀倾向。”

虽然Facebook声称这些自残的图片让那些脆弱的群体受到了关注，也得到了帮助，但同时也使“自残”在社交媒体平台上被普遍化了，甚至有美化自残行为的倾向。

放任这种内容存在，使之成为了社交媒体平台上见惯不惯的一种现象时，对于自杀自残行为已经是一种变相的鼓励。

可以想象，如果年轻人长期接触这些负能量的图片，并且平台对此不加管束，那么同样的事情也可能会发生在其他一些带有的极端倾向的人身上，比如过度减肥、暴饮暴食、种族主义。

媒体怎么说

BBC记者安格斯·克劳福德（Angus Crawford）认为，问题的核心在于媒体平台的算法(algorithm)，是那些被写成代码的复杂指令。

它们是社交媒体机制的基础，分析你在一个平台上做的每一件事，并向你推荐更多你喜欢的内容，以及推销你可能需要，但没有意识到的信息。

兴趣转化为点击，点击转化为参与，最后一步则是不停地收集收据，然后“销售”——这就是媒体平台的商业模式。

问题就出在这里，如果你只是喜欢小狗照片这种无害的东西，那么你可以随意地获取。但如果你搜索的是自残和自杀相关的内容，它或许会把你推进更加万劫不复的深渊。

你要知道，Instagram上有大约10亿用户，其中大多数还是青少年，他们挑剔且缺乏耐心，讨厌任何阻碍他们“享受”的东西。一旦惹恼你的用户，他们就很有可能永远抛弃这个平台。

如何在不赶走你的用户的前提下，有效地解决这个问题，是平台需要考虑的问题。他们的做法是，并不在准入门槛上下手——任何有手机和电子邮件的人都可以注册账户，甚至可以完全匿名。相反，他们所做的改变是，限制相关的标签，不再推荐与“自残”有关的账户。

但是，科技公司来说面对着一个两难的选择：如果通过改进算法来保护用户的人身安全，可能会破坏原有的商业模式，那你会作何选择？

科技公司怎么说

旗下同时拥有Instagram和WhatsApp的Facebook公司发言人表示:“我们有巨大的责任确保年轻人在使用我们的平台时是安全的，与政府、儿童事务专员和其他公司合作是确保我们做到这一点的唯一途径。”

同时，他还表示：“我们与莫莉的家人站在同一立场，我们正在对内部的政策、执行和技术进行全面审查，并进一步咨询精心理学家和精神学专家，了解我们还能做些什么。”

Instagram也做出回应，宣布将加大青少年搜索自残、自杀相关内容的难度，这样一来，对某些违禁词汇的搜索就会变为空白。

在搜索违禁标签后，相关帖子会被隐藏

它还将停止推荐发布自杀自残信息的账户，并在相关的图片前引入一个“敏感内容”提示，这样，如果用户不点击“查看更多内容”，这些图文就会被模糊化。

不过，尽管他们所做出的努力值得肯定，但态度却非常空洞。

为什么他们现在才采取行动？为什么不直接把自残和自杀相关帖子全部删除呢？青少年仍然可以接触到这些血淋淋的图片，然后被好奇心驱使着，点击帖子底部的标签，一步步堕入黑暗的深渊。

我们无法称之为“意外”，因为它是早就可以被预料到的。多家媒体（包括BBC）多年来一直持续在报道互联网上类似于自残行为等阴暗、负能量内容的问题。如果科技公司真的重视过这一点，又何至于以一名女学生的死亡作为代价来做出改变呢？

如果说这种程度就算是科技公司口中“不惜一切代价”的话，那么他们的态度的确是需要被质疑的。