平台时代，如何做好内容安全与治理

互联网发展进入平台时代。百度搜索、微信、微博、今日头条、快手、抖音等“信息中介”平台，通过“作为配置性资源的内容”实现检索、生产、分发与传播，借此深入个体的微观实践与社会的宏观发展过程之中。建立在技术可供性基础上的平台内容，出现了热搜榜单、搜索链接、推荐列表等更多元的内容表现形式，平台借助这些内容，开展内容服务、用户服务、广告运营，以实现平台的效益和价值。

一定程度上，平台内容具备提供内容的信息属性、创造商业价值的经济属性以及影响公众的社会属性，统称为“平台内容的社会经济属性”。这一属性支撑着平台运作的不同逻辑。本文从平台经济和平台社会的双重视角出发，采用案例研究的方法，研究平台内容的社会经济属性，以审视平台对内容进行资源配置的作用过程及逻辑机制，为理解平台的运行和内容安全风险的产生提供一个内敛的切口。

本文来自微信公众号：全球传媒学刊（ID：GJMS2014），原文刊载于《全球传媒学刊》2021年第4期，作者：张虹（中国电子技术标准化研究院，工程师，博士），原文标题：《张虹 | 论平台内容的社会经济属性及逻辑机制》，头图来自：视觉中国

全球范围内，平台化正在成为互联网发展的具象形态。平台经济研究学者埃文斯、施马兰奇（2018）认为世界上许多大公司，包括阿里巴巴、苹果、脸书、谷歌、微软、新闻集团、日本乐天株式会社、腾讯等，都是“中间人”。这些公司将一个群体中的成员与另一个群体中的成员连接起来，以“匹配者”的角色在生产与生活中发挥巨大作用。

在各类平台中，信息内容平台的发展尤为迅速、深入。伴随移动互联网和智能手机的逐步普及，此类平台以数量级的用户、强大的技术革新能力，不断深入用户的现实生活。线上线下双空间的高度叠加，使得社会宏观场域、平台中观场域与受众社群场域统一形成了一个“虚拟—现实”共时存在的社会形态，成为大到国家、小到群体个人的“日常状态”和“场域实践”。

一定程度上，不同的平台正以不同的内容生产、分发、传播、消费的逻辑模式对生产、生活、生态产生全方位的影响，突破了行业、技术、时空的限制，将技术逻辑嵌套到内容的生产与再生产过程，甚至面临着技术、程序、算法带来的“再中心化”的风险（Gilder，2018）。

借助平台技术可供性的基础，搜索列表、热搜榜单等新形式的内容成为平台的配置性资源，这些资源在平台运作的逻辑闭环中，具备了社会经济属性。本文从平台经济和平台社会的双重视角出发，采用案例研究的方法，研究平台内容的社会经济属性，以审视平台对内容进行资源配置的作用过程及逻辑机制，为理解平台的运行提供一个内敛的切口。

一、从“信息中介”到信息内容平台

经由互联网技术的赋能，一个个存在于手机等智能终端的“小应用”，代表着一个个拥有巨大权力、广泛影响力和经济实力的“大平台”。戴维·S.埃文斯在2003年指出，平台是市场制造者、受众制造者、需求协调者（Evans，2003）。在《触媒密码》中，他继而将平台类比为促成化学反应的“触媒”（埃文斯、施马兰西，2011）。

2016年《连接：多边平台经济学》问世，埃文斯将阿里巴巴、苹果、脸书等称为“匹配者”（matchmakers，埃文斯、施马兰奇，2018）。帕克等（2017）在《平台革命：改变世界的商业模式》中指出，互联网推动了传统管道模式向平台模式转变。国内研究者也从市场、管理、商业的角度，认为互联网不是去中介化，而是重构价值链的全新高效的中介者。

从根源上，平台来自这样一个现实：信息的中介机制。信息（information）和中介（intermediary）合成了信息中介的内在含义。在移动互联网时代，平台逐渐成为这种中介化机制的主流代表，它通过庞大的用户数量和雄厚的技术基础沟通起了供给和需求的两端，并借助社交关系、算法推荐等多种机制促进平台影响力的正向循环。

百度搜索引擎、微博微信等社交媒体、今日头条等信息资讯聚合平台、快手抖音等短视频平台，都是“信息中介”的表现形式，我们将之称为“信息内容平台”。对于此类平台而言，它们从事以信息内容为基础性资源的生产活动：一方面为用户检索、生产、分享内容提供渠道，以此吸引更多的用户资源，支撑平台开展广告等运营活动；另一方面平台也借助智能算法和大数据技术，不断积累更为核心的技术和数据资产，进而服务于信息内容的生产与再生产过程，拓展平台盈利的路径。

二、平台内容的社会经济属性及配置性作用

伴随平台技术的发展，建立在可供性基础上的平台内容呈现了新的形式，这构成了平台内容社会经济属性的技术基础。在此基础上，平台进而具备了提供内容的信息属性、创造商业价值的经济属性以及影响公众的社会属性。其中平台内容的经济属性是支撑平台进行资源配置、联动多元主体的最重要的属性。这些属性使得平台内容的检索、生产、分发与传播得以开展，进而使得平台得以参与对社会经济的影响过程。

（一）平台内容社会经济属性的技术基础

内容具备工具意义，它包含各种技术形态，并作为一种数据资源可以被整理、组合和结构化。有学者指出，在人文社科的研究范畴内，内容包括书籍、杂志、网页、诗歌、报纸、歌曲、绘画、讲演、信件、电子邮件、网络上的布告、法律条文和宪章以及其他任何类似的成分和集合（巴比，2009，p.318），内容可以视为对各种结构化数据、非结构化文档、信息的聚合，它包括一些附加信息的数据单元，有公共的属性，可以被具有某种角色的用户添加和编辑，并通过各种方式发布。例如，人们在内容管理中，将属性相同的数据单元视为一种内容类型（content type）（夏晓忠等，2008）。

在平台互联网时代，内容表现出了新的形式。依托平台技术可供性，平台内容的技术形式深刻体现了内容产生、存储、传播的工具性特征：一方面包括传统形式的文字、视频、音频、图片、链接等内容；另一方面包括互联网平台中出现的新形式内容，如定向/原生广告、搜索推荐、热搜榜单、定向推送、跟帖评论等。

有学者提出，技术可供性的视角为理解平台技术、形态、结构的变化提供了新的角度（喻国明、赵睿，2019）。平台技术可供性包括生产、社交、移动三个方面（见表1），对于本文研究的代表性平台而言，这些可供性支撑了平台内容新形式的产生与发展。

举例而言，搜索引擎类信息内容平台是依托用户需求和排序算法，经过爬虫和抓取、数据库处理、排名，实现搜索内容的多样化（全文搜索引擎、元搜索引擎、垂直搜索引擎和目录搜索）来满足用户的需求（龙佳，2019）。技术可供性不体现这些背后复杂的算法和过程（如搜索器策略、检索策略、搜索结果处理、信息检索Agent、多媒体搜索引擎等关键技术）（印鉴等，2005），而是通过十分便利、可操作、易获取的功能模块，帮助用户随时随地检索其需要的内容。

对于社交媒体平台，社交性是它的核心，最早的概念提出者安东尼·梅菲尔德（Mayfield，2008）将社交媒体定义为给予用户极大参与空间的新兴在线媒体，这种技术为用户撰写、分享、评价、讨论、交流提供了空间，是一种分享观点、意见、经验、内容的工具和平台。

资讯聚合类平台通过内容聚合和算法分发，提供了不同于搜索引擎单纯链接的新形式，被视为一种深层链接技术，但其本质也是内容提供行为（吴永祺、万小丽，2016）。信息内容聚合类媒体由于更为可视化、精准化、移动化的可供性设计，以及基于情景、关系、粒度的聚合，拓展出情景聚合、语义聚合、引用聚合、社会网络聚合和粒度聚合五种主要模式（曹树金、马翠嫦，2016），它正在深刻改变新闻生产常规与整个传媒生态（陈昌凤、王宇琦，2017）。

移动短视频平台的内容生产可供性和移动可供性成为平台主要的技术功能。相比图文时代，视频转向的发生是对移动互联网时代信息内容消费的一种反映。“全民直播”“短视频社交”“VR视频”等不同的形式，实现了两方面的功能：

一方面，短视频的快速传播、低门槛使得不同层级的网民参与内容生产成为可能，并逐渐成为短视频生产的主导力量；另一方面，短视频营造了场景适应、情感唤起、生活化表达等形式（彭兰，2019）。这两者构成了短视频平台内容的技术底色。

（二）平台内容的社会经济属性

建立在技术可供性基础上的内容，其社会经济意义更值得关注。在传播学的范围内，内容与信息关系密切。信息是一种生产资料，它在信息社会里具有生产力意义，而技术只具备工具意义（熊澄宇，2002）。

内容所强调的是生产资料的“意义形态”，本身带有符号、意义、观点等社会价值的维度；传播政治经济学将内容视为一种传播过程中的商品（莫斯可，2013，p.170），这个意义上的内容具有商品属性。

麦奎尔从信息与意义的角度，阐释了对媒介内容的理解，认为内容包括作为信息的内容、作为隐含意义的内容及作为符号的内容，内容或多或少直接反映了信息制造者的目的和价值观（麦奎尔，2010，pp.277-279）。从这个角度来看，平台内容具备社会经济属性，具有复合性，包含三个方面（见图1）。

第一，提供内容的信息属性，这是最为基础的功能属性。信息属性指向了平台内容丰富多元的技术表现形式，这些分布在不同栏目，或经由不同主体生产，或发挥娱乐、讯息、社交等不同功用的内容，是平台开展组织运营的基础材料。

第二，创造商业价值的经济属性，这是平台最为核心重要的功能属性。平台的组织机构属性围绕其追求的核心利益和价值展开，这其中最为重要的是对商业利润的追逐。作为互联网企业，通过“商品化”实现盈利是平台主要的商业模式。在传播政治经济学视角下，商品化构成了理解媒介市场化过程及其背后机构利益的核心，而内容的商品化是理解商品化的核心。

莫斯可（2013）指出，当政治经济学开始分析商品时，它倾向于关注作为商品的媒介内容。在平台时代，内容生产的劳动过程移交到“信息产销者”平台用户身上，他们通过自媒体的生产与日常的信息消费，贡献着平台可供展示、分发的信息资源，也贡献着平台进行二次售卖的巨大流量。

因此，平台的内容资源具有经济属性，它勾连起了平台自身联动的多元主体，使这些主体被吸纳到平台资本的市场过程和逻辑之中。近年来，发生在各类平台的恶意营销、敲诈勒索、虚假广告、版权侵犯、虚假流量等现象，均与这一属性有关。

第三，影响公众的社会属性，这是最为潜在广泛的功能属性。内容并非中立，这涉及信息价值观的问题。近年来信息技术的推陈出新，尤其是大数据和算法技术的发展，使得信息是否带有价值观成为学者关注的问题。网民借助互联网平台进行内容的检索、生产和传播，在内容生产与再生产的过程中，网民的行为不仅带有个体对信息的偏好、看法、态度、认知，也体现着个体背后的组织机构、群体社团、社会文化、国家民族等多方面的关系层次和价值影响。

总结而言，植根于互联网语境中的平台内容，基于平台技术可供性发展出来的新形式内容，构成了平台重要的资源，并在内容的检索、生产、分发和传播过程中具备了更为中观和宏观的社会经济属性。

（三）平台内容在资源和主体层面的配置性作用

在资源层面，信息中介的平台上的信息、内容、服务、产品等，经由技术、数据和算法形成信息流动和流通的传播场域。在这一场域中形成了以“内容—渠道—数据—算法”为表征的运作过程。

首先，平台通过自我生产、用户生产、机构生产等多种方式所聚集的内容具有基础性作用；其次，传播技术作为平台执行的渠道，为信息的输出和价值转化（尤其是广告价值）提供通路；第三，数据作为洞察信息供需关系的核心，成为一种无形资产，帮助信息中介平台作出信息检索、分发、推荐的决策；最后，智能算法也越来越多地融入整个信息中介的生产流程之中，优化信息的各个环节和流程。

在主体层面，伴随信息中介的平台化，复杂的流程、多元的主体被囊括到平台搭建的虚拟社会之中，用户、组织、团体利用不同的平台参与生活和生产活动。平台由于对于现实生活的渗透逐渐升级，开始逐渐拥有了巨大的经济和社会权力：一方面，庞大的信息中介通过强大的功能和庞大的用户群，不断匹配双边或多边市场，它们广泛扮演着更多元的结构性角色，包括市场制造者、受众制造者、需求协调者，发挥着“匹配者”的信息中介功能（Evans，2003；埃文斯、施马兰西，2011；埃文斯、施马兰奇，2018）。

一定意义上，平台解构和重构着人们对信息本体论和认识论的感知，它们更新了信息本身，带来了更为丰富的信息内容，同时也改变着用户的信息行为，使得信息内容的生产与再生产都被纳入平台信息中介机制之中。

如图2所示，不同信息内容平台上的海量内容，为平台提供了可供更广泛用户消费的内容原材料，平台依托内容资源的检索、分发、传播构建用户媒介消费的内容空间，不断拓展用户的规模和范围，增加用户流量，吸引广告商和平台投资商，以实现内容本身和用户劳动的商品化转化，获得市场利益，增加平台影响力。因此，可以将内容看成助力平台“开展组织运营—联动多元主体—追求效益价值”等功能实现的基础性资源。

“平台”一词，经历了从物理实体层面到电子化虚拟层面，再到经济社会抽象层面的概念变迁（谷虹，2012，pp.19-20）。从现实来看，平台正在不断通过其强大的技术渗透力发挥对经济社会的影响力。诚如荷兰学者Van Dijck（2013/2018）等人指出，平台凭借中介化的思维，重构了价值链条，形成了生产者—平台—消费者的格局。

平台是一种基于技术的基础设施，也是基于内容进行价值交换的中介，这构成了平台得以运作、壮大的核心，它扮演着资源的重新组织者、供需两端的连接和匹配者以及信息交往机制的重新设计者。可以说，平台通过对内容的配置发挥了平台运行、多主体联动等更为中宏观的社会经济影响。

三、平台社会经济属性背后的深层逻辑机制

基于内容的资源配置过程是平台发挥社会经济属性功能的过程，这个过程背后暗含了此类信息内容平台的逻辑机制。本文将结合不同平台的案例，分析不同逻辑机制带来的风险问题（见表2）。

（一）内容检索的排序逻辑

搜索引擎平台是一个巨大的内容收集库，它与传统媒体和其他互联网媒体、平台的差别在于，它本身不生产内容，它的内容发生在“从用户搜索行为到搜索结果排序”这样的过程之中。搜索引擎平台的工作原理基于以下四个系统：

第一是下载系统，通过网络爬虫实现信息的收集与存储；第二是分析系统，通过信息抽取、网页去重、分词处理和网页排名（page rank）进行网页内容的预处理；第三是索引系统，通过建立对象数据及其存储位置的列表实现对数据的组织；第四是查询系统，响应用户的查询搜索请求，按照检索、排序、摘要提取的方式，将结果排序以内容列表的形式呈现给用户（罗教讲、刘存地，2019）。

搜索引擎提供内容服务的方式经历了复杂的计算机技术过程，这些过程除以内容列表显示的搜索结果之外，用户均不可见。从社会经济属性上，搜索引擎借助内容搜索请求和作为内容的搜索结果，与用户、广告商以及宏观的互联网大环境发生关联，在此过程中对内容的排序逻辑成为搜索引擎的主导逻辑。在这样的逻辑属性下，搜索引擎平台的竞价排名广告有可能造成对用户的内容误导，进而为内容安全问题的产生埋下隐患。

平台通过将用户内容检索的关键词进行排序和明码竞价，实现了检索内容和用户双重商业化的价值转换。搜索引擎平台给不同种类的用户内容检索关键词注明价格，“贴上”广告竞标的“商品标签”，价格高者排名靠前，以此实现竞价决定排名的竞价排名广告模式。通过对关键词进行拍卖，不同的广告商可以根据不同的关键词竞标出价，同行业或相近门类的广告客户根据其出价的高低，先后显示在内容检索列表中。

此外，除了处于动态中的竞价排名广告，搜索引擎平台也提供固定排名位置的广告。基于预先约定好的协议，将广告商的广告链接呈现在用户内容检索结果列表的固定位置（敖静海等，2009）。由于可以依靠点击次数与单次价格精准衡量广告效果（郑德俊，2004），这种基于排序逻辑的竞价排名广告模式为广告客户提供了精准到达目标消费者的机会和平台，受到了广大中小企业的青睐，对于平台而言，关键词的竞价排名广告已经成为最主要的盈利来源（贾桂军等，2009），它打开了灵活、强势运营的广告市场，为平台的发展提供市场基础。

然而，事实的另一面是，竞价排名会对用户内容检索权造成侵害，尤其是当内容检索与现实权利相关时。搜索引擎平台从平台自身的商业化利益出发引入竞价排名，将商业利益置于用户利益之前，当用户发出一个内容检索请求时，排名靠前的内容几乎都被广告客户垄断，而真正相关的、有效的、高质量的内容则排列靠后。就此会引发三个层面的内容风险：

第一，由于用户的信息素养水平存在差异，使得一部分水平较低的用户无法甄别这些内容检索结果的质量高低和内容真伪，形成了对虚假、不良信息的“轻信”。

第二，搜索引擎平台声称自身是技术服务公司，出于其商业利益的目的，疏于对广告内容真实性和有效性的考量，在内容的把关上处于“刻意逃避内容审核和把关责任”的状态，导致虚假、不良的内容信息以“名列前茅”的方式侵占用户的注意力，甚至伤害用户的人身权利。

第三，对于广告客户等潜在搜索引擎的目标客户而言，由于他们了解了搜索引擎平台的竞价广告所依据的排序逻辑，因此可能会导致其利用非法的搜索引擎优化（search engine optimization，简称SEO②）来提升排名，实现非法盈利。例如，通过黑帽技术（black hat），以作弊的技术方法，获得短时间内的排名提升，既影响了互联网环境中的内容生产秩序，也对搜索引擎平台的正常技术算法形成干扰。

（二）内容生产的社交逻辑

从社交媒体的形态变迁和演进发展来看，“社交逻辑”是其核心的社会经济功能，主要指向了用户参与内容的生产与传播的过程。自2004年起，脸书、推特、微博、微信、维基百科、知乎等社交媒体逐渐崛起，激活了以个人为基本单位的社会传播构造，基于社交媒体的自我宣扬、自我组织和自我网络化影响了整个社会的行为模式（卡斯特，2007；喻国明等，2015）。

在中国以微信、微博为代表的社交媒体平台，基于平台技术可供性出现了新兴的内容形式，包括微博热搜榜、公众号推送内容、信息流广告内容以及基于社交媒体平台的涉商内容。这些新的内容形式为多元主体的内容生产、社交参与、传播扩散等提供了渠道，也为平台的商业化运作提供了新的可能性。

举例而言，作为中国社会舆论的一个重要平台，微博热搜成为观测舆论走向的一个可视化指标。热搜的出现也为恶意营销、资本博弈、舆论操纵等提供了可操作性的渠道。微博热搜榜是微博中流量最大、用户最集中的内容板块，推送的实时热点榜单每分钟更新一次，被新浪微博官方号称为“热点策源地和热点衡量标准”。

新浪官方数据显示，目前新浪微博榜单页单日曝光量达到2.5亿，榜单每日点击搜索量达到13.5亿，其中娱乐八卦（34%）、新闻资讯（27%）、新生事物（25%）、影视综艺（13%）是热搜榜主要的内容关注点。③除了作为一个舆情动态的呈现区块，微博榜单还扮演着广告营销的角色，被称为榜单广告。在微博热搜产品页显示，第三位次以“荐”标注了其广告属性；第五位次是隐形广告内容，微博的广告代理商（不限于榜单代理商）、新媒体市场营销公司、公关公司等都是其目标客户。

微博热搜榜的运作机制基于两大部分，第一是技术性的算法，第二是用户在微博上的内容搜索行为。具体方法是，针对微博平台内部内容流量最大的几个到几十个关键词，结合特定时段内用户检索、阅读、点赞、转发、评论、标签等关注最多的内容，进而推荐用户搜索量和关注度最高的内容，一般以热词、短语的形式表现。从内容的属性来看，微博热搜不仅是一个基于平台技术可供性的内容生产与呈现机制，也是一个有着特定组织机构商业价值观的输出平台。

如表3所示，公式背后显示了社交媒体平台背后内容与流量之间的关键因素。这个用来衡量内容热度的公式为内容生产的个人尤其是机构主体提供了“如何上热搜”的“门路”，只要通过对微博阅读量、点赞数、转发数、评论和话题提及数以及发布时间点的控制，就可以在技术的“灰色地带”实现人为操纵。尤其是，追逐商业利益的个体、团体、组织机构在资本力量与网红经济的驱动下，极可能出现非法或不合规的“刷榜”行为。

有研究者指出，在UGC为主的平台上广泛使用的热搜榜机制是排序机制（rank-order mechanism），主要是基于用户评级如跟帖评论数、点赞数等，然后平台进行排序，评级越高排名越靠前。但是这样的机制会带来一定问题，即受众的评论数不高，即使提升内容质量也无法显著改善排名次序（Ghosh & Hummel，2014）。于是，优质的内容不断被“流放”，劣币驱逐良币的规则使得片面追求评论、点赞、转发、阅读量的“刷榜”“买热搜”成为不法分子“趁虚而入”的手段。

热搜的产生不是自然随机的，而是由平台、受众以及掺杂其中的商业和资本力量共同驱动的“议程”，一定意义上它的存在发挥了海量网络内容的“媒介导引”功能，以内容价值排序的方式占据受众的注意力。

然而，在商业和资本力量的侵占下，一方面，普通网民在头部账号、大V、机构媒体面前丧失了设置议程的权利，只能被有着内容生产强势力量的意见领袖“带着走”；另一方面，由于商业资本的涉入，“上搜、降搜、撤搜、蹭搜”等行为时有发生，过度“娱乐化、私人化、商业化”的内容挤占了公众注意力的同时，也将公共议题边缘化，进而影响了网络舆论的良性发展。

社交逻辑主导的内容生产与传播催生了以社交逻辑为基础的商业牟利机制，如在微信社交媒体平台上，基于情绪、后真相的内容消费习惯让内容的真实性和公共性逐渐让位于被“商业主义”“新媒体技术主义”“流量主义”“脱离体制框架的自媒体英雄主义”（曹林，2019）操纵的“情感消费”“情绪渲染”“丧文化”“焦虑感”“犬儒与虚无”等不良价值观。在这样的过程中，以公共性为价值主导的工作、社会关系和社会认同不断被“去合法化”和边缘化（李艳红、陈鹏，2016）。

更为重要的是，以人际社交网络为基础的内容传播，快速发展形成社会舆情，侵占了公共性议题的议程设置权，“个体化的、情绪性的、煽动性的甚至虚假的”议程从“暗流”涌向“前台”，干扰了正常的社会舆论秩序，甚至引起网络群体事件和社会运动。

（三）内容分发的算法逻辑

算法加入内容的检索、分发与传播过程是平台时代的一个重要特征。在计算机程序从运算到求解的过程中，算法是一个重要的工具性装置，它在数据的入口与出口之间建立起了中介化的联系，也在数据、内容、信息的传输过程中拥有了权力。斯科特·拉什在2007年时就注意到算法的权力属性，他称之为“算法权力”（Lash，2007）。大卫·比尔认为算法权力通过应用软件进入人们的日常生活，并以代理中介的身份出现（Beer，2009）。

算法的权力在“优先级、分类、关联、过滤”的能力框架（Diakopoulos，2015）中实现，并通过在不同主体之间的“中介化”“传输”，影响人们的信息及行为决策。

在平台之上，算法可以看成一种中介性的内容分发手段，在内容分发与传播中构建了多元的主体关系，包括且不限于内容生产者、消费者、平台运营者乃至广阔的内容市场和整个互联网语境。也正是由于算法，平台得以在内容的分发与自身的运营中建构一种内部机制，并通过这种机制影响用户的内容认知及其信息行为实践。在这样的过程中，算法不仅是一个技术实体，也成为具有能动性的行动者，具有了能够型塑虚拟世界与现实世界的权力。

在众多算法机制中，基于算法分发的内容推送对用户的影响最为深刻。在传统媒体时代，内容的分发要经过人工的核查与审定才能进入正式的传播流程。而在算法时代，算法分发直接实现了从点到点的内容传输，这种直接作用于个体的能力，使得算法在影响社会和文化形态的同时，也变成了一种深入微观社群的权力算法逻辑，为用户在内容聚合平台上构建了一个经由算法过滤、处理、分发后的信息环境（Beer，2009）。

在这样的环境中，低俗内容、虚假内容、假新闻、导向不正等内容因未经审核而被算法分发嵌入用户个性化的信息消费之中，极易引发内容分发中的风险问题。

基于算法分发出现的定向推荐页面、链接、广告，都可以视为内容聚合平台的新兴内容。这些内容背后是一套算法建立的强势逻辑，它以用户的人口学数据、信息行为数据等为基础，力图在实现精准化内容分发的同时也为更精准的商业化营销奠定基础。而算法带来的内容安全风险也隐藏在这套逻辑的背后，主要有以下几方面：

第一，内容获取的窄化，削弱价值判断能力。算法分发掌握了信息过滤和内容把关的权力，其分发机制不断按照用户画像和内容消费兴趣推送相似内容，窄化了用户的内容获取范围，优质多元的内容被阻挡在算法机制之外。一些低俗内容、标题党、哗众取宠的内容垄断着所谓个性化的信息环境，真正有价值的深度阅读、公共议题无法进入用户个体内容环境中。在窄化的信息环境中，用户也无法对内容的质量好坏以及严肃的共同议题形成公正、客观的价值判断。

第二，误导社会舆论，带来意识形态安全问题。在算法分发不断蚕食公共议程设置的背后，是社会舆论被误导的风险；在个性化服务的外衣下，隐含的是被平台商业利益左右的价值导向。建立在用户画像、内容环境、热度监测基础上的算法，将用户包裹进算法架构的舆论环境之中，甚至引发群体极化的风险。

最为危险的是，对待算法逻辑下的内容安全问题，尤其是在道德、公共性、价值观等方面的潜在风险，原本的互联网中立性原则（net neutrality）已经无法助益我们理解身处的平台时代，这种声称以赋权个体内容生产与消费的“去中心化”背后，正在形成以技术资本、商业利益为核心的“技术权力中心化”的新型风险。

（四）内容传播的视听逻辑

短视频在世界范围内的流行，折射出互联网内容生产技术从图文时代迈向视频时代，有学者称之为“视频转向”（刘涛，2019）。短视频平台正借助庞大的用户群体深入社会的内部，推进着政治、经济、文化、社会、技术等各个层面演化新生态。

基于平台技术可供性，短视频使得“视频”这样一种内容表达机制，不再只是他人制造的影像世界，而是人们即时交流的“口语”（王晓红、任垚媞，2016）。伴随中国新世代（以“90后”“00后”为主）互联网网民的崛起，“视频转向”乃至短平快的“短视频转向”，成为平台市场对受众内容消费需求的一种回应。加速于移动互联网时代的短视频平台，在通过新的视觉逻辑重构内容的同时，也改变着人们认知外部世界的方式。

短视频平台通过新的视听语言、视频社交方式以及基于算法分发内容的形式，凝聚了新的社群“奇观”，也催生了新的产业业态。与此同时，由于更为直截、真实的视觉逻辑，短视频平台也带来了内容生产与传播的新问题。

在中国以抖音、快手为代表的短视频平台，以短视频内容为主要形式进行内容生产和传播。短视频视听统一的表意方式，使得内容的表达和传播能够更生动、真实地接近现实生活，因此吸引了网民个体、企业单位、组织团体等各类主体入驻短视频平台，以视频化的形式传播内容，同时也为营利性机构的广告运营提供了新的出路。

视觉化的内容、多元混杂的主体类别，使得短视频平台依托短视频生产、分发和传播的技术手段以及多元主体生产的多样内容，构建了一个新的生态。短视频既是一种拥有完整生态的互联网信息类型，也日渐成为全部互联网信息生产和流通的一种底层架构（常江，2019）。在这个以视听逻辑辅以社交逻辑、算法分发逻辑为主导的短视频生态中，直线型、感官刺激式的内容传播引发了内容安全问题的视觉化风险，快手低龄未婚妈妈在全网的飞速传播就折射了这样的风险问题。

视听化逻辑背后是平台基于技术可供性对内容生产者和消费者的深层刺激：一方面，通过关注页和算法推荐的方式，让各种内容的视频以视觉化、直播感的形式生产、传播；另一方面，平台集聚的“底层”特色构建了用户与用户之间强烈的社交意愿，社交浓度催生了同类内容的效仿式爆发。

就短视频内容本身而言，吸人眼球的三俗内容、色情暗示、侮辱性语言、暴力动作、涉及特殊群体的传播内容、宗教、死亡等禁忌性内容，只为追求猎奇刺激、感官娱乐，而罔顾个人权利和正确的价值观；就广告内容而言，由于缺乏监管和市场相关资质的认证，短视频信息流中混杂的视频类广告，甚至很多内容本身就在进行商品推销的活动引发的安全后果也不容忽视；就短视频使用而言，中国青少年短视频的过度使用已经成为一个严重的社会问题，不良内容潜移默化地影响着青少年的身心健康，对他们正在形成中的价值观也发生着无法忽略的潜在作用。

在短视频平台上，同质化、低质量的内容不断加强着使用者的“内容印象”，其形成的过滤气泡将用户固定在短视频内容生产、推荐、传播的机制之下，一些引人耳目、瞬时流量大的内容被大量、多次地推送到平台首页，以吸引流量，提升产品的关注度和平台流量，而真正优质的内容由于缺少直白的刺激被“逆淘汰”。

四、重思平台内容安全及治理的切口

研究代表性平台内容的社会经济属性及其背后的逻辑机制，可以为思考平台带来的安全风险及其治理提供一种可能性路径。

在安全方面，在宏观国际国内场域、国内政治经济文化社会场域、社交媒体构建的现实与虚拟场域中，以内容为形态的安全问题，或将衍射众多领域的安全风险问题。

内容安全风险不仅是一种客观存在的技术性安全问题，也是一个关乎价值认知和社会交往的主观性安全问题；不仅在实体技术层面潜藏风险的因子，也在话语层面渗透到更深的意识形态层次；不仅在平台的场域里发生，也经由平台的主导逻辑机制向微观的受众社群场域与宏观的政经社会场域衍生。

在不同类别平台建构的互联网空间中，风险变成了一种“拟态的威胁”，打破了虚拟与现实的界限，在线上与线下、群体与社会、国际与国内的多维叠加场域中频发、扩散，构成了人类追求技术进步与信息化发展进程中不可避免但必须重视的问题。

在治理方面，世界范围内对互联网平台尤其是大型跨国互联网平台的治理，成为互联网治理的显学。隐私保护、数据权属、商业垄断、内容审核等均成为研究者的关注重点。随着互联网平台的横向扩展和纵深发展，平台带来的问题日益复杂化、多元化、全球化，对平台的规制正在从“避风港”向“平台治理”转变，将出现越来越多的针对平台的立法。

综合而言，当平台扩张囊括更多的用户，当内容成为平台生产力的主要要素和配置性资源，当平台作为内容的生产与再生产的重要渠道，不断将现实生活“平台化”，思考如何从“内容安全风险”迈向良善的“内容治理”就成为平台治理必须面对的议题。

注  释

①本表由笔者根据现有文献整理，主要参考：景义新、沈静(2019)：新媒体可供性概念的引入与拓展，《当代传播》，第204卷第1期，98-101页。

②搜索引擎优化(SEO)指的是通过站内站外的优化方式提升网站搜索引擎排名的一种方法。站内SEO包括：网站结构的设计、网站代码优化和内部链接优化、网站内容的优化、网站用户体验优化等内容。站外SEO包括：网站外部链接优化、网站的链接建设、网站的外部数据分析等。一般而言，SEO的提升办法分为白帽技术、黑帽技术和灰帽技术。白帽指的是合法的优化方式，主要通过增加特定关键词的曝光率来提升网站的能见度；黑帽技术采用的非法作弊手段一般包括桥页、跳页、障眼法、无意义的灌水、网页劫持等方式；灰帽技术介于二者之间。

③数据来源：微博(2017年8月11日)：“微博热搜榜单”产品说明书，获取自：https：//www.weibo.com/ttarticle/p/show?id=2309404139519111759326。

④该公式由笔者根据现有资料整理，主要参考：魏洁宇(2019)：资本逻辑影响下微博热搜娱乐化现象分析——基于传播学的视角，《中国报业》，第469卷第12期，28-29页。

本文来自微信公众号：全球传媒学刊（ID：GJMS2014），原文刊载于《全球传媒学刊》2021年第4期，作者：张虹（中国电子技术标准化研究院，工程师，博士）