数码之家

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
查看: 83|回复: 0

[科技] Instagram在印度悄悄改了推荐算法!那些露骨暴力的内容终于要被拦住了

[复制链接]
发表于 昨天 22:14 | 显示全部楼层 |阅读模式
嗨,手机电脑屏幕前各位每天晚上躺在被窝里刷Reels刷到眼皮打架还不肯撒手的短视频重度依赖患者,在印度出差、常驻或者干脆就在班加罗尔和海德拉巴的软件园区里上班的中国出海人和跨境打工人,家里有正在上初中高中、每次看到孩子捧着手机就心里发毛、生怕他们刷到什么乱七八糟东西的家长群体,还有各位自己就在字节跳动、快手、Meta这些大厂做内容安全审核和算法推荐的互联网从业者,大家今天得把手头的事情稍微搁一搁,认认真真把这篇东西看完。

现在是2026年11月17号,星期二,就在今天,路透社发布了一条跟Instagram在印度市场的运营策略密切相关的重磅消息。Meta Platforms这家坐拥Facebook、Instagram和WhatsApp三大社交产品的硅谷巨头,在今天正式对外宣布了一件事:他们已经针对印度市场对Instagram的内容推荐系统做了一次精细化的专项调整。这次调整想要达成的目标说起来很简单,做起来却相当复杂——就是要大幅度压低那些带有性暗示色彩的露骨内容以及暴力血腥画面的曝光机会,让这些东西在用户的推荐流里面出现的频率降到一个尽可能低的水平。

为了做到这一点,Meta这次搬出了比以往任何时候都要更厉害的人工智能模型,这些新一代AI模型的识别精度和判断效率都有了明显提升,能够在那些不良内容真正抵达普通用户的眼睛之前,就提前一步把它们辨认出来并且挡在推荐系统的大门外面。你可以想象一下这样一个场景:以前是你刷着刷着突然蹦出一条让你眉头一皱的内容,你得手动点举报或者点不感兴趣,系统才知道哦原来你不喜欢这种东西;现在不一样了,系统在你还没看到那条内容之前,就已经根据内容本身的特征判断出它可能有问题,直接就把它拦在了你的信息流之外。



那么这次调整具体是怎么操作的呢?根据Meta公司在官方声明中给出的解释,这些专门针对印度市场量身定做的措施,主要作用的对象是那些来自于用户并未主动关注的账号所发布的内容。换句话说,当Instagram的推荐算法在决定要不要把某一条内容推送给一个它不认识、也没有关注过对方的用户时,这套新规则就会介入进来发挥作用。但这里有一个很容易被误解的地方需要特别说清楚:这绝对不是对某些内容搞一刀切式的全面封禁,不是说那些带有性暗示或者暴力元素的内容就从Instagram上彻底消失了。

假如一个用户主动跑到搜索框里去搜某个关键词,或者专门点进某一个账号的主页去翻看,那些内容大概率还是能看到的。Meta这回做的事情,本质上是在算法推荐的层面加装了一道过滤网,让那些容易让人看了不舒服的内容不那么容易被大范围扩散出去,而不是直接从服务器上把它们删得一干二净。Meta在官方声明中把这个界限划得非常清楚:这些调整影响的是Instagram的算法在推荐内容时的判断标准,而不是对内容本身实施全面禁令。这个区别非常关键,因为如果直接删除内容,那就涉及到言论自由的争议了,而只是在推荐环节做过滤,在法律和舆论层面受到的阻力会小得多。

Meta选择在这个节骨眼上放出这个消息,背后其实藏着一个相当重要的背景因素。最近这段时间以来,印度政府对社交媒体平台的算法运作机制施加了越来越大的监管压力。就在今年10月10号,也就是大概一个月零一周之前,印度电子和信息技术部专门向Meta发出了一份正式的咨询函,在这份函件里面,印度政府明确要求Meta对自己平台上的排名系统和推荐系统进行一次彻底的审查和整改,目的就是为了防止那些可能具有误导性、经过恶意篡改或者被人为剥离了原始语境的虚假和有害信息,在算法的推波助澜之下被不成比例地放大传播。

你可以想象一下印度政府的担忧:在一个拥有十多亿人口、互联网普及率还在快速攀升的国家里,如果推荐算法不加约束地把那些断章取义的煽动性内容拼命推给用户,那引发社会动荡的风险是非常高的。Meta在今天的官方声明中并没有直接承认这次的系统调整跟那份政府咨询函之间存在直接的因果联系,但这两件事在时间线上挨得这么近,前后相差也就一个月出头的样子,要说两者之间毫无瓜葛,恐怕没有多少人会相信。不过Meta也有自己的考量,如果公开承认调整是为了回应政府要求,那可能会被外界解读为向监管低头,这对一家硅谷巨头的形象来说并不是什么好事。

从实际落地的效果来看,Meta这次在印度市场的调整已经交出了一份相当亮眼的成绩单。Meta在自己官方网站上发布的一篇帖子里提到,跟一年前的同期数据做个对比的话,印度用户对推荐内容进行举报的频率已经下降了整整一半。这个数字的分量是很足的,因为在内容平台的运营体系里面,用户举报量通常被视为衡量内容生态健康状况的一个核心指标。举报量出现如此大幅度的下滑,说明推送到用户面前的内容确实比以前干净了不少,用户的不满情绪也得到了实实在在的缓解。你想一想,如果以前每天有一万个人点举报,现在只有五千个人点了,这个变化背后意味着有多少条让人不适的内容被成功拦截在了推荐系统之外。

Meta还透露说,在过去这一年时间里,他们一直在持续强化默认保护措施的力度,根据印度用户在平台上通过各种方式反馈回来的偏好信息,有针对性地对推荐系统的运作逻辑做了调整,尽量把那些用户明确表示过不想看到的内容挡在推荐流之外。这些保护措施覆盖的范围相当广,几乎把Instagram上几个最主要的内容分发入口全都囊括了进去:短视频板块Reels、探索页面Explore,以及用户的主信息流Feed。这三个板块有一个共同的特性——它们都是Instagram用来向用户推荐来自非关注账号内容的主要通道,也正是算法影响力最大、最能左右用户体验的地方。你平时刷Reels的时候,十条里面可能有七八条是你没关注的人发的,这些内容就是靠推荐算法推到你的面前的,所以算法在这里面的把关作用就显得尤为重要。

这次技术升级当中的一个亮点,在于Instagram现在开始使用能力更强的AI模型来直接对内容进行评估,评估的标尺就是Instagram自己制定的推荐准则。以前的运作模式更多地依赖于用户的事后举报或者手动隐藏来发现问题内容,属于一种被动响应式的治理方式,说白了就是等用户看到了不舒服的东西、主动跑来投诉了,系统才开始做出反应。这种模式的缺陷很明显:在你举报之前,那条内容已经被成千上万个人看到了,伤害已经造成了。而现在这套新系统具备了一定程度的主动检测能力,能够在那些可能引起争议或者让人不适的内容被大规模推送出去之前,就提前一步把它们识别出来并加以限制。

Meta在官方声明中用了一句相当直白的话来描述这个变化:“如今我们的系统能够将更多这一类的内容阻挡在推荐范围之外,这里面就包括了带有性暗示色彩的内容以及描绘暴力场面的内容。”这句话虽然听起来有点官方通报的味道,但它传递出来的信息是非常明确的——Meta正在把更多的治理重心从后端往前端转移,从人工审核往算法判断转移,从被动响应往主动预防转移。这种转变在技术层面其实难度不小,因为要让AI模型在没有用户反馈信号的情况下自主判断一条内容是否适合推荐,对模型的训练数据和算法架构都有很高的要求。

不过,Meta在这次信息披露中也留下了一些让人感到好奇的空白地带。比如说,他们并没有对外公布受到这次调整影响的具体内容数量到底有多大,没有说明被过滤掉的推荐内容占总推荐量的比例是多少,甚至连用来计算用户举报量下降幅度的具体统计方法都没有详细交代。这些关键信息的缺失,让外界很难对这次调整的真实效果做一个完全独立、不受干扰的客观评估。但从另一个角度来看,这也可能是Meta出于商业机密保护或者竞争策略保密的考虑,不愿意把自家算法的核心运作细节暴露得太彻底。毕竟推荐算法是这些社交平台最核心的技术资产之一,如果连过滤的比例和方法都公之于众,竞争对手很容易就能复制过去。

说到这儿,有必要给大家科普一下Instagram内部两套不同的内容规则体系,因为这两套体系之间的区别如果不搞清楚,很容易对这次调整产生误解。第一套叫做社群守则,这套守则规定的是哪些内容是绝对不能出现在平台上的,比如儿童色情、恐怖主义宣传、直接煽动暴力的言论等等,一旦被发现违反了社群守则,这些内容就会被直接删除,没有任何商量余地。第二套叫做推荐准则,这套准则管的是哪些内容适合被算法推荐给更广泛的用户群体。两者之间存在着一个非常关键的区别:违反了社群守则的内容会被直接干掉,不存在任何商量余地;而那些虽然不违规、但可能让部分用户感到不适、过于敏感或者质量偏低的内容,它们并不会被删除,它们仍然留在平台上,任何人都可以主动去查看,只是不会被算法主动推荐给很多人看而已。

另外,如果某些内容在某个特定的国家被认定为违法,那么Meta就会在那个国家的范围内对这些内容进行访问限制,不让当地用户看到。推荐算法在这个过程中扮演的角色可以说是至关重要的,因为它直接决定了用户在主动关注的账号之外,还能通过什么方式发现新的内容和创作者。说白了,Instagram的算法就像一个看不见的编辑,它在很大程度上决定了什么东西能火、什么东西会被淹没在信息洪流里。你想想看,一条内容就算拍得再好,如果算法不给它流量,它也只能在发布者的粉丝圈子里打转;反过来,一条内容就算质量一般,只要踩中了算法的推荐逻辑,就有可能一夜之间获得几百万的播放量。

除了平台层面的推荐过滤机制之外,Instagram也给用户准备了一系列自主控制的工具,让每个人可以根据自己的喜好和容忍度来定制想看的内容。其中最核心的一个工具叫做敏感内容控制,这个功能允许用户选择在搜索、Reels、Explore、推荐账号以及信息流推荐中看到更少的不适内容。

Meta表示,他们在印度的系统默认就已经把最成人向的内容排除在推荐范围之外了,而敏感内容控制这个设置则可以让用户进一步收紧过滤尺度,减少接触到其他敏感内容的机会。这就好比给你了一把旋钮,你可以根据自己的接受程度来调节过滤的松紧度。除此之外,用户还可以选择减少看到自己不关注的账号所推荐的政治类内容,可以通过点击"不感兴趣"这个按钮来告诉算法自己对某条内容没有兴趣,还可以利用隐藏关键词功能来屏蔽包含特定字词、短语或者表情符号的评论和私信请求。如果有人遇到恶意骚扰或者不想被打扰的情况,Instagram的拉黑功能也可以派上用场,这个功能可以阻止对方查看自己的主页、浏览自己的帖子或者给自己发送消息,哪怕对方注册了新账号也没用。这些工具加在一起,给了用户相当大的自主权来塑造自己在平台上的体验。

对于青少年用户群体,Instagram还额外提供了一层年龄适配的保护措施,这就是去年在印度市场上线的青少年账户功能。这些青少年账户会自动将低龄用户置于一个13岁以上的内容设置环境中,这个设置受到平台专门制定的年龄适宜内容指南的约束。Meta之所以专门为青少年推出这样的保护措施,很大程度上是因为近年来社会各界对社交媒体平台在未成年人保护方面的责任问题关注度越来越高,尤其是算法推荐如何影响青少年接触到的信息、以及如何防止他们过早接触到不适合的内容,已经成为了一个全球性的监管热点和舆论焦点。你想想看,一个十三四岁的孩子,心智还没有完全成熟,如果算法天天给他推送那些充满暴力或者性暗示的内容,对他的价值观形成和心理发育会造成什么样的影响,这个问题想想都觉得后背发凉。

Meta还透露了一个很有意思的细节:用户在使用平台过程中的各种行为反馈,比如隐藏某条帖子或者点击"不感兴趣"按钮,都会被纳入推荐系统的学习信号当中,帮助算法更准确地识别出用户不希望看到的内容类型。换句话说,你在刷Instagram时每一次皱眉、每一次点下那个小小的"不感兴趣",其实都是在帮Meta的训练数据添砖加瓦,都是在告诉算法"这种东西别再给我推了"。Meta表示,随着用户行为模式和技术本身的不断演变,他们会持续优化自己的检测系统,而来自印度用户的反馈将会继续指导后续的改进方向。这意味着印度用户在使用平台时的每一个微小操作,都在间接影响着这个全球最大社交平台之一的算法走向。

从更宏观的角度来看,Meta这次在印度市场的调整,其实是全球社交媒体行业面临监管压力不断升级的一个缩影。算法推荐技术在过去十几年里极大地改变了人们获取信息的方式,让每个人都能在海量内容中发现感兴趣的东西,但与此同时,它也带来了一系列相当棘手的社会问题,包括虚假信息的病毒式传播、极端内容的加速扩散、以及对未成年人的潜在心理伤害。

印度作为全球网民数量最多的国家之一,同时也是Instagram的重要市场,Meta在这里采取的治理措施具有很强的示范效应和风向标意义。如果这套基于更先进AI模型的主动检测系统在印度运行顺畅、效果显著,我们有充分的理由相信,Meta很可能会把类似的做法逐步推广到其他国家和地区。对于咱们这些每天刷手机的普通用户来说,这毫无疑问是一件值得拍手叫好的事情——毕竟,谁也不想在结束了一天疲惫的工作、好不容易躺下来刷会儿手机放松心情的时候,冷不丁被一条辣眼睛或者令人极度不安的内容破坏了整晚的好心情。而对于那些靠内容创作吃饭的博主和网红来说,这件事也释放了一个相当明确的信号:在算法推荐的游戏规则里,内容的合规性和质量正在变得越来越重要,单纯靠擦边球或者暴力噱头来博取流量和关注度的时代,可能真的快要走到尽头了。以后想在Instagram上做大做强,要么老老实实做优质内容,要么就得准备好接受算法越来越严格的筛选。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|数码之家-技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2026-11-18 03:02 , Processed in 0.140400 second(s), 11 queries , Gzip On, Redis On.

Powered by Discuz!

© MyDigit.Net Since 2006

快速回复 返回顶部 返回列表