因为 这个帖子,突然对推荐算法有点兴趣。
于是首先了解一下 负面影响,认同 这个回答

对于用户来说,算法越复杂,越难以理解它推荐的原因,信任度会越低下,警惕性会更高。

对于平台来说,可把控性会差。
平台肯定希望把流量掌握在自己手里,那是业务的核心,也是底线要求,但是算法推荐出来复杂的组合,很难做到严格把控。

对于创作者来说,如果是全职的创作者,你的粉丝不是你的资产,是平台算法的粉丝,一朝爆红容易,保持不过气难,行业难做。

以及 这个回答

被动的推荐算法妨碍了人们自主寻找的过程,回到了中心化时代帮你筛选的思路,只不过筛选对象变成机器了,其实机器的背后还是人。

某大型算法起家的移动互联网媒体产品,第一次用不登录也是情绪、无脑、擦边(是因为浏览量高?/早期入驻的内容写手太low,没起好头?)。
作为一个新用户如果意志薄弱,又习惯了被动脑子没货的生活,刚好也不会用搜索,这么一引导刚好看无脑擦边球的内容,这个时候他/她的一部分内容天生就是在推荐算法的初始阶段。

接下来,遵循个人情况信息(浏览记录:无脑擦边、位置)+社区选择推送(例如生活真美丽)的推送规则,他/她会看到所谓属于你自己的内容。
在国内,互联网的大范围使用是移动互联网和手机的普及。可是你别高估了用户的能力,刚刚从乡土社会过渡来的人,也许非智能手机也没用过。初次拿到手机这个玩意,在功能如此繁多和复杂的情况下,手机厂商APP不预装,店员不帮助解决一些操作问题,大部分人根本不知道互联网怎么用。更别说主动下载自己喜欢的APP了。

你想想这样的人通过手机摄取的信息除了生活真美丽(中心化媒体至少还是温柔的每日半小时的诉说,现在更短更情绪化更爆裂)就是无脑擦边。
这个人就会变的,生活美丽的爆裂+本我欲望爆发。二者都有很大的问题,前者让民族主义爆发,后者让本我欲望爆发。有没有发现全世界民族主义抬头了?街头男性的眼神变的更加猥琐了?诈骗的越来越多了?国外枪击案越来越多了?

内容本身如果用数字去衡量,就只能做到大数的“流行”文化,而不是个性的去中心化文化,互联网媒体初心也就荡然无存了。
对于去中心化媒介来说,如果连善恶都不要了,从非常技术中立的角度来看,连价值观都不需要强加,只是用的人能不能找到自己想要的。在这里有个前提条件:找自己想要的。

找想要的不是每个人都具备的能力,但是可以慢慢培养和做到。因为搜索(注意,必须是主动搜索)本身是问问题和自我探寻的过程,是多了选择权和个性化的。
即使一个人可能是草包,当你放一个干净的搜索框的时候,完成搜索至少他有两道门槛,1.打开软件2.键入关键词,才能完成整个搜索过程。而且输入关键词本身就需要去想你要什么。这个时候如果搜索引擎想善,可以用法律禁止某些极端黑暗内容的搜索。

少用或是不用推荐算法的人,就成了不属于上面这种的另一种人。
虽然现在搜索引擎也加入了信息记录来改变内容排名,这也很容易形成同关键词的信息茧房。但是至少有选择关键词的权力。如果还继续用推荐算法的话,除非算法能知道给所有人什么样的内容,这相当于机器有了高级智慧,现在看不太可能。

很多人因为人性中的"懒惰"放弃了去中心化的选择权,也有很多平台因为人性中的贪欲加深了对去中心化中的控制。这两者让互联网变的更加黑暗了。

推荐算法是否会操纵用户偏好的研究 下看到一条评论:

公司一早验证过类似结论了,前期点击都是好奇驱动的,导致公司很乐意召回奇奇怪怪的东西,大力出奇迹。
然后由于用户长久无法聚焦,数据行为复杂,所以小模型慢慢就拟合不动,就开始大模型,然后大模型特喜欢把某些内容神秘加权。

俞老师可以验证一下,因为上了大模型导致黄色搞笑等内容会神秘提高,然后后续接着会一边倒。
互联网垃圾内容出现并不是人民喜闻乐见所以模型喜欢推,而是算法为了增加拟合和指标产出,很容易演化出来的稳定解。

大概逻辑是,垃圾内容短时间内数据行为具备高度的共通性,模型学出来具备一定泛化能力。
而真正个性化的都是死记硬背居多,导致下次出来的个性化远不如垃圾内容有趣,然后系统一边倒给你垃圾内容。

还有 数据挖掘和推荐系统哪个更有前途? 下的 这个回答

求别要我回答这种问题了。
我觉得两者都没前途,而且讨论技术前途真的很狭隘的。

另外,我特别不看好推荐系统岗位。
抛开这个领域极度内卷不谈,推荐系统现在已经沦为迅速响应公司脑残指标的工具,不再是一个通过技术,逐步建立起产品和用户之间信任的纽带。

推荐系统领域有个著名管理经验,就是别老问你下属指标达到多少,应该问他们发现啥问题。
老是催问指标,那么你的产品就会越来越偏离用户,说的就是这个道理。

另外,一当沦为拟合指标的工具,你不在爸爸部门,你便会深刻知道,一个系统要解决数学写不出来的政治目标,是件多痛苦的事情。
对的,现实干活,内卷以后全都是政治问题,你想靠算法去解决一个问题,分分钟都在动人家蛋糕,不动人家蛋糕就要写个约束,面对成百上千约束,你都不知道你目标是啥了。

然而很不幸,后浪们是不足以想象被生活压垮的前浪们的傻逼程度,所以最后都是走向偏离用户的路线。
另外,推荐系统有着致命缺陷,没法建立用户的长期信任机制,它一旦沦为满足公司指标的工具,其最优解就是一定要切断用户上下文推理能力和历史依赖,从而使得系统更容易嵌入和上下文没一点关系的广告,让用户不知不觉当中贡献了点击。当然,用户不是白痴,所以为了让用户白痴,就要大剂量传播各种翻新的娱乐和黄赌毒麻木大众。

最后,还是直播带货战胜一切,完美解决为了让你产生商业收益就要给你洗脑的悲剧下场,这一切,靠的都是主播的魅力和信任力。
和买保险一样,真正牛逼的赚钱,靠的都是贩卖人的信任,信你,你说狗屎是香的都有人会去吃,吃完还说真香。

专业知识其实在推荐系统里面是没有存在意义的,所有知识在机器里面都是和其它知识 pk 以后的排名。
总是可以找到一个人群,这个排名特别高,也总是可以找到人群这个排名特别低。排名本身不表示知识的重要性,而是知识的社交属性。所有人类定义的知识,都不是社会意义上的普式真理,而是一个信任圈子里面建立起来的公序良俗。

面对教育和新诞生的高端富人服务产业,未来更多公司需要的技术,是如何快速建立并产生信任的产品。
以前推荐系统靠的是猜你喜欢去建立信任,但是商业化逼得系统走向为了维持信任不得不大剂量给用户洗脑。

我觉得最好的思路,为了未来国家健康发展,以后不能是搞技术。
目前看来,就是练好口遁,面对面和你的受众聊,聊你真实感受,给大家去魅。

不被平台圈养,从不看或少看推荐流开始,对于lof,可以更多地浏览关注流和tag页。
然后生产的内容必须自己可控,有本地或者独立博客之类的备份,同时善用搜索引擎,保持信息获取的主动权。