前投资人怒怼AI算法为钱“做局”操纵人类！算法工程师：像给人分别服药，然后观察“药效”

2024年1月5日，据媒体报道，快的打车创始人陈伟星连发三条朋友圈怒怼抖音AI，认为它会为了实现自己的意图，对所有和它交互的人做局，让每一个人符合它设计的局。“但是它做的局不是为了我们好，而是为了赚钱控制人的意识。”陈伟星称，他曾为抖音投资了1000万美金，希望它能反思如何用AI来爱人类，而不是为钱操纵人类。

同日，九派财经采访抖音方面，询问如何回应此事，未获有效回复。

陈伟星谴责的抖音AI是一种算法推荐技术（以下简称为“算法推荐”）。根据《互联网信息服务算法推荐管理规定》，应用算法推荐技术，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

简而言之，算法推荐直接或间接地决定了用户能看到什么。

事实上，关于平台算法推荐的讨论长期存在，与其相伴相生的另一个现象是信息茧房。2023年9月，一位网友发文称，第一次这么直观地面对信息茧房，“你只能看见程序想让你看见的……太吓人了”。该网友发现，同一个视频，自己和妻子看到的评论内容截然不同。另一位网友质疑道：“这会在无形中影响人的判断吧。”

不论是“吓人”还是“影响人的判断”，算法推荐在各个互联网平台普遍存在。一方面它为用户推荐兴趣内容，另一方面也成为平台长期获利的工具。

“当下即使用户反映强烈，但内容平台已经不再如过去报刊、杂志那样做信息分类而是算法分发，信息茧房的破壁事实上遥遥无期。”互联网产业分析师张书乐说。

图为抖音隐私政策部分内容。

【1】算法推荐，平台的生存关键

“算法推荐一直是字节跳动成功崛起的关键，也是构建信息茧房而被广泛诟病的一点。”张书乐告诉九派财经，这种算法推荐正在向整个互联网内容平台覆盖，成为一种高效黏住用户和绑定更多用户时间的方式，即用户感兴趣过的领域重点推荐，确保用户持续感兴趣，而不会关注其他领域形成跨界和认知破壁。

2023年12月，一则小红书前算法工程师Nick的访谈内容引发广泛讨论。在访谈中，Nick讲述了算法推荐是如何利用创作者对流量的向往，促使其不断产出新的内容，又是如何层层递进、制造用户的容貌焦虑、金钱焦虑，让他们一次又一次地打开APP，学习着“期待”的生活方式。

Nick形容，推荐算法的机制就像是给不同的人吃不同的药，然后观察“药效”，用户各异的行为就是平台需要获取的样本，通过对样本的分析来优化算法，让更多的用户留下来并点击广告，进而使平台获利。

获利形式也很显而易见：有推广需求的博主们花钱购买平台推荐量，即抖音的“Dou+”或小红书的“薯条”。

张书乐告诉记者，小红书和抖音的区别在于，小红书的交互性非常强，属于社区生态下的内容分发，抖音则是单向传输，受众更多只是简单互动。在他看来，算法上，抖音会更偏重于信息茧房，小红书则偏向于倡导热议。

【2】“黑盒”过多，呼吁算法开源

一个把控了流量走向的平台，商业利益驱动下的算法推荐比重越来越大，用户和创作者的担忧成为必然，而这种担忧来源于未知。

清华大学博士、人工智能专家林会杰告诉记者，目前很多平台的算法推荐机制都是闭源的，在用什么算法、有什么逻辑、用什么信息，只能依靠研发人员去测试。他用“黑盒”来形容这种不透明的机制——“对用户来讲是黑盒，对入驻的创作者来讲也是黑盒。”

但平台在决定用户能看到什么的过程中，有极大的话语权。

“在平台发布的内容都是平台自己来审核，什么样的内容能得到更多的曝光也是平台自己的流量去控制，这其中缺乏有力的第三方约束和制衡。”林会杰透露，实际测试下来发现，花钱买广告、买流量，才能够去获得一个更好的推荐，而不是说做的内容质量更好。

事实上，对算法推荐的规则公开、价值导向、科技伦理等方面的监管，《互联网信息服务算法推荐管理规定》中早有所涉及。

例如，算法推荐服务提供者不得利用算法虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现；应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

“技术永远都在不断地迭代和演进，关键是怎么去用这个技术。”从客观角度来说，林会杰希望有一个更加公开、公正、透明的渠道，鼓励平台推荐算法开源，对平台行为作一定约束，让推荐算法以更多优质内容为导向，而不是以商业利益为导向。

九派财经记者　黄依婷

【来源：九派新闻】

版权归原作者所有，向原创致敬