朱迪·埃斯特林（Judy Estrin）早在硅谷初期就开始关注数字连接的议题。上世纪70年代，她作为斯坦福大学的一名初级研究员，参与了后来发展成互联网的项目。此后，她创办了多家科技公司，曾担任思科公司的首席技术官，并出任迪士尼和联邦快递的董事会成员。如今，她正致力于提高人们对影响我们生活的数字系统的理解。

我们离不开空气、水，如今也离不开手机。然而，数字信息系统却未能履行它们的承诺。无限连接和随时访问带来的不仅是便利，更有现实的碎片化与信息噪音，这削弱了社会的凝聚力。如果我们不能对当前所面临的问题达成共识，找到共同的沟通方式，那么我们的民主、冲突的解决、公共健康以及地球的未来都将陷入风险。

为了避免仅仅被动应对下一场危机，我们或许可以从水的管理中汲取一些经验。平时，我们打开水龙头喝水、洗漱，几乎不会考虑水源——直到缺水或水污染的危机提醒我们系统的脆弱性。如今，随着人工智能进一步渗透到数字世界，我们更应密切关注数字信息系统的运作和流动。

我们已经完全沉浸在数字世界中，但大多数人对自己所消费的信息、其来源及潜在危害知之甚少。这部分是因为人们享受科技带来的便利，不愿深入探究。另一方面，科技公司的商业利益往往凌驾于用户的健康之上，使得问题更加复杂化。

如今，数字服务已成为我们生活中的信息管道，然而我们中大多数人对它们的运作原理并不关心，也不甚了解。数字信息的质量就如同水一般，有着不同的“可饮用性”和“毒性”，但我们却不清楚自己摄入了什么。当前系统的设计被企业的商业模式腐蚀，这些企业既没有将公众的利益置于首位，也没有有效的工具来检测信息中的杂质并发出警报。像Instagram、TikTok和YouTube等数字平台，无法区分其系统中涌入的内容类型，它们缺乏有效的过滤、净化系统，或阀门来阻止信息污染和信息泛滥。

我们既是数字内容的消费者，也是“数字水”的源头。这些“数字水”流经我们的头脑和生活，潜移默化地塑造着我们的世界观。无论是学习、娱乐、分享还是发呆，我们都会打开手机，从这个信息之井中“饮水”。与此同时，我们产生的数据为越来越危险的定向广告和对在线活动的监控提供了燃料。各种信息，包括现实、娱乐、讽刺、事实、观点和错误信息，都混杂在我们的信息流中，难以分辨。

“技术本身没有好坏之分,也不中立。”

数字平台将“纯净信息”和“污水”混在一起，污染了信息系统，破坏了文化、公共健康、经济和民主的根基。我们目睹了新闻回避、极端主义、文明缺失、反动政治和冲突的加剧。而其他隐性毒素，如信任的缺失、批判性思维的衰退和创造力的侵蚀，也在悄然发生。那些推崇问题的人往往拒绝承担责任，无视克兰茨伯格的第一定律——“技术本身没有好坏之分，也不中立”。为了造福社会，我们亟需对信息传播系统的设计进行根本性的改变，而非让少数人的利益建立在公众的牺牲之上。

首先，我们必须承认，科技行业在追逐利润的过程中，为了金钱利益，往往以牺牲公众利益为代价。上世纪七八十年代的互联网基础设施是由公共和私营部门共同开发的，它提供了不同层次的服务和资源。数据在共享的分布式网络中以数据包的形式传输，避免了单点故障，网络服务应用程序分层运行，确保了必要的分离和区分。当时，用户是主动通过点击链接来浏览新网站和信息，选择自己信任的内容来源，无论是权威的报纸还是个人博客。内容提供商也依赖于来自其他网站的链接，这种相互依存关系促使大家遵守更规范的行为准则，即使存在分歧和争论。

算法根据点赞、分享和行为数据等模糊信息来编排我们的时间线,从而放大毒性并消除细微差别

社交媒体通过操纵信息的传播，已经严重干扰了人们对真相的认知。如今，生成式人工智能通过不透明地混合大量公开、私人、授权和盗版数据，正在颠覆内容生产的方式。利益和权力的驱使，再次将产品的选择推向了集中化、资源密集型的大型语言模型（LLMs）。这些模型经过训练，能够以复杂的方式识别、解读并生成语言，然后根据需求输出令人惊叹的文字、图像和视频。人工智能的“人工甜味剂”诱惑着我们去“饮用”，即使明知其中可能存在问题。社交媒体的水域早已被算法和代理的影响所污染，如今我们在订阅源和搜索结果中看到的平台，以及整个互联网，都在被“enshittification”（Cory Doctorow创造的一个恰如其分的术语）所侵蚀——人工智能产生的劣质内容正越来越多地填充我们的视野。

面对这种局面，我们需要改变行为，建立一个更分散、全新的数字信息系统——一个结合公共和私人资源，确保我们的“自来水”或“高档瓶装水”不会毒害下一代的系统。这需要克服两股强大的力量。首先是商业文化，它鼓励通过速度和规模最大化增长，以追求市场主导地位。其次，是我们对便利的优先追求，以及对无摩擦世界的无限渴望。虽然这看似是一个“棘手的问题”，但我们不能因此放弃责任。相反，我们应该采取行动来改善现状。我们并不需要完全放弃增长或便利，而是应重新追求一套更为平衡的价值观。

正如其他公共安全领域所展示的那样，要减轻当今数字世界的危害，必须开展广泛而深入的教育计划，激发个人和集体的责任感。我们曾有的那些约束行为的社会规范，比如不要往他人杯中吐痰，或不要往池中撒尿，已经被我们抛弃。如今，我们需要的不再是对最低限度礼仪的妥协，而是要通过数字卫生来为儿童和成人重新建立集体规范。数字素养应当鼓励批判性思维，引导我们在数字环境中以辨别力——即信任和不信任的结合——来驾驭信息世界。

在现实世界中，我们的嗅觉和味觉可以在问题出现时发出警告，而在数字世界里，我们需要培养识别腐朽内容和来源的能力，从复杂的网络钓鱼到深度伪造。对话式人工智能应用已经充斥着阴谋论和宣传，带来了新的操纵手段，以及一系列新的情感和道德挑战。透明度的作用，正如我们从食品标签或服务条款中学到的那样，只有在接受过事实解读教育的情况下才能真正发挥出来。

人工智能的人工甜味剂诱使我们喝下装满信息的酒,即使我们知道这瓶酒可能有问题。

仅仅缓解问题已经远远不够。我们迫切需要那些勇于重新审视系统和界面设计假设的企业家、创新者和投资者，打造出更加主动、分布式且强化人类自主性的产品。主动设计必须包含安全阀或前置过滤器，以避免有害信息的泛滥。分布式设计则可以利用更少的数据和专用模型，通过不同系统的互联，打造出比集中化同质系统更具弹性的生态环境。我们不必被迫接受通用型“数据野兽”的不可避免性。

以人为本的设计将打破当前的设计规范，避免产品陷入同质化和庸俗化。正如车辆应当避免像“车轮上的智能手机”那样分散我们的注意力，它们就能更安全。同样，探索世界带来的惊喜远比无尽的“无限滚动”要健康得多。要实现这种变革，我们必须质疑现有设计和商业模式的假设，打破当今过于关注短期交易和快速扩张的创新文化。创新文化的变化已经渗透到其他行业和机构，包括新闻业，往往被商业动机所绑架。我们不能放弃对共识、知识，以及信任和共同真理的重要性。

我们还需要改变政策，以平衡私营和公共部门的参与。目前，许多提案都只关注最严重的问题，立法往往强化了固有的不良设计，使企业免于承担责任，或是针对具体的实施细节，结果引导我们走向同样有害的替代方案。为打破大科技生态系统的叙述和价值捕获，教育、创新和研究必须获得独立的资金支持。我们时常提到安全、可靠、负责任等词汇，却未对这些概念的真正含义达成共识。

那么，我们该如何确保“数字水”是安全可饮用的？监管应优先关注那些最直接导致危害的领域，例如算法放大、缺乏透明度和问责制。权力集中在单一节点上，难免会引发大范围的系统性故障。如今，少数公司扮演着大型公用事业机构的角色，它们既是公共广场，又是信息高速公路，却不承担任何责任。

孤立和两极分化的根源在于我们对无摩擦社会的追求，这种社会通过精心设计的系统来吸引我们的注意力。在数字信息的分发和获取方面，我们必须建立起隔离机制、安全阀和安全措施。这里并非呼吁恢复过去的把关者，而是要建立新的分发、管理和促进机制，以满足人类需求的多样性。

当然，没有单一的解决方案，但第一步是清醒认识问题的范围和规模。当前，我们“数字水域”的毒性水平已经高到无法通过事后补救或错误的手段来解决的地步。我们必须质疑自己固有的假设，接受在技术和文化层面进行根本性变革，以将毒性水平降低到不会继续侵蚀和破坏社会的程度。

作者：朱迪·埃斯特林(Judy Estrin)是JLABS有限责任公司的首席执行官,也是《弥合创新鸿沟:重燃全球经济中的创造力火花》一书的作者。她是一位网络技术先驱、企业家和商业高管。

文章信源：Coda Story（CODA）

信源简介：Coda Story是一个在线新闻平台，一家非营利媒体公司，名字源自拉丁语cauda，意思是“尾巴”，是乐曲结尾处的一个独特的乐章，有助于定义和理解整个作品的意义。Coda专注于调查性新闻和对全球问题的深入报道，包括政治、人权、技术和社会正义，于2015年推出。威权主义不断扩张的版图是Coda所有新闻关注点的交叉点。Coda报道新技术的滥用、科学事实的操纵、寡头政治的崛起、跨国镇压的危险以及为政治议程服务的历史叙述的武器化故事。在每个故事中，Coda都努力向读者展示为什么这一切都很重要，以及它下一步可能会带人类去往何方。

信源评级：

文章仅供交流学习，不代表日新说观点。