用 AI 来读Anthropic CEO 的这篇关于预测 AI 改变世界的万字长文

Anthropic（旗下产品Claude）的老板10号在他自己的blog上发了篇文章，叫《Machines of Loving Grace：How AI Could Transform the World for the Better》，展望了 AI 在未来5-10年内可能带来的积极影响，并探讨了实现这些积极影响的路径和挑战。

原文地址如下：

https://darioamodei.com/machines-of-loving-grace

文章内容就如标题所说的那样，很长，还有很多英文的专业术语，要是以前，大多数人就放弃了或者只能去读别人翻译好的，而现在，我们也可以利用AI来第一时间吃到新鲜的，而不用等二手了，甚至你也可以像某些大老板一样，因为自己“忙”，没有时间全篇一字不漏的看完，找一个“AI秘书”帮你讲解其中的精华。

我看这篇的过程大概是这样的，把全文先转成了PDF文档格式，然后再把pdf文档扔给对应的AI工具，比如这次我尝试了google的notebooklm，甚至还生成了一个播客。

中文的可以用这个生成：

https://huggingface.co/spaces/gabrielchua/open-notebooklm

当然也可以自己安装：

https://github.com/lihuithe/podlm-public

感受下：

下面就是我用它“读完”之后的笔记心得：

1，人工智能的潜在风险：机遇与挑战并存。

风险：技术被滥用、技术被滥用、工作的意义、人类自主权。

应对：引导技术向善、促进公平获取、重塑教育和工作、关注人类价值。

总体上作者对AI本身是乐观的，他认为大多数人低估了 AI 的潜在益处，因为他相信 AI 能够以超乎想象的速度解决人类面临的许多重大挑战，包括疾病、贫困、不平等、战争和治理不善等。

2，文章重点讨论了五个AI可能带来最大改变的领域：

– 生物学和身体健康

突破速度提升10倍: 强大的人工智能不应被视为单纯的数据分析工具，而是能够执行、指导和改进生物学家几乎所有工作的虚拟生物学家。通过加速整个研究过程，人工智能可以真正推动生物学发展。作者估计，凭借强大的人工智能，生物学领域的重大发现速度可以提升 10 倍甚至更多。
压缩 21 世纪: 作者认为，人工智能将使我们在短短 5-10 年内实现人类生物学家在未来 50-100 年内才能取得的生物学和医学进步。他将其称为“压缩的 21 世纪”。
新技术发现: 作者预测，人工智能可以帮助我们更快地发现新的生物技术，例如更有效的 CRISPR 技术、更先进的细胞疗法、更好的植入设备以及对干细胞和免疫系统的更精确控制等。
传染病: 人工智能将使我们能够可靠地预防和治疗几乎所有自然传染病，类似于 20 世纪根除天花的成就。mRNA 疫苗等技术的进步已经为“针对任何事物的疫苗”指明了道路。
癌症: 癌症死亡率在过去几十年中以每年约 2% 的速度下降，人工智能将加速这一趋势，有可能将癌症死亡率和发病率降低 95% 以上。

基因疾病: 通过改进的胚胎筛查和更安全的 CRISPR 技术，人工智能可以预防和治疗大多数基因疾病。

阿尔茨海默病: 人工智能可以帮助我们更好地了解阿尔茨海默病的病因，从而开发出有效的预防和治疗方法。

其他疾病: 人工智能还可以改善对糖尿病、肥胖、心脏病、自身免疫性疾病等其他疾病的治疗。

生物自由: 人工智能将使人们能够完全控制体重、外貌、生育和其他生物过程，赋予人们更大的生物自由。

寿命延长: 人工智能有可能将人类寿命延长一倍，达到 150 岁。作者认为，这并非不切实际的预测，因为 20 世纪人类的预期寿命已经翻了一番。

– 神经科学与心理健康

工具和干预: 与生物学类似，神经科学的进步也依赖于新的测量和干预工具。作者相信，人工智能可以加速开发诸如光遗传学、神经探针、分子记录仪等技术，这些技术能够测量和操纵大脑活动。
计算神经科学的进步: 作者认为，现代人工智能的见解和整体发展可以应用于系统神经科学，帮助我们理解精神疾病的真正原因和动态。
人工智能驱动的洞察: 作者特别指出，人工智能领域的研究成果，例如可解释性研究，可以为理解神经元网络如何运作提供宝贵的洞察，进而推动神经科学的发展。
100 年的进步压缩至 5-10 年: 作者相信，与生物学一样，人工智能可以将神经科学领域未来 100 年的进展压缩至 5-10 年内完成。
治愈大多数精神疾病: 作者认为，诸如创伤后应激障碍、抑郁症、精神分裂症、成瘾等疾病可以通过结合分子生物学、神经测量和干预、计算神经科学和行为干预来有效治疗。
解决结构性问题: 作者承认，与脑结构差异相关的疾病，如精神变态和某些智力障碍，可能更难治疗。然而，他仍然对人工智能在这方面的潜力持乐观态度，认为人工智能可能找到方法来重塑成年大脑。
预防精神疾病: 基因筛查在预防精神疾病方面具有巨大潜力，人工智能可以帮助识别与精神疾病相关的基因，从而实现更有效的胚胎筛查。
改善日常心理问题: 作者认为，人工智能可以帮助我们开发更有效的药物和干预措施，以解决诸如易怒、注意力不集中、焦虑和适应不良等日常心理问题。
提升人类基本体验: 作者认为，人工智能可以帮助我们更深入地了解人类意识和体验，并开发出提升幸福感、创造力、同情心、成就感等积极心理体验的方法。

– 经济发展与减贫

成功的疾病根除案例: 提到了天花、脊髓灰质炎和几内亚线虫病等疾病在全球范围内得到有效控制甚至根除的案例，证明了通过自上而下的努力可以战胜疾病。作者认为，人工智能可以在这方面发挥更重要的作用。
人工智能优化流行病学模型和物流: 作者认为，人工智能可以比人类更好地构建和优化流行病学模型，从而更有效地指导疾病根除计划。此外，人工智能还可以优化医疗物资的分配和运输，提高医疗服务的可及性。
新技术简化医疗干预: 一些新的生物技术，如只需要接种一次的疟疾疫苗，可以极大地简化疾病的预防和治疗，使医疗干预更容易普及到偏远地区。
目标明确的干预措施: 人工智能可以帮助我们识别并实施更有针对性的干预措施，例如通过基因驱动技术消灭传播疾病的蚊子，从而从根本上解决疾病传播问题。
发展中国家健康状况的改善: 作者乐观地估计，在强大的人工智能的帮助下，5-10 年内，全球范围内至少 50% 的人工智能医疗成果将惠及最贫穷的国家。作者的目标是，在强大的人工智能出现后的 5-10 年内，发展中国家的健康状况至少要比现在的发达国家好得多。
东亚经济奇迹的启示: 作者以 20 世纪末东亚经济体实现年均 10% 的经济增长为例，说明了明智的经济政策可以推动经济快速发展。他认为，人工智能可以扮演“人工智能财政部长和央行行长”的角色，帮助发展中国家制定和实施更有效的经济政策。
医疗保健改善带来的经济效益: 根除艾滋病、疟疾和寄生虫病等疾病将极大地提高发展中国家的生产力。此外，改善情绪和注意力的神经科学干预措施也将对发达国家和发展中国家的经济产生积极影响。
人工智能技术带来的经济机遇: 作者认为，人工智能技术，如能源技术、运输无人机、改进的建筑材料和物流系统，可以自然而然地惠及全球，包括发展中国家。例如，手机在撒哈拉以南非洲地区的快速普及就是一个很好的例子。
自动化带来的挑战: 作者也承认，人工智能和自动化可能会对发展中国家，特别是尚未实现工业化的国家构成挑战。如何确保这些国家在自动化时代仍然能够发展和改善其经济是一个需要认真思考的问题。
发展中国家经济增长的潜力: 作者提出了一个“梦想场景”：发展中国家实现 20% 的年均 GDP 增长率，其中 10% 来自人工智能驱动的经济决策，另外 10% 来自人工智能加速的技术进步。如果这一目标得以实现，撒哈拉以南非洲地区将在 5-10 年内达到中国目前的人均 GDP 水平，而其他许多发展中国家的人均 GDP 将超过美国目前的水平。
粮食安全: 作者相信，人工智能可以帮助我们开发更高产的作物，提高农业生产效率，并优化农业供应链，从而实现第二次绿色革命，帮助解决发展中国家的粮食安全问题。
减缓气候变化: 发展中国家更容易受到气候变化的影响。人工智能可以帮助我们开发清洁能源技术、碳捕获技术以及人造肉等技术，从而减缓气候变化的影响，并为发展中国家创造更有利的经济发展环境。
国家内部的不平等: 作者认为，发达国家更有可能解决人工智能技术带来的不平等问题，因为发达国家的市场机制更完善，政府更有能力实施全民医保等政策。
选择退出问题: 作者担心，一些人可能会选择拒绝使用人工智能带来的好处，这可能会加剧社会分化。他认为，我们需要努力提高公众对科学的理解，人工智能本身也可以在这方面发挥作用。

– 和平与治理

并非结构性优势: 不同于对健康和经济的潜在积极影响，人工智能不会在结构上更偏向于促进民主与和平。人工智能可以被用于善和恶，也可能被用于加强宣传和监控，这些都是有利于威权主义的工具。
民主国家需占据主导地位: 作者强调，在强大的人工智能问世时，民主国家必须在世界舞台上占据主导地位，以避免被威权主义国家压制，并防止人工智能被滥用于侵犯人权。
“缓和战略”: 作者提出了“缓和战略”，建议民主国家联合起来，通过控制人工智能供应链、快速发展人工智能技术以及限制对手获取关键资源 (如芯片) 来获得相对于威权主义国家的优势。这种联盟将利用人工智能实现强大的军事优势，同时以“人工智能换和平”的方式，将人工智能的益处提供给更多国家，以换取它们对民主的支持。
信息战的优势: 作者认为，如果民主国家能够控制最强大的人工智能，那么人工智能实际上可以在全球范围内有利于民主。民主国家可以利用人工智能来对抗威权主义国家的虚假信息和宣传，甚至可以创建一个全球自由的信息环境，而威权主义国家缺乏技术能力来阻止或监控。
提升生活质量: 健康、福祉和教育的改善通常与对民主的支持相关联，而人工智能的进步可以在这三个方面都做出贡献，从而间接地促进民主。
赋能公民: 作者相信，不受审查的人工智能可以为个人提供强大的工具来对抗专制政府，例如，像塞尔维亚推翻米洛舍维奇政府的活动家斯尔贾·波波维奇那样，利用人工智能技术瓦解独裁者的权力并争取民众的支持。
法律和司法系统: 人工智能可以帮助我们创建更公正的法律和司法系统。它可以协助人类决策，减少偏见，并确保法律的公正执行。
公民参与和共识: 人工智能可以用于收集民意并促进公民之间的共识，帮助解决冲突，找到共同点，并寻求妥协。
提供政府服务: 人工智能可以帮助政府更有效地提供医疗保健、社会服务、税务、建筑规范执法等公共服务，提高政府的效率和公信力。

– 工作与人生意义

即使疾病、贫困和不平等问题都得到解决，自由民主制成为主流，现有的自由民主国家也变得更加完善，人们仍然需要面对人工智能时代工作和人生意义的挑战。探讨了在人工智能可以完成大多数任务的世界中，工作和人生意义的问题。

即使人工智能可以更好地完成任务，但这并不意味着这些任务本身毫无意义。大多数人并不是世界上最擅长任何事情的人，但这并不妨碍他们从这些事情中获得意义。
意义更多地来自于人际关系和连接，而不是经济劳动本身。人们可以从各种活动中获得乐趣，即使这些活动不产生经济价值，例如玩电子游戏、游泳、户外散步和与朋友交谈。
人们渴望成就感，甚至竞争感。在后人工智能时代，人们仍然可以追求复杂的任务，例如进行研究、成为演员或创办公司。人工智能的存在并不妨碍人们从这些挑战中获得意义，即使人工智能可以做得更好，或者这项任务不再是经济体系中获得报酬的一部分。
从长远来看，人工智能可能会变得如此高效和廉价，以至于人类在经济体系中将不再具有比较优势。届时，我们目前的经济体系将不再适用，需要就如何组织经济进行更广泛的社会讨论。
然而，人类文明在过去成功地应对了重大的经济转变，例如从狩猎采集到农业，从农业到封建主义，以及从封建主义到工业主义。作者相信，人类可以找到新的经济模式来适应人工智能时代。

作者提出了一些可能的解决方案：

为所有人提供普遍基本收入，但这可能只是解决方案的一小部分。
建立一个由人工智能系统驱动的经济体系，根据人类价值观向人类分配资源。例如，经济体系可以基于“Whuffie points” (一种衡量个人声誉和社会贡献的虚拟货币) 来运行。
人类可能会在一些目前无法预料的领域继续发挥经济价值。

所有这些方案都存在潜在问题，需要进行大量的迭代和实验才能确定其可行性。此外，我们需要努力避免出现剥削或反乌托邦式的结果。

4，其他：

关于解释他为啥聊AI风险大于收益这段，严重怀疑他在阴阳openai的老板奥特曼……

– 与其强调人工智能的必然益处，不如集中精力解决可控的风险问题，以确保人工智能的积极未来。

– 从原则上讲，过多地“吹嘘自己的产品”对自身不利。

– 许多人工智能风险公众人物（更不用说人工智能公司领导者）谈论后通用人工智能世界的方式感到反感，他们仿佛肩负着单枪匹马地将世界带入救赎的先知使命。

– 少数讨论激进的人工智能未来的人往往以过度的“科幻”语气来描述（例如，上传思想、太空探索或一般的赛博朋克氛围），会导致人们不认真对待这些说法，并赋予它们一种不切实际的感觉。像是为一小部分亚文化群体写的幻想，而对大多数人来说却令人反感。

作者用“天才之国” (a “country of geniuses in a datacenter”) 来比喻强大的 AI 模型（庞大的规模、超群的智能、高效的协作）。他认为数百万个独立运行或协同工作的 AI 实例将如同一个由天才组成的国家，能够以极高的效率解决各种复杂问题。

哪些因素会限制强人工智能的发挥？外部世界的速度限制、数据需求、内在复杂性、人类的限制、物理定律。长期来看，一些短期内难以克服的限制因素可能会随着智能的提升而变得更具可塑性。

互补因素？速度更快的外部世界、更多高质量的数据、更灵活的人类社会约束。

作者在文中表达了对“强人工智能”（AGI）一词的负面看法，认为该词语不够精确，并且带有太多科幻色彩和炒作意味。作者更倾向于使用“强大的AI”或“专家级科学与工程”这样的表述。

还有很多可以结合这篇文章从AI那里得到几个问题：

文章中提到的“边缘收益递减”概念如何应用于强人工智能的发展？

文章中提到的“国际合作”和“竞争”对强人工智能的发展分别会产生哪些影响？

文章中提到的强人工智能对不同国家和地区的影响是否会相同？为什么？

……

来源：https://mp.weixin.qq.com/s/Sw6sXP7TILiXbXbIWcO1cw

本文地址：https://www.163264.com/9903