深度学习先驱Geoffrey Hinton宣布从谷歌AI研究员的职位上辞职，他在谷歌工作了十年。
Hinton想要自由地发表言论，他越来越担心人工智能可能造成的伤害。
Hinton接受了MIT Technology Review的高级AI编辑Will Douglas Heaven的采访，谈到了他的担忧。
担忧如下：
– 深度学习和人工智能先驱杰弗里·辛顿宣布辞去谷歌的工作，专注于新的 AI 问题，特别是 AI 安全问题。
– 辛顿特别担心新的大型语言模型（如 GPT-4）的能力，他认为这可能存在严重的风险。
– 他认为机器的智能程度比以前想象的要高得多，机器的智能是动物大脑完全不同的一种形式。
– 辛顿担心人类可能会利用他帮助开发的工具来影响选举和战争的结果，并担心机器创造自己的子目标的能力，这可能会变得本质上是不道德的。
– 他认为世界上有两种智能：动物大脑和神经网络，虽然大脑在某些方面更好，但神经网络可能会在学习方面胜过生物。
– 辛顿对 AI 的风险感到有些沮丧，但他认为提高公众意识对于缓解这些风险至关重要。
原文：
https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai/
两人在EmTech Digital上进行了对话，这是MIT Technology Review的标志性人工智能活动，
Hinton 说：“我认为人类只是智能进化的一个短暂阶段，这是完全可能的。”
完整对话视频地址：
https://www.technologyreview.com/2023/05/03/1072589/video-geoffrey-hinton-google-ai-risk-ethics/
问：“技术以指数级的速度在发展，如果你观察近期和中期，比如说，一、两、三或者五年的时间范围，或许新的工作岗位正在被创造，从社会角度看失业对社会和经济的影响是什么？”
答：“人工智能确实极大提升生产力，但是生产力提高反而会导致失业，富人更富，穷人更穷！当基尼系数变大，社会将会越来越暴力，通过给每个人提供基本收入可以缓解这个问题”
本文地址：https://www.163264.com/2988