吴:如今的人工智能系统确实面临着为人们带来损害的风险,例如:偏见、公平性、过于集中的能力。这些都是客观存在的问题。然而, AI 也会创造巨大的价值!在过去十年、甚至数月间,大量的人工智能创意被用于教育、医疗等行业。即使我们如今有 GPT-4 这样好的模型,构建一个更好的模型会帮助这些应用更好的助人。中止这样的进步有害于创造这些对人类大有助益的工具。
还有一些人的思考较为合理,他们认为需要应对 AI 的潜在危害。我赞同这一点。AI 还存在很多问题,比如让 AI 系统可控,提供真实、无害的信息。但是这似乎有些缺乏想象力了,未来的人工智能系统不会按照「自回归」的方式设计。我们会产生一些新的想法,使系统更加可控。因此问题就变成了如何为系统设计与人类价值观、政策一致的目标。「人类有足够的智慧设计超级智能系统,而没有足够智慧设计好的目标的」概率是很低的。目前这些产品由少数公司在利润的驱使下生产,这些公司将会获得怎样的权力和影响力?会对人们的经济产生怎样的影响?是否存在内在的风险?我认为可以有适当的产品监管,但不应停止研发。
伟大新技术的发明往往伴随着巨大的争议。2023 年 2 月-4 月,全球科技巨头争先恐后参与到ChatGPT 类产品和相关领域的激烈角逐中,改变着世界产业的格局。站在AGI时代来临前的黎明关口,由 MIT 物理系教授教授Max Tegmark、牛津大学哲学教授 Nick Bostrom 创办的非营利性组织生命未来研究所(Future of Life Institute)在他们的网站上贴出了一封公开信,信件内容为呼吁暂停至少6个月对下一代超级 AI 的研究。Elon Musk、Yoshua Bengio和Steve Wozniak(苹果联合创始人)、Emad Mostaque(Stability AI CEO)、Gary Marcus(纽约大学心理学教授)等学术权威和业界领袖也纷纷联名签署了这份公开信。
这封公开信一经发布便引起了人工智能学术界、产业界的轩然大波。人们关于 AI 未来的发展道路展开了激烈的争论。