对生成性人工智能的反思

关键要点

• 暂停六个月 ：未来生活研究所呼吁对生成性人工智能进行为期六个月的暂停，以深入研究其影响。
• 职业性质的变革 ：生成性人工智能可能使大量白领职位面临风险，尤其是在艺术、教育、新闻、法律、房地产和软件开发等领域。
• 安全隐患 ：连接生成性AI与工具后，可能会导致网络安全风险，现有安全协议并不足以解决这些问题。
• 未来的方向 ：需聚焦于AI的安全性和可解释性，同时建立强健的水印系统以应对潜在影响。

最近，非营利机构未来生活研究所发表了一封公开信，呼吁对生成性人工智能进行为期六个月的暂停
，以研究其影响并推动更负责任的创新。这一呼吁在生成性人工智能技术（如和Dall-e）引发了全球对其能力的关注与担忧之际发布。数千名科技专家和领导人签署了这封公开信，我也加入了他们的行列。

生成性人工智能将以深远的方式颠覆世界。与传统的人工智能系统不同，生成性AI不仅能够识别模式和做出预测，还可以创造出新的内容，包括图像、文本和音频。这可能对社会和经济产生重大影响，可能使数以百万计的人失去工作。OpenAI首席执行官SamAltman在最近一次的中也分享了这一担忧，他谈到了程序员和客服人员的失业问题。我们可以将生成性人工智能的革命与工业革命期间蓝领工作的变化相比较，但这一次，白领职业面临的风险更大。

许多职业已经受到潜在影响，包括艺术、教学、新闻、法律、房地产和软件开发。在OpenAI最近发布的中，报告称GPT-4在一系列学术和专业基准测试中表现出人类级别的能力，包括统一律师考试、SAT数学、AP艺术历史和AP生物学等。更令人印象深刻的是，GPT-4并没有针对这些特定任务进行微调。

在新闻领域，生成性AI的影响已显现，许多主要报纸和数字媒体出现了裁员现象。然而，事情并非全是坏消息，因为这项技术有可能促进更多的调查性新闻和原创内容的生产，正如AxelSpringer集团首席执行官Mathias Döpfner
近期提到的那样。。在软件行业中，人工智能将极大加快软件及产品的开发速度——比如。这也可能使一些技术工作者面临风险，因为岗位所需的人数会减少。

然而，潜在的社会影响不仅限于工作岗位。生成性人工智能在网络安全方面带来了重大风险。微软研究团队最近发布了一份非常有趣的技术报告，记录了对于GPT-4能力的一系列实验。在其中一项实验中，研究人员指示早期版本的GPT-4计划并执行一次网络攻击，该攻击包括破解本地网络中的计算机。这展示了该技术一个引人入胜且令人忧虑的应用场景。

正如报告所示，当我们连接生成性人工智能与工具时，主要的网络安全风险将出现，使得人工智能能够与世界互动、从反馈中学习并适应。Linux系统就是一个工具的例子，它本身包含许多与世界互动的工具，例如网络命令。此外，还有编译器工具链，使得人工智能能够编写自己的程序。因为生成性人工智能通常在Linux和编程方面表现出色，从那里开始，理论上的可能性是无限的。

在网络安全方面，目前的AI安全协议并不足够，它们本身也无法提供完美的保护。OpenAI表示，在开发GPT-4时，他们与来自网络安全、生物风险和国际安全等领域的50名专家合作。这些专家