Page 6 - 1393a

A 6 第 1393 期 2023 年 6 月 2 日 星期五

为何科学家联署限制可导致人类灭绝的AI技术

但一些专家认为，被编程为具有自动学习功能的系
统，如ChatGPT或AutoGPT，可能会进入下一个发展阶
段。

2.人工通用智能
（Artificial General Intelligence）

当机器能够完成人类所能完成的任何智力任务时，
人工通用智能(Artificial General Intelligence)就将到
来。

2023年3月，1000多名技术专家呼吁“所有人工智
能实验室立即暂停至少6个月的比GPT-4更强大的人工智

能系统的训练”，GPT-4是ChatGPT的最新版本。

包括苹果联合创始人斯蒂夫·沃兹尼亚克以及包括
特斯拉和SpaceX公司老板埃隆·马斯克在内的其他科技
巨头写道：“具有与人类竞争智力的人工智能系统可能
包括OpenAI和谷歌Deepmind负责人在内的专家 存。
对社会和人类构成深刻的风险。”马斯克曾是OpenAI的
警告，人工智能可能导致人类灭绝，但是机器如何取代
1. 弱人工智能 联合创始人之一，后来因与公司领导层意见不合而辞去
人类呢？
（Artificial Narrow Intelligence） 了董事会职务。

自2022年11月推出以来，ChatGPT——一款使用
弱人工智能也被称为限制领域人工智能，专注于单 在这封由非营利机构“生命未来研究所”（Future
人工智能根据用户的需求回答问题或生成文本甚至代码
一任务，在一系列功能中执行重复性工作。 of Life Institute）发布的信中，专家们表示，如果公司拒
的聊天机器人，已经成为历史上增长最快的互联网应用
绝迅速停止它们的项目，“政府应该介入并实施暂停
程序。
它通常从大量数据中学习，比如从互联网上学习， 令”，以便设计和实施安全措施。
但只在它被编程的特定领域学习。
在仅两个月的时间里，它的活跃用户达到了1亿。
牛津大学人工智能伦理研究所的卡丽莎·韦丽兹
据科技监测公司Sensor Town称，Instagram花了两年半
一个例子是象棋程序，能够击败世界冠军，但无法 （Carissa Véliz）在这封信上签了名。但她认为，人工
的时间才达到这一里程碑。
执行其他任务。 智能安全中心后来发布的警告灭绝的声明太过了，因此
决定不签署。
OpenAI公司在微软的资助下开发的ChatGPT广受
智能手机上到处都是使用这种技术的应用程序，从
欢迎，引发了人们对人工智能影响人类未来的激烈猜
GPS地图，到了解你的口味并提出建议的音乐和视频程 “我们目前正在开发的这种人工智能既聪明又愚
测。
序。 蠢，”她告诉BBC的安德鲁·韦伯（Andrew
Webb），“如果有人尝试过ChatGPT或其他人工智
数十名专家支持在人工智能安全中心（Center for
甚至更复杂的系统，如无人驾驶汽车和ChatGPT， 能，他们会注意到它们有非常显著的局限性。”
AI Safety）网页上发表的一份声明，称：“减轻人工智
都是弱人工智能的形式。他们不能在设定的角色范围之
能造成的灭绝风险，应该与流行病和核战争等其他社会
外运作，所以不能靠自己做决定。 韦丽兹表示，她担心人工智能会以极高的速度制造
规模的风险一起成为全球优先事项。”
错误信息。

模仿人类

ChatGPT、DALL-E、Bard和AlphaCode等人工
智能产出的文本（从散文、诗歌和笑话到计算机代码）
和图像（如图表、照片和艺术品），几乎与人类自己的

作品一模一样，难以区分。

学生们用它来写作业，政客们用它来写演讲稿。民
主党众议员杰克·奥金克洛斯（Jake Auchincloss）在
美国国会推出了这一资源。

科技巨头IBM称，将停止招聘7800个可以由人工智
能处理的岗位。

我们还只是处于人工智能的第一阶段，还有两个阶
段即将到来，一些科学家害怕这可能会威胁到人类的生