安德森认为AI会拯救世界

凤凰网科技讯《AI前哨》北京时间6月7日消息，硅谷著名风险投资人马克·安德森(Marc Andreessen)周二发文，驳斥了近期出现的“AI末日论”。他表示，人们不应该担心AI，AI会拯救世界，只管继续推进AI的开发，那些鼓吹“AI末日论”的人是邪教，他们才是真正的威胁。

2011年，安德森曾发表过一个著名的论断，即“软件正在吃掉世界”。他的这一观点旨在凸显软件在未来的重要性，并表明自己的投资方向，也就是投资以软件为核心的公司。但是现在，人们开始担心“AI正在吃掉世界”。对此，安德森发文痛批AI末日论鼓吹者。

(相关资料图)

周二，安德森发表了一篇题为《为什么AI会拯救世界》的近7000字长文，阐述了自己对AI的看法、AI构成的风险，以及他认为AI需要什么样的监管。为了反驳最近所有关于“AI末日论”的言论，他提出了一种可能被视为过于理想主义的观点。

安德森发表《为什么AI会拯救世界》文章

“AI的时代已经到来，人们都吓坏了。幸运的是，我在这里带来了好消息：AI不会毁灭世界，实际上它可能会拯救世界。”安德森开篇是这么写的。

AI不会“杀人”

安德森首先对AI或机器学习进行了准确的解读，称其为“数学和软件代码的应用，旨在教会计算机如何以与人类相似的方式理解、综合和生成知识”。

他说，AI没有感知能力，尽管它模仿人类语言的能力会让一些人误以为他具有感知能力。它接受了人类语言的训练，并从这些数据中找到高级模式。

“AI没有欲望，没有目标，也不想杀死你，因为它没有生命，”安德森写道，“AI是一种机器，它不会比你的烤面包机更加活灵活现。”

接着，他开始讨论目前行业对于AI的担忧。安德森写道，目前AI领域存在着一堵“散布恐惧和末日论的墙”(阻碍AI发展)。虽然没有指名道姓，但他很可能指的是一些知名科技领袖最近提出的说法，即AI对人类的生存构成了威胁。

上周，微软创始人比尔·盖茨(Bill Gates)、OpenAI CEO萨姆·阿尔特曼(Sam Altman)、DeepMind CEO德米斯·哈萨比斯(Demis Hassabis)等人签署了一封来自AI安全中心的公开信，声称人类面临“AI灭绝风险”。

阿尔特曼称人类面临“AI灭绝风险”

安德森对此表示，科技公司的CEO们之所以有动机宣扬这种世界末日观点，是因为“如果行业能够建立起监管壁垒，形成一个由政府支持、AI供应商组成的卡特尔联盟(垄断组织)，保护它们免受新型创业公司和开源竞争的影响，那么他们就能赚到更多的钱”。

其实，许多AI研究人员和伦理学家也批评了这种世界末日论。其中一个论点是，过分关注AI不断增长的力量和未来威胁，会使人们忽视一些算法当前对边缘化社区造成的真实伤害，不应该把焦点转移到未来某个不确定的时期。

安德森认为，AI安全专家、伦理学家和风险研究员等职位的人“是被人花钱雇来做末日论者的，他们的理论应该得到适当处理”。

AI风险鼓吹者是“邪教”

尽管AI在疫苗开发和聊天机器人服务等许多领域取得了重大进展，但它已经被记录在案的危害使得许多专家得出结论称，对于某些应用，AI不应该被使用。

安德森将这些恐惧描述为非理性的“道德恐慌”。他还提倡恢复科技行业过去“快速行动、打破常规”的做法，认为大型AI公司和创业公司“应该被允许尽可能快速、积极地构建AI”，“如果我们允许的话，这项技术将从这里迅速加速发展”。

他还把AI末日论鼓吹者与邪教组织相提并论。他表示，加州以成千上万的邪教而闻名，从EST到人民圣殿教，从天堂之门到曼森家族，“AI风险论”已经发展成了一个邪教，它突然成为全球媒体关注和公众讨论的焦点。安德森称，这个邪教不仅吸引了一些边缘人物，还吸引了一些真正的行业专家和不少富有的捐赠者，其中包括已被逮捕的加密货币交易所FTX创始人山姆·班克曼-弗里德(Sam Bankman-Fried)，它已经形成了一整套邪教的行为和信仰。

安德森称，正是因为这个邪教，才有了一些观点听起来很极端的“AI风险末日论者”，他们并不是真的掌握了秘密知识，能够让他们的极端主义合乎逻辑，而是他们自己煽动起了狂热情绪，超级极端。

如何监管？

安德森曾表示“软件会吃掉世界”。但是现在，人们担心的是AI正在吃掉世界。安德森表示，除了努力消除这些担忧之外，还有一些工作要做。他鼓励通过争议性地使用AI本身，来保护人们免受AI偏见和伤害的影响。

“政府应与私营部门合作，积极参与每一个存在潜在风险的领域，利用AI最大限度地提高社会的防御能力。”他写道。

在安德森自己畅想的理想化未来，“每个孩子都将有一个无比耐心、无比富有同情心、无比知识渊博、无比乐于助人的AI导师”。安德森认为，AI可以成为每个人的伙伴和合作者，包括科学家、教师、CEO、政府领导人，甚至是军事指挥官。凤凰网科技《AI前哨》对此将持续关注。(作者/箫雨)