专访|麻省理工教授:担心AI成为将财富和权力转移至少数科技企业家的工具

新闻资讯2024-08-09 11:53小乐

专访|麻省理工教授:担心AI成为将财富和权力转移至少数科技企业家的工具

参考消息网6月15日援引CNN报道称,苹果公司13日超越微软,成为美国市值最高的上市公司。上周,该公司在年度全球开发者大会上宣布了一系列消息,其中包括iPhone 的生成人工智能功能,随后该公司股价飙升。

苹果、英伟达和微软一直在激烈争夺全球最有价值公司的宝座。苹果重新定义“AI”——Apple Intelligence后,其市值超越因AI芯片而身价暴涨的英伟达,并一路超越微软,重夺第一。苹果目前市值为3.29万亿美元,略高于微软的3.28万亿美元。生成式人工智能成为三大科技巨头市值提升的核心驱动力。

面对这股AI热潮,美国国家经济研究局近日发布了麻省理工学院教授Daron Acemoglu撰写的论文,指出未来人工智能(AI)的进步带来的生产力提升可能并不显着,而且预计未来十年人工智能对全要素生产率(TFP)增长的上限不会超过0.66%。

Acemoglu在文章中指出,生成式人工智能是一项很有前途的技术,但除非该行业经历根本性的重新定位,包括对生成式人工智能模型的架构(例如大型语言模型LLM)进行重大改变,以专注于可靠信息来改变提高各行业工人的边际生产力,而不是优先开发通用的、类人的对话工具。

阿西莫格鲁对人工智能对生产力和经济增长的一些过于乐观的预测表示怀疑。他是一位出生于土耳其的美国经济学家,以其政治经济学研究以及长期以来对政治经济与技术变革之间相互作用的关注而闻名。

《权力与进步》(力量与进步)

去年,他与英美经济学家西蒙·约翰逊共同撰写了新书《权力与进步》(权力与进步),谈论可能颠覆人类社会的AI革命。他们认为,当前的人工智能发展已经步入歧途,很多算法的设计是为了尽可能地取代人类,“但技术进步的方式是让机器对人类有用,而不是取代人类。”

Open AI 首席技术官Mira Murati 在5 月份的一次活动中就围绕通用人工智能(AGI)发展的争议表示,他们不仅专注于增强模型的功能和实用性,而且还专注于确保其安全,使其符合人类价值观,防止其失控,从而创造造福人类的AGI。

我对人工智能的能力和方向研究得越多,就越确信它目前的轨迹正在重复并加剧过去几十年来一些最严重的技术错误。阿塞莫格鲁教授近日在接受澎湃新闻(www.thepaper.cn)专访时表示,AI领域的领先者大多是被不切实际且危险的梦想所驱动,即实现通用人工智能的梦想。“这将机器和算法置于人类之上。”

一些分析师将阿西莫格鲁视为人工智能悲观主义者。他回应澎湃新闻表示,作为一名社会科学家,他会更加关注一些负面的社会影响。

阿西莫格鲁经常与他的妻子阿苏·奥兹达格拉尔教授一起工作,阿苏·奥兹达格拉尔教授是麻省理工学院电气工程和计算机科学系的系主任。虽然领域不同,但夫妻俩对人工智能发展的看法在大方向上是一致的,但阿西莫格鲁也承认,自己的想法可能比妻子更悲观。

随着人工智能的快速商业化,数百家竞争对手正在争夺大型AI模型,但毫无疑问,Open AI、微软、谷歌、NVIDIA等科技巨头已经抓住了AI发展的机遇。阿西莫格鲁表示,他非常担心人工智能将成为将财富和权力从普通人转移到一小群科技企业家的方式,而我们现在看到的“不平等”就是“煤矿里的金丝雀”。

以下为采访全文:

技术与社会:最大的资产是人

澎湃新闻:您的研究涵盖政治经济学、技术变革、不平等等领域。您是在什么背景和机遇下开始关注技术发展在不平等中的作用的?您最初对技术发展的看法是什么?这些看法是如何演变为您目前的“当前人工智能发展道路既不利于经济也不利于民主”的立场?

阿西莫格鲁:我的大部分研究重点是政治经济和技术变革之间的相互作用,这两种力量塑造我们的能力和增长机会,同时也影响我们的政治和经济选择。

AI之所以成为这个时代最重要的技术,一方面是因为它吸引了大量的关注和投资,另一方面是因为它取得了一些引人注目的进展,尤其是GPU性能的提升。部分原因是人工智能无处不在的影响。这些因素促使我进行这方面的研究。

我对人工智能的能力和方向研究得越多,就越确信它目前的轨迹正在重复并加剧过去几十年来一些最严重的技术错误:过分强调自动化,就像我们优先考虑自动化和其他数字技术一样。在创建新任务方面投入不够;以及社交平台试图将人们的数据和兴趣货币化所犯的所有错误。

我还特别担心的是,大多数AI 领域的顶尖玩家都被实现通用人工智能的不切实际且危险的梦想所驱使,即将机器和算法置于人类之上,而且往往是一种实现通用人工智能的方式。这些顶级玩家统治别人。

澎湃新闻:先进的计算机技术和互联网,让很多富人可以转移财富,让科技巨头空前强大。尽管如此,我们仍然接受这样的技术创新,因为它也带来了积极的效果。技术变革有其优点和缺点,历史上社会总是找到适应新技术的方法。为什么您认为随着新科技浪潮的到来,不平等现象尤其令人担忧?

阿西莫格鲁:当谈到社交平台和人工智能时,我同意上述说法,但当谈到互联网时,情况就不同了。我有不同的看法。我认为互联网在某些方面使用不当。当然,我不否认互联网是一项非常有益的技术。它在连接人们、向人们提供信息、创建新的服务和平台方面发挥着非常重要的作用。影响。

当谈到人工智能时,我非常担心它会成为将财富和权力从普通人转移到一小群科技企业家的方式。问题在于,我们没有任何必要的控制机制来确保普通人从人工智能中受益,例如强有力的监管、工人参与、公民社会和民主监督。我们看到的“不平等”是“煤矿里的金丝雀”,意味着更糟糕的事情即将到来。

论文:尤指出,自动化造成的不平等是“企业和社会选择如何使用技术的结果”。随着科技巨头的市场力量和影响力不断增强,甚至可能失控,我们应对的关键是什么?如果你是一家大型科技公司的CEO,你会如何利用人工智能来管理公司?

阿西莫格鲁:我对首席执行官的建议是,要认识到他们最大的资产是员工,他们不应该专注于削减成本,而应该寻找提高员工生产力、能力和影响力的方法。这表明使用新技术来创建新任务并为员工开发新能力。当然,自动化是有益的,我们将来必然会更多地使用它,但这并不是我们提高生产力唯一能做的事情,自动化也不应该成为CEO唯一追求和优先考虑的事情。

OpenAI、微软IC资料图

澎湃新闻记者:美国反垄断执法机构公开表达了对人工智能的一系列担忧,据报道美国司法部和联邦贸易委员会达成协议,为对微软、OpenAI和英伟达进行反垄断调查铺平道路。这种针对大型科技公司的反垄断行动真的能增加市场竞争,防止人工智能发展被少数公司主导吗?

阿塞莫格鲁:它绝对可以发挥作用。反垄断非常重要。科技行业一些问题的根源在于美国反垄断执法的缺失。五巨头科技公司都在各自领域建立了强大的垄断地位,因为它们能够在没有任何监管的情况下收购潜在的竞争对手。在某些情况下,他们购买并退役可能与其竞争的技术,以巩固其垄断地位。我们绝对需要反垄断来打破过去三十年里大型科技公司的政治权力。很强大。

但我也想强调,仅靠反垄断是不够的。我们需要将技术转向对社会有益的方向。仅仅将Meta 拆分为Facebook、Instagram 和WhatsApp(加剧市场竞争并阻止少数公司主导AI 开发)是不可能实现的。在人工智能领域,如果担心人工智能技术被用于操纵、监视或其他恶意目的,反垄断本身并不能解决问题。反垄断必须与更广泛的监管议程相结合。

技术与人:如何避免犯过去的错误

澎湃新闻:您一直强调“机器有用性”,即“努力让机器对人类更加有利”。您认为应该如何实现这一目标?未能实现这样的目标会产生什么后果?

阿西莫格鲁:这与上述对首席执行官的建议有关。我们想要的是能够扩展人类能力的机器,而就人工智能而言,实现这一目标的可能性很大。人工智能是一种信息技术,所以我们应该考虑什么样的人工智能工具可以为人类决策者提供有用的、依赖于上下文的即时信息。人工智能工具可以使人类成为更好的问题解决者,能够执行更复杂的任务。这不仅适用于创意工作者、学者或记者,也适用于蓝领工人、电工、水管工、医疗保健工作者和其他所有职业。更好地获取信息可以推动更明智的决策并执行更高级别的任务,这就是机器的实用性。

澎湃新闻:您建议给予工人公平的劳动税收待遇。像人类雇员一样对设备和软件征税,或者鼓励就业而不是自动化的税收改革,是实用的解决方案吗?

阿西莫格鲁:是的,我在《权力与进步》 中与西蒙·约翰逊争论,更公平的税收制度可能是解决方案的一部分。在美国,企业在雇用劳动力时面临着超过30% 的边际税率。当他们使用计算机设备或其他机械来执行相同的任务时,税率低于5%,这为自动化提供了不当的激励,同时阻碍了就业以及对培训和人力资本的投资。将资本和劳动力的边际税率调整到同一水平是一个合理的政策理念。

澎湃新闻:您提出税收改革是为了奖励就业而不是自动化。这些改革将如何影响企业对自动化技术的应用和投资?

阿西莫格鲁:在这方面你必须小心,不要阻碍投资,特别是在许多需要快速增长、可再生能源和医疗保健技术等领域需要新投资的国家。但如果我们能够鼓励技术以正确的方式发展,这对商业也有好处。因此,我的建议是消除对自动化的过度激励,并希望其实现方式不会普遍阻碍商业投资。

NVIDIA IC资料图

澎湃新闻:社交平台的快速发展带来了一些负面影响,比如信息泡沫、错误信息传播等。您认为我们在人工智能的进一步发展中如何才能避免重蹈覆辙?

阿西莫格鲁:三个原则可以帮助避免重蹈过去的错误:(1)优先考虑机器的实用性,正如我所提倡的; (2) 赋予工人和公民权力,而不是试图操纵他们; (3) 引入更好的监管框架,让科技公司承担责任。

科技与工业:数字广告税让行业更具竞争力

澎湃新闻:技术专家Jalen Lanier 强调互联网用户的数据所有权问题。您认为个人数据的所有权和控制权应如何在政策上得到更好的保护?

Acemoglu:我认为这是一个重要的方向。首先,我们需要越来越多的高质量数据,而产生这些数据的最佳方式就是奖励创造高质量数据的人。数据市场可以实现这一点。其次,目前数据被科技公司掠夺,既不公平,也不高效。

但关键是数据市场不像水果市场,我的数据往往会高度替代你的数据,所以如果科技公司可以与个人谈判购买他们的数据,就会出现“逐底竞争”。 ),这样做的行政成本会非常高。因此,我认为一个运作良好的数据市场需要某种形式的集体数据所有权,可能以数据联盟或数据行业协会或其他集体组织的形式。

澎湃新闻:您对引入数字广告税以限制算法驱动的错误信息获利有何看法?这样的税收政策会对数字广告行业和信息传播产生什么影响?

阿西莫格鲁:我支持征收数字广告税,因为基于数字广告的商业模式具有很强的操纵性,它们与制造情绪愤怒、数字成瘾、极度嫉妒和信息茧的策略具有协同作用。它们还可以与利用个人数据的商业模式产生协同作用,从而导致心理健康问题、社会两极分化和民主公民意识下降等负面后果。

更糟糕的是,如果我们要按照我的建议重塑人工智能的方向,我们需要引入新的商业模式和新平台,但当今基于数字广告的商业模式使这变得不可能。你无法基于用户订阅推出新的社交平台并复制维基百科的成功,因为你反对一家提供免费服务并拥有庞大客户群的公司。因此,我认为数字广告税是提高科技行业竞争力的一种方式:如果收集用户数据和通过数字广告货币化的“俗套伎俩”能够得到遏制,新的商业模式和更多多样性就会出现。产品。

澎湃新闻:您能否分享一下您认为未来技术发展可能带来的一些积极变化,以及我们应该如何准备和推动这些变化?

阿塞莫格鲁:如果我们正确使用人工智能,它可以提高各行业工人的专业技能,改善科学发现的过程。我还认为有一些方法可以民主地使用人工智能。

猜你喜欢