b体育网站官方登录·OpenAI首席科学家Ilya访谈:AGI需要防范
来源:b体育网站登录 作者:b体育网页版登录      发布时间:2024-07-15 10:04:16

  5月15日报道,销声匿迹已久的OpenAI联合创始人、首席科学家 Ilya Sutskever 在社交平台上发文,宣布“决定离开OpenAI”。

  我来到旧金山 Mission 区一条不起眼的街道上,在 OpenAI 的联合创始人兼首席科学家 Sutskever 公司一栋不起眼的办公楼里与他会面,听听他大力推动的这项颠覆世界的技术的下一步发展。我还想知道他的下一步是什么,特别是为什么构建公司的下一代旗舰生成模型不再是他工作的重点。

  Sutskever 告诉我,他的新优先事项不是构建下一个 GPT或图像制作器 DALL-E ,而是找出如何阻止人工智能(他认为一种假想的未来技术,凭借真正信徒的远见而出现)的失控。

  Sutskever 还告诉了我很多其他事情。他认为ChatGPT可能是有意识的(如果你眯着眼睛的话)。他认为世界需要认识到他的公司和其他公司正在竞相创造的技术的真正力量。他认为有一天一些人类会选择与机器融合。

  Sutskever 说的很多话都很疯狂。但并不像一两年前听起来那么疯狂。正如他本人告诉我的那样,ChatGPT 已经改写了很多人对即将发生的事情的期望,将“永远不会发生”变成“会比你想象的更快发生”。

  在预测通用人工智能(他指的是像人类一样聪明的机器)的发展之前,他说:“重要的是要讨论一切的发展方向,就好像它就像另一款 iPhone 一样肯定是一个赌注:“在某个时候我们真的会拥有AGI。也许 OpenAI 会构建它。也许其他公司会建造它。”

  自从去年 11 月突然出人意料地发布了ChatGPT 以来,围绕 OpenAI 的讨论一直令人震惊,即使是在一个以炒作闻名的行业中也是如此。没有人会厌倦这家价值800 亿美元的初创公司。世界寻求(并获得)私人观众。它笨重的产品名称会在随意的谈话中突然出现。

  OpenAI 的首席执行官萨姆奥尔特曼 (Sam Altman) 在夏季的大部分时间里进行了为期一周的外展之旅,热情地与政客们打交道,并向世界各地挤满人的礼堂发表演讲。但 Sutskever 并不是一个公众人物,他也不接受太多采访。

  他说话时从容、有条理。当他思考自己想说的内容以及如何表达时,他会停顿很长时间,像解谜一样翻来覆去地思考问题。他似乎对谈论自己不感兴趣。“我过着非常简单的生活,”他说。“我上班;然后我回家。我不做太多其他事情。人们可以参加很多社交活动,可以参加很多活动。我不这么认为。”

  但当我们谈论人工智能,以及他所看到的划时代的风险和回报时,前景就开阔了:“这将是具有里程碑意义的、惊天动地的。会有之前和之后。”

  在没有 OpenAI 的世界中,Sutskever 仍将载入人工智能史册。他是以色列裔加拿大人,出生于苏联,但从五岁起在耶路撒冷长大(他仍然会说俄语、希伯来语和英语)。随后,他移居加拿大,在多伦多大学跟随人工智能先驱杰弗里辛顿 (Geoffrey Hinton) 学习,杰弗里辛顿 (Geoffrey Hinton)在今年早些时候公开表达了对他帮助发明的技术的担忧。(苏茨克维尔不想对辛顿的言论发表评论,但他对流氓超级智能的新关注表明他们的观点是一致的。)

  Hinton 后来因在神经网络方面的工作而与 Yann LeCun 和 Yoshua Bengio 分享了图灵奖。但当 Sutskever 在 2000 年代初加入他时,大多数人工智能研究人员认为神经网络是一个死胡同。辛顿是个例外。他已经在训练微型模型,这些模型可以一次生成一个字符的短文本字符串,Sutskever 说:“这就是生成式人工智能的开始。这真的很酷——只是不太好。”

  Sutskever 对大脑很着迷:它们如何学习,以及如何在机器中重新创建或至少模仿该过程。和 Hinton 一样,他看到了神经网络的潜力以及 Hinton 用来训练神经网络的试错技术,即深度学习。“它一直在变得越来越好,越来越好,” Sutskever 说。

  2012 年,Sutskever、Hinton 和 Hinton 的另一位研究生 Alex Krizhevsky 构建了一个名为 AlexNet 的神经网络,他们训练该网络来识别照片中的物体,其效果远远好于当时的任何其他软件。这是深度学习的大爆炸时刻。

  经过多年的失败,他们证明了神经网络在模式识别方面的效果惊人。你只需要比大多数研究人员以前见过的更多的数据(在本例中,是普林斯顿大学研究员李飞飞自 2006 年以来一直在构建的 ImageNet 数据集的一百万张图像)和令人眼花缭乱的计算机能力。

  计算方面的巨大变化来自于 Nvidia 制造的一种名为图形处理单元 (GPU) 的新型芯片。GPU 被设计为能够以闪电般的速度将快速移动的视频游戏视觉效果投射到屏幕上。但 GPU 擅长的计算(将大量数字网格相乘)恰好看起来很像训练神经网络所需的计算。

  英伟达现在是一家价值数万亿美元的公司。当时,它迫切希望为其利基新硬件找到应用程序。Nvidia 首席执行官黄仁勋 (Jensen Huang) 表示:“当你发明一项新技术时,你必须能够接受疯狂的想法。” “我的心态总是寻找一些古怪的东西,而神经网络将改变计算机科学的想法——这是一个极其古怪的想法。”

  黄说,当多伦多团队研究 AlexNet 时,Nvidia 向多伦多团队发送了一些 GPU 进行尝试。但他们想要最新版本,一种名为 GTX 580 的芯片,该芯片在商店中很快就销售一空。据黄说,苏茨克弗开车从多伦多越过边境到纽约去买一些。“人们在拐角处排队,”黄说。“我不知道他是怎么做到的——我很确定你们只能每人买一个;我们有一个非常严格的政策,每个玩家配备一个 GPU,但他显然装满了一个后备箱。装满 GTX 580 的行李箱改变了世界。”

  这是一个很棒的故事——只是可能不是真的。Sutskever 坚称第一批 GPU 是他在网上购买的。但这种神话在这个热闹的行业中很常见。 Sutskever 本人则更为谦虚:“我想,如果我能取得哪怕一丁点的真正进步,我就会认为这是成功的,”他说。“对现实世界的影响感觉很遥远,因为当时计算机还很弱小。”

  AlexNet 取得成功后,谷歌前来敲门。它收购了 Hinton 的衍生公司 DNNresearch 并聘请了 Sutskever。Sutskever 在谷歌展示了深度学习的模式识别能力可以应用于数据序列,例如单词和句子以及图像。“伊利亚一直对语言很感兴趣,”苏茨克弗的前同事杰夫迪恩 (Jeff Dean) 说道,他现在是谷歌的首席科学家:“这些年来我们进行了很好的讨论。伊利亚对于事情的走向有着强烈的直觉。”

  但 Sutskever 并没有在谷歌呆太久。2014年,他被招募成为OpenAI的联合创始人。在 10 亿美元(来自 Altman、Elon Musk、Peter Thiel、微软、Y Combinator 等)的支持下,再加上大量的硅谷风气,这家新公司从一开始就将目光投向了开发 AGI,但很少有人认真对待这一前景。

  有了雄鹿背后的大脑——Sutskever 的加入,这种趾高气扬的态度是可以理解的。在那之前,他一直在顺利地从神经网络中获得越来越多的成果。Y Combinator 投资董事总经理道尔顿考德威尔 (Dalton Caldwell) 表示,他的声誉先于他,这使他成为了一个大热门。

  “我记得萨姆(奥特曼)称Ilya为世界上最受尊敬的研究人员之一,”考德威尔说。“他认为 Ilya 能够吸引很多顶尖的人工智能人才。他甚至提到,世界人工智能专家之一 Yoshua Bengio 认为,不太可能找到比 Ilya 更好的候选人来担任 OpenAI 的首席科学家。”

  然而一开始 OpenAI 却陷入了困境。“有一段时间,当我们开始 OpenAI 时,我不太确定进展将如何继续,”Sutskever 说。“但我有一个非常明确的信念,那就是:人们不会反对深度学习。不知何故,每次遇到障碍时,研究人员都会在六个月或一年内找到解决方法。”

  他的信念得到了回报。OpenAI 的第一个 GPT 大语言模型(名称代表“生成预训练变压器”)出现于 2016 年。随后出现了 GPT-2 和GPT-3。然后是DALL-E,引人注目的文本到图像模型。没有人建造出如此好的东西。每一次发布,OpenAI 都提高了人们认为可能的标准。

  去年 11 月,OpenAI 发布了一款免费聊天机器人,重新包装了一些现有技术。它重置了整个行业的议程。

  当时,OpenAI 并不知道自己要发布什么。Sutskever 表示,公司内部的期望已经低得不能再低了:“我承认,这让我有点尴尬——我不知道我是否应该这样做,但管他呢,这是事实——当我们制作 ChatGPT 时,我并没有”不知道有什么好处。当你问它一个事实问题时,它给了你一个错误的答案。我认为这会很不起眼,人们会说,‘你为什么要这样做?这很无聊!”

  Sutskever 说,最吸引人的地方就是便利。ChatGPT 背后的大型语言模型已经存在了几个月。但将其包装在一个易于访问的界面中并免费赠送,让数十亿人第一次意识到 OpenAI 和其他人正在构建的东西。

  “第一次的经历让人着迷,”苏茨克弗说。“当你第一次使用它时,我认为这几乎是一种精神体验。你会说,‘天哪,这台计算机似乎能理解。’”

  OpenAI 在不到两个月的时间里就积累了 1 亿用户,其中许多人都被这个令人惊叹的新玩具弄得眼花缭乱。存储公司 Box 的首席执行官 Aaron Levie 在推特上总结了发布后一周的氛围:“ChatGPT 是技术领域罕见的时刻之一,你可以看到未来一切都会有所不同。”

  一旦 ChatGPT 说出一些愚蠢的话,这种奇迹就会崩溃。但到那时就无所谓了。苏茨克维尔说,对可能性的一瞥就足够了。ChatGPT 改变了人们的视野。

  “AGI 在机器学习领域不再是一个肮脏的词,”他说。“这是一个很大的变化。人们历史上采取的态度是:人工智能不起作用,每一步都非常困难,你必须为每一盎司的进步而奋斗。当人们大肆宣扬通用人工智能时,研究人员会说,‘你在说什么?这个不行,那个不行。有很多问题。但有了 ChatGPT,感觉就开始不一样了。”

  这种转变在一年前才开始发生?“这一切的发生都是因为 ChatGPT,”他说。“ChatGPT 让机器学习研究人员得以实现梦想。”

  OpenAI 的科学家从一开始就是布道者,一直通过博客文章和巡回演讲来激发这些梦想。它正在发挥作用:“我们现在有人在谈论人工智能将走多远——人们在谈论 AGI,或者说超级智能。”不仅仅是研究人员。“各国政府正在讨论这个问题,”苏茨克韦尔说。“这很疯狂。”

  Sutskever 坚持认为,所有这些关于尚不存在(也可能永远不会存在)的技术的讨论是一件好事,因为它让更多的人意识到他已经认为理所当然的未来。

  他说:“你可以利用 AGI 做很多令人惊奇的事情,不可思议的事情:自动化医疗保健,使其便宜一千倍,效果好一千倍,治愈如此多的疾病,真正解决全球变暖问题。” “但也有很多人担心:‘天啊,人工智能公司能成功管理这项巨大的技术吗?’”

  这样看来,通用人工智能听起来更像是一个如愿以偿的精灵,而不是现实世界的前景。很少有人会对拯救生命和解决气候变化说不。但一项不存在的技术的问题在。


b体育网站官方登录 上一篇:行业风向标丨科技创新新起点拥抱机器人与AI智能制造 下一篇:北京海淀:建筑垃圾资源化再生产品利用推介会召开