TechCrunch AI ↗ · 2026-11-20 00:19 · UTC+8
Anthropic CEO在纳斯达克开盘致辞重申AI发展节奏
媒体报道 TechCrunch AI 原文语言:英文
Anthropic在史上最大IPO首日,CEO Dario Amodei在纳斯达克开盘致辞中承诺公司将继续在安全框架下稳步推进AI研发,强调保持人类对AI的控制并配合行业安全标准。
全文
当Anthropic在周四以史上最大规模的IPO在华尔街首次亮相时,CEO Dario Amodei重申了公司负责任开发AI的承诺。在纳斯达克开盘铃声前的演讲中,Amodei誓言该AI公司不会屈服于商业或政治压力,并将“保持在人类控制之下”。
在打印稿上阅读演讲稿时,CEO首先谈到了Anthropic的起源——打造强大技术以帮助人类,这一点他表示受到父亲因一种疾病去世的启发,而该疾病在几年后便变得可治愈。
他承认,尽管人类智慧已经让大部分世界摆脱了瘟疫、天花和小儿麻痹等疾病的历史,但仍然缺乏足够的科学家和时间来在其他疾病领域取得进展。他说,AI可以通过与人类协同工作,进一步推动医学进步。
Amodei以强调AI潜在拯救生命的应用的故事开场,这一点颇具意味,因为他一再警告技术发展过快的风险。去年九月,Amodei在概述一项放缓AI发展计划时成为头条新闻,该计划包括与其他领先公司协调安全标准,以及嵌入第三方组织的评估员,以验证公司是否遵守安全承诺。
OpenAI CEO Sam Altman、Google DeepMind 负责人 Demis Hassabis 以及 xAI 所有者 Elon Musk 表示赞同 Amodei 的立场,尽管具体承诺仍寥寥。
在今晨的演讲中,Amodei 再次强调推进AI技术的必要性以及实现这一目标所需的安全性。他提到了AI落入不良行为者手中——无论是个人还是国家——的“非常真实的风险”,以及可能导致的“经济冲击”和“失控的AI系统”。
Anthropic 认为,只要有相应的防护措施,这些风险是可以避免的。他指出,公司将继续投入AI对齐和测试工作,并开发新的方法来理解AI行为,以确保其保持在人类控制之下。
“仍有大量工作要做,最困难的安全工作还在前方,”他表示。“公司拥有的卓越人才使我们能够构建最强大的AI系统,这些人才需要比以往更多地被引导去双重、三重检查这些AI系统的安全性并保持在人类控制之下。”
“明确地说,我们将放慢AI系统的训练和部署,花费必要的时间以确保它们安全并保持在人类控制之下,”Amodei 总结道。
他的妹妹、Anthropic 联合创始人 Daniela Amodei 在周四接受 CNBC 采访时呼应了这些观点,她指出,尽管风险是真实存在的,AI 的前景同样是“令人难以置信的”。
“我们真的基于这样一个理念创立公司:我们的职责是降低这些风险,我认为迄今为止我们在这方面做得非常出色。显然我们还有更多工作要做,但我们对安全深感承诺,”她补充道。
以下是 Dario Amodei 开场演讲的全文:
谢谢你,Daniela。我和我的联合创始人创立 Anthropic,是因为我们相信我们这个时代最强大的技术应该为人类福祉而建。Daniela 和我失去了父亲,他因一种疾病去世,而这疾病在几年后就变得可治愈。我最初的职业是生物学,期望帮助未来的治疗更快出现。在实验室里,我看到了科学家在试图理解疾病并开发新疗法时面临的庞大复杂丛林。许多能够砍断这片丛林的科学工具——基因编辑工具、基因合成工具、用光控制脑细胞的工具——最初都是纯粹的想法。换句话说,它们来源于思考,来源于智慧。
人类的智能已经让鼠疫、天花和小儿麻痹症等疾病在世界大部分地区成为历史。但在其他疾病的攻克上,对于如此多的患者及其家属而言,进展实在太慢了。从一个伟大的构想到一种疗法可能需要几十年的时间。从首次在DNA中发现奇怪的重复序列,到批准第一款使用CRISPR的疾病疗法,经历了漫长的多年。大自然中充满了这些规律,但我们过去的智能太少,无法破译其中大部分规律。科学家太少,而时间又太[少]。现在,我们可以构建这种智能。无论是蛋白质折叠、药物设计、癌症遗传学还是临床试验管理,生物学和医学许多领域的科学家都发现,Claude 可以帮他们在短短几年前所需的一小部分时间内完成研究。我相信,足够强大的AI与人类协同工作,可以将一个世纪的科学和医学进步压缩十年。
我不想过于乐观。目前,我们拥有的都只是初步结果。实验和临床试验仍然需要时间,尽管它们涉及缓慢而沉重的过程,但我相信这些过程可以被AI大幅加速。我们希望在未来,不会再有家庭因仅仅错过几年而与治愈失之交臂。医学只是一个特别生动的例子,但Claude还有许多其他应用。我们的客户——全球最具雄心的公司、非营利组织和个人——已经在应用我们构建的智能来刺激经济增长、使人们摆脱贫困、保护民主和自由社会,甚至让诸如车管所(DMV)这样的日常服务运转得更好。我们为能与他们并肩工作而感到自豪,我也对我们未来共同能做的事情抱有极大的信心。
与此同时,我们一直坦诚相告,这项技术确实存在非常真实的风险。这些风险从个人或民族国家对技术的滥用,到经济颠覆,再到失去对AI系统的控制。我们讨论这些风险,并不是因为我们认为它们不可避免且我们无论如何都要构建,而是因为我们认为它们是可以避免的,并且我们能够避免它们。避免这些风险取决于构建AI的人所做出的选择。如果我们对安全给予很少的关注,与我们对安全达到痴迷的程度,AI的发展结果将会有着巨大的差异。从防范生物和网络风险的防护措施,到对齐训练和测试,再到像X光一样透视我们的模型,对安全和公众利益的执着从一开始就融入了Anthropic的DNA中,Anthropic开创了理解和引导AI行为并使其受控于人类的方法。还有大量的工作要做,最困难的安全工作还在我们前方,公司凭借其卓越的人才构建了最强大的AI系统,现在更需要将这些才能投入到对这些AI系统进行双重和三重检查中,以确保它们是安全的并始终处于人类的控制之下。
明确地说,我们将调整AI系统训练和部署的步伐,只要有必要,我们会花多长时间来确信它们是安全的并将继续处于人类的控制之下,我们绝不向商业或政治压力妥善。今天让公司处于更稳健的财务状况,这样做只会坚定我们做正确事情的决心。如果我们能证明在安全问题上做出正确选择的同时还能建立一家极其成功公司是可能的,那么我们行业中的其他人也将受到启发,做出同样的事情。我们称之为一场向顶峰的竞赛。
当向顶峰的竞赛正常运作时,哪家公司拥有最好的模型并不重要。每个人都是赢家,因为每个人都在安全地构建。当由领先集团推动时,向顶峰的竞赛效果最好,我们完全希望并期待这样做。但我们的目标是让整个行业变得更好,而不管Anthropic在任何特定时间是赢是输。机器智能的出现是人类历史上最具开创性的时刻之一,我们拥有难得的机会将其塑造得更加美好。谢谢。
正文为 AI 译文。