澎湃新闻记者 胡含嫣
AI(人工智能)芯片龙头英伟达CEO黄仁勋再次坚定反驳“AI末日论”。
当地时间9月15日,在软件巨头Salesforce举办的年度大会上,黄仁勋与Salesforce CEO马克·贝尼奥夫(Marc Benioff)展开同台对话。针对硅谷近日围绕AI安全展开的激烈争论,黄仁勋表示,AI行业“不需要任何新的法律,也不需要新的监管”,AI安全本质上是一个工程问题,而不是法律问题。
黄仁勋解释道:“我们终究是在开发软件,是在开发计算系统。这是一个复杂的计算系统,但归根结底,它仍然是一个计算系统。”
在黄仁勋看来,市场本身就能够形成约束企业的力量,因此不需要通过新增法律和监管来干预AI发展。他指出,如果一家企业无法确认旗下产品的功能、能力或者安全性,最简单的办法就是不要发布:“你应该调整自己的节奏,直到你有信心推出一个市场会认可的产品。”
黄仁勋进一步表示,创新速度和产品安全是一个“错误的二选一问题”:“你完全可以同时拥有这两者。一边尽可能快速地推进,而如果在任何时候你觉得公司已经失控,或者产品不会安全,那么就暂停一下,确保把它做好。”
在大会上,Salesforce与英伟达宣布推出一款面向CRM(客户关系管理)场景的推理模型“Koa”,基于英伟达Nemotron 3 Super模型进行后训练,并运行在Salesforce的基础设施中。
同一天,在接受美国知名经济评论员吉姆·克雷默(Jim Cramer)的采访时,黄仁勋又一次正面反驳“AI末日论”。
黄仁勋表示,他不认为人类会在2030年因AI而“灭亡”,全球有数千家公司都在开发AI:“我们会建立各种护栏,会发明各种保障安全和安保的技术。全世界都在发生这些事情。并不是只有两家公司在开发AI,而是有数千家公司都在开发AI。”
黄仁勋也强调,AI安全本身是真实存在的问题,“已经有足够多的法律,也已经有足够多的监管”。
就在一天前,黄仁勋在一个论坛现场接到了美国总统特朗普的电话。在电话中,特朗普称“AI末日论”是“骗局”。黄仁勋附和道:“你是对的,我们不会让(AI减速)发生。”
15日当天,英伟达(Nasdaq:NVDA)股价涨0.57%收于每股212.17美元,总市值5.11万亿美元。
此前,在Anthropic前员工公开发出关于“AI末日风险”的警告之后,Anthropic CEO达里奥·阿莫迪(Dario Amodei)发表一篇千字长文,呼吁行业放缓提升前沿模型能力的速度,为安全研究和风险治理争取更多时间。
随后,OpenAI CEO山姆·奥特曼(Sam Altman)和SpaceX的CEO马斯克均在社交媒体上表示,他们赞同阿莫迪的观点。
目前,美国科技巨头们仍在围绕AI安全问题进行激烈的“口水战”。阿莫迪和奥特曼也在本次Salesforce大会上分别与贝尼奥夫进行了对话,阐述了与黄仁勋不同的立场。
对于“放缓AI”的声明,阿莫迪表示:“我认为这是引领行业前进的方式,树立榜样,表明每个人都可以做得更好。”
奥特曼则指出,鉴于现有模型的强大功能,安全和监控必须优先于性能:“有些公司会说‘只有当其他公司都承担责任后,我们才会承担责任’。而人们会追问,公司究竟会采取什么措施来确保安全和负责。这一点不应该有任何限定条件。”
相比之下,贝尼奥夫采取了更加中立的态度。他表示,AI公司应该遵守现行法律,但AI行业确实正处于“一个非常不稳定的时期”。
与黄仁勋一样,贝尼奥夫也认为AI的发展速度应由企业自行决定。但他将AI的发展与此前的社交媒体发展作对比,并称“我们必须让企业和技术高管对他们开发的技术负责”。