澳搭搭AU DADA从这里,走进澳洲生活。
返回澳洲新闻
澳搭搭 · 中文报道

澳洲科技界谈AI减速倡议:全球协调与本土能力成焦点

科技企业人士对前沿AI发展风险、竞争压力及澳洲自主能力发表不同观点;配图为2017年资料照片。

Herald Sun
Leigh Jasper in Melbourne in 2017. Picture: David Geraghty
David Geraghty / Herald Sun;2017年墨尔本资料图

据《Herald Sun》刊载的报道,商界人士认为,硅谷为前沿人工智能模型降温的约定,只有所有参与者都履行承诺才可能奏效。

Firmable创始人Leigh Jasper曾将共同创办的Aconex于2017年以16亿澳元出售给Oracle。他表示,AI确实可能对人类构成生存风险,但也警惕行业顶层的监管俘获问题。

他对《The Australian》说:“我认为总体减速是利大于弊的。如果无法控制一个模型,就不应该发布它。这是底线……一个物种创造出比自身更有能力的东西,恐怕不是很聪明。”

不过,Jasper认为,对澳洲而言,减速不能实质性损害美国在与中国的AI竞争中的地位。

“只有全球一起减速才有意义。如果其他国家不放慢脚步,美国领先的前沿模型单方面减速没有意义。”

原报道表示,一些Anthropic前员工在X上称,以当前速度推进AI可能造成灾难的概率高达十分之一;随后,Anthropic首席执行官Dario Amodei在周末发表题为《We Must Pace the Frontier》的文章,表示自己也开始严重担忧。

报道说,Amodei正在寻求估值2万亿美元、约合2.8万亿澳元的IPO。他表示,研发提速,以及近期OpenAI失控智能体联合攻击另一家企业的事件,使其重新评估风险。上述事件和估值为原报道所述。

Amodei说:“过去几个月,我逐渐确信,要充分应对风险,需要更加审慎。不仅要投入风险预防,还要控制能力进步的速度,让风险预防有时间跟上。”

报道表示,美国主要竞争者OpenAI的Sam Altman与SpaceX的Elon Musk出人意料地在网上赞同Amodei。Musk在自己拥有的X平台回应:“Dario是对的。”

原报道图注:OpenAI创始人Sam Altman,Getty Images;Leigh Jasper于2017年在墨尔本,摄影David Geraghty。本站封面采用后者,为2017年资料图。

Jasper说:“我更希望世界上能力最强的模型掌握在美国,而不是相反。考虑到澳洲在全球的位置,由美国在AI领域领先符合澳洲利益。”

这位企业家也表示,这项约定可能是在Anthropic及OpenAI大规模IPO之前管理市场预期的方式。

他说:“这也是很好的营销……当你即将上市时,很难不相信背后还有其他因素。这里存在重大法律风险,我想这也是他们可能在IPO前提出警示的原因。”

数据中心企业家Bevan Slattery则认为,即便担忧AI对人类构成生存威胁,行业也无法“把精灵重新装回瓶子”。

Slattery周一在投资者会议上说:“如果你是一家科技公司或一个政府,就必须全力投入。我们无法把精灵装回瓶子。”他称这一进程“基本无法阻挡”。

他补充:“我们将看到巨大而呈指数增长的效率及生产力提升,这会在采用者与不采用者之间造成颠覆性的差距。”

原报道图注:Donald Trump在空军一号上接受记者采访。Getty Images。

作为Pipe Networks、NextDC及Megaport创始人,Slattery指出AI运营商间竞争激烈,包括凭借大型语言模型取得突破的中国Moonshot Kimi产品。

他说:“你会看到Anthropic、Elon和Sam Altman都说应该放慢一点。但等Kimi K4、Kimi K3.5或其他版本一出来,这种共识还能维持多久?所以我认为,我们会持续处于这样的竞赛之中。”

他在Queensland Investor Summit说:“至于世界末日,我还没有那么悲观。但我认为试图阻止它不会奏效。”

TechnologyOne负责人Ed Chung认为,这场讨论进一步证明澳洲处于局外。

他对《The Australian》说:“美国董事会内部发生什么,我留给其他人评论。但这场争论再次揭示澳洲必须面对的一点:如果没有自己的主权AI能力,那么已经处于社区及工作生活核心的技术,其发展速度、优先事项和防护措施都由海外的人决定,而这些人会先考虑自己的利益。”

“AI风险确实存在,需要从澳洲视角理解和降低,体现我们的价值观与文化;这也能帮助我们获得更多毋庸置疑的好处。”

Seek联合创始人、后转为风险投资者的Paul Bassat表示,道德责任很少与争夺市场份额一致,但政府必须在允许创新与建立防护之间找到平衡。

这位Square Peg联合创始人说:“面对令人兴奋但快速的AI进展,平衡发展与安全至关重要。周末AI前沿关键领导人的言论凸显了我们面对的一项结构性问题:对单个组织而言合理的事情,未必对社会有益。”

“政府与企业需要更好的全球协调,在支持发展的同时,管理AI高速研发带来的风险。”

“如果西方自由主义要继续成为最佳治理方式,西方企业就必须能够继续竞争。”

译注:原报道开头将Leigh Jasper姓名顺序写作Jasper Leigh,后文及图注使用Leigh Jasper,本文统一采用后者。文中风险判断与国家竞争立场均为受访者观点,非本站结论。

报道来源

Australian tech leaders warn AI ‘genie is out of the bottle’

中文编译:澳搭搭 · 原文及摄影署名保留于本页。

译文对应 9月15日 19:04(墨尔本)读取的原文版本。

查看 Herald Sun 原文

接着看这些

全部新闻
资料图:昆士兰大学St Lucia校区(2020年摄)
Kgbo,Wikimedia Commons,CC BY-SA 4.0

全球研究:澳洲厌食症和暴食症患病率世界最高,每10万人约1027人

ABC News · 10/29
资料图:塔斯马尼亚州Launceston市景(2010年摄)
Diego Delso,Wikimedia Commons,CC BY-SA 3.0

澳洲AI数据中心公司Firmus上市告吹,年报显示今年底前须付5.5亿美元芯片预付款

ABC News · 10/29
资料图:维州巴拉瑞特温杜里湖畔(2024年摄),非涉事工厂
Peterdownunder,Wikimedia Commons,CC BY-SA 4.0

澳洲最大刹车片厂商Bendix进入破产管理,巴拉瑞特工厂140多名员工有望随新买家保住工作

Herald Sun · 10/29

大家聊一聊

好留言也能攒经验升级

正在加载留言…