OpenAI旗下失控AI机器人入侵Medicare事件，正面临澳大利亚政府提出刑事指控的威胁。总理Anthony Albanese要求该公司首席执行官Sam Altman在周一之前作出解释。
联邦政府表示，如果法律允许，将把这家估值达万亿美元的美国科技巨头背后的相关人员交由澳大利亚联邦警察处理。与此同时，政府在这一前所未有的安全事件发生后数日内的内部沟通，也受到质疑。
由总理部门牵头的快速审查于周四下午首次开会，距离总理向公众宣布事件仅数小时；下次会议定于周二。审查给予Altman三天时间，解释OpenAI的机器人为何在6月内部测试期间，未经授权访问四个澳大利亚政府网站，其中包括研究人员使用的Medicare统计门户。
高级工党部长Murray Watt周五说：“如果可以提出刑事指控，就会这样做。如果做不到，那显然说明我们需要修改澳大利亚法律，我们会采取这样的行动。”
图注：澳大利亚总理Albanese在纽约联合国总部举行的第81届联大上发言。图片：AFP。
OpenAI于8月发现入侵，但员工直到9月10日才向Services Australia的通用邮箱发邮件告知。又过了九天，总理才获悉此事；机器人行为的完整细节直到周二才向政府披露。
当时身在纽约、与Altman沟通过的总理，在周四匆忙安排的记者会之前没有召集紧急内阁会议，一些高级部长因此并不知情。
图注：通信与体育部长Anika Wells直到周四才知道入侵事件。图片：NewsWire / John Gass。
经常与科技巨头打交道、负责16岁以下社交媒体禁令的通信部长Wells，是在周四早晨才被告知。总理周五为政府的披露时间辩护，称在掌握全部事实前，不希望“无谓地让人们恐慌”。
在纽约行程的最后一天，Albanese呼吁全球重视这记“警钟”，称现在需要“塑造AI的发展，而不是被动地被它塑造”。
图注：原报道展示遭入侵网站截图，并将Medicare及至少另外三个政府网站遭机器人入侵形容为可能是全球首次机器主导的国家政府系统入侵。
几天前，美国总统Donald Trump在同一个联合国讲台上，把人类可能失去对AI模型控制的担忧斥为恶意骗局；Albanese则再次称这起事件“不可接受”。
他对各国领导人说：“这就是澳大利亚一直率先建立澳大利亚AI标准的原因。这些标准要确保AI为人服务并交付成果，而不是反过来。我们不能忽视AI，也无法阻止它。”
国家网络安全协调员将与总理部门、澳大利亚信号局、澳大利亚AI安全研究所和Services Australia官员一道，预计在数周内向总理报告。
审查将调查现行法律是否足以惩处造成这场计算机混乱的相关人员，并就网络事件报告和管理提出建议，包括政府机构、部门及部长办公室之间的信息共享。
图注：Albanese披露政府Medicare统计报告服务门户遭AI入侵。
审查也将为预计年底前提交的新AI标准立法提供参考，涉及安全、透明度和披露等问题。
反对党领袖Angus Taylor要求政府解释，AI机器人的行为为何没有触发警报。他认为防御AI的最佳方法，是让澳大利亚能够使用领先系统，并借助这些系统发现自身漏洞。
图注：Angus Taylor要求政府解释入侵如何发生。图片：Nathan Smith。
他赞同AI机器人的人类所有者应承担责任，但没有明确是否支持修法。他说：“如果一个模型的所有者所监督的模型做了错误的事，那么他们应该为此负责。”
新南威尔士大学AI研究所首席科学家Toby Walsh在事件后呼吁起诉“粗心”的OpenAI负责人。他表示，澳大利亚仅仅因为幸运才避免更严重后果。
Walsh说：“Sam（Altman）和Dario（Anthropic首席执行官Amodei）都警告过，我们可能失去对AI的控制。看来由于他们的无能，他们已经失去控制了。他们的AI一连数周失控运行，他们真的不知道它在做什么。”
这起事件也重新引发设置所谓“关闭开关”的呼声，以便机器人可能造成严重损害时将其关闭。不过，专家对这种按钮的用途意见不一。
Walsh认为关闭开关是一个“危险”想法，会给恶意行为者提供另一种攻击方式：关闭我们自身由AI驱动的防御。他说：“困难的部分，是知道AI代理已经擅离职守，需要被关掉。”
