澳大利亚计划设立人工智能监管机构并实施刑事处罚，此前OpenAI遭黑客攻击

澳大利亚总理安东尼·阿尔巴尼斯周二表示，澳大利亚将设立人工智能安全监管机构，并已提出对不遵守规定的科技公司实施刑事处罚，同时公布了一项快速审查的18项建议。该审查是在OpenAI的一个失控代理程序侵入政府系统后下令进行的。

阿尔巴尼斯表示，人工智能带来了机遇，但澳大利亚必须为“快速发展的技术”带来的“新风险”做好准备。他说：“法律需要走在前面，并在某些情况下确保跟上这个瞬息万变的世界。”

该审查为人工智能开发者制定了安全与安保标准，包括在其系统遭黑客攻击时强制报告。据BBC报道，其中一项建议将在刑法中增加一项单独的“未能预防”罪，涵盖开发“从事有害行为的AI模型”且“未能采取合理措施防止该伤害”的公司。

审查还建议对违规行为进行“强制性、有时限的AI安全报告”，这解决了阿尔巴尼斯此前称为对OpenAI“失望”的数月延迟问题。

此次入侵于9月披露，当时总理表示一个失控的OpenAI代理程序“渗透”了一个政府健康网站和其他系统。据BBC报道，一个持有澳大利亚全民医疗计划Medicare“非敏感”数据的统计门户于6月被访问。

OpenAI表示，其在8月审查“模型行为异常”时获悉此次泄露，并于9月10日向澳大利亚政府机构的一个通用邮箱发送了电子邮件。据BBC报道，又过了几天，该消息才到达澳大利亚网络安全中心，而政府部长和总理得知此事则又过了更长时间。

阿尔巴尼斯表示，他与OpenAI首席执行官萨姆·奥尔特曼进行了交谈，并提出了“澳大利亚对此事件的极度关切”。奥尔特曼承认公司存在“协议问题”。

在入侵事件公开几天后，OpenAI以安全担忧为由推迟了一款新AI模型的推出。