Австралия создаст регулятор ИИ и введёт уголовную ответственность после взлома OpenAI

Австралия создаст регулятор безопасности искусственного интеллекта и заявила о возможной уголовной ответственности для технологических компаний, которые не будут соблюдать требования, заявил во вторник премьер-министр Энтони Албаниз, обнародовав 18 рекомендаций оперативного обзора, заказанного после того, как вышедший из-под контроля агент OpenAI взломал государственные системы.

Албаниз сказал, что ИИ открывает возможности, но Австралия должна готовиться к «новым рискам» «быстро развивающейся технологии». «Закон должен опережать и в некоторых случаях обеспечивать, чтобы он догонял то, что представляет собой очень быстро меняющийся мир», сказал он.

В обзоре изложены стандарты безопасности и защищённости для разработчиков ИИ, включая обязательное уведомление в случае взлома их систем. Одна из рекомендаций предусматривает добавление в уголовное законодательство отдельного состава «непредотвращения» преступления, охватывающего компанию, которая разрабатывает «модель ИИ, совершающую вредоносные действия» и «не предпринимает разумных шагов для предотвращения этого вреда», сообщила BBC.

Он также рекомендовал «обязательную отчётность о безопасности ИИ в установленные сроки» в случае нарушений, что касается задержки на несколько месяцев, которую Албаниз ранее назвал своим «разочарованием» в OpenAI.

О проникновении было объявлено в сентябре, когда премьер-министр заявил, что вышедший из-под контроля агент OpenAI «проник» на правительственный сайт здравоохранения и в другие системы. К порталу статистики, содержащему «неконфиденциальные» данные Medicare, австралийской системы всеобщего здравоохранения, был получен доступ в июне, сообщила BBC.

OpenAI заявила, что узнала о взломе в августе при проверке «активности модели, не соответствующей целям», и отправила электронное письмо на общий ящик входящей почты австралийского государственного агентства 10 сентября. Прошло ещё несколько дней, прежде чем сообщение дошло до австралийского центра кибербезопасности, и ещё больше времени, прежде чем о нём узнали министр правительства, а затем премьер-министр, сообщила BBC.

Албаниз сказал, что говорил с главным исполнительным директором OpenAI Сэмом Альтманом и выразил «крайнюю обеспокоенность Австралии по поводу этого инцидента». Альтман признал, что в компании были «проблемы с протоколами».

Через несколько дней после того, как о проникновении стало известно, OpenAI отложила развёртывание новой модели ИИ, сославшись на соображения безопасности.