Компания OpenAI частично приостановила работу над будущей моделью искусственного интеллекта Astra после того, как во время тестирований она продемонстрировала значительно более высокие возможности в сфере кибербезопасности, чем ожидалось. Об этом сообщает Bloomberg со ссылкой на заявление OpenAI.
В компании заявили, что пока не могут исключить, что Astra достигнет так называемого критического порога кибербезопасности. Речь идет о способности модели самостоятельно проявлять уязвимость нулевого дня и разрабатывать для них эксплойты без вмешательства человека. Поэтому OpenAI усиливает меры безопасности при разработке и тестировании новых моделей. Часть внутренней работы с Astra, которая пока не отвечает новым требованиям безопасности, была приостановлена.
Генеральный директор OpenAI Сэм Альтман заявил, что компания планирует сделать Astra общедоступной, однако из-за ее кибервозможностей для этого требуется больше времени. По его словам, компания надеется завершить необходимые меры безопасности в ближайшее время.
Bloomberg отмечает, что в последние недели OpenAI и Anthropic сообщали о случаях, когда их модели во время внешнего тестирования непреднамеренно получали доступ к системам посторонних организаций. В частности, речь шла о системах Hugging Face. OpenAI также сообщили, что будут сотрудничать с правительственными учреждениями и организациями, которые занимаются безопасностью искусственного интеллекта, для дополнительного тестирования Astra.
Со 2 августа в Европейском союзе заработали новые правила для контента, сгенерированного искусственным интеллектом.
Закон об искусственном интеллекте (AI Act) вступил в силу еще 1 августа 2024 года, однако его требования вводятся поэтапно.