Законодатели и страны Европейского союза в четверг договорились запретить системы искусственного интеллекта, создающие сексуализированные дипфейки, после глобального возмущения в этом году в связи с неконсенсусными изображениями обнажённых людей, сгенерированными чат-ботом Grok Илона Маска. «Сегодня ЕС провёл красную черту. Искусственный интеллект никогда не должен использоваться для унижения, эксплуатации или подвергания опасности людей.
Впервые законодательство ЕС явно запрещает приложения для раздевания», — заявил центристский депутат Европарламента Майкл Макнамара агентству AFP. Новый запрет будет включён в поправки к комплексным правилам ЕС в области ИИ, принятым в 2024 году.
Переговорщики от Европейского парламента и стран ЕС также договорились отложить вступление в силу правил для высокорисковых систем ИИ, касающихся моделей, признанных потенциально опасными для безопасности, здоровья или основных прав граждан.
Правила должны были вступить в силу в августе 2026 года для автономных систем ИИ и на год позже — для инструментов ИИ, встроенных в другие продукты, однако теперь сроки перенесены соответственно на декабрь 2027 года и август 2028 года. Исполнительная власть ЕС предложила эти поправки в прошлом году, заявив, что они призваны помочь бизнесу и не допустить торможения инноваций, но при этом надеется направлять безопасное развитие технологий через другие положения Регламента об ИИ.
Мощные модели ИИ вновь оказались под пристальным вниманием в ЕС в последние недели после того, как американский разработчик ИИ Anthropic ограничил выпуск Mythos — модели, которая, по мнению самой компании, может стать находкой для хакеров. Исполнительная власть ЕС провела несколько встреч с Anthropic, но пока не получила доступ к модели; это может измениться позже в текущем году.
«С момента начала работы полномочий по правоприменению AI Office в августе 2026 года мы обеспечим при необходимости получение доступа к модели», — заявил представитель ЕС. Регуляторный орган по ИИ, состоящий из десятков экспертов в области технологий, юристов и экономистов, получит «уникальный доступ к внутренним практикам безопасности и защиты поставщиков», добавил представитель.
ЧИТАЙТЕ ТАКЖЕ: NITDA бьёт тревогу из-за вредоносного ПО DeepLoad AI, нацеленного на нигерийские организации
Законодатели ЕС предупреждали о «формирующейся угрозе европейской кибербезопасности» и о том, что блок был «недостаточно оснащён» для работы с продвинутыми инструментами ИИ, такими как Mythos.