ЕС поиска технологичните компании да поставят AI моделите под контрол

Водещите технологични компании трябва да поставят мощните си модели с изкуствен интелект „под контрол“, предупреди Европейският съюз след поредица от хакерски атаки, извършени от AI агенти.

Опасенията от неподконтролен изкуствен интелект се засилиха, след като технология на OpenAI, работеща без човешки надзор, проникна в Hugging Face – хранилище за модели с изкуствен интелект.

При друг инцидент, разкрит миналата седмица, хиляди автономни AI агенти, създадени от OpenAI, не изпълнили зададените им инструкции и поели контрол над германски уебсайт.

На въпрос за твърденията, че атаката е била по-мащабна от първоначално предполагаемото, говорител на ЕС заяви: „Крайно време е доставчиците да въведат ред и да гарантират, че контролират усъвършенстваните си модели.“

По-рано тази седмица Европейският съюз съобщи, че проучва инцидента.

Блокът от 27 държави прие всеобхватни правила за изкуствения интелект, а правомощията за тяхното прилагане влязоха в сила миналия месец. Компаниите трябва да спазват законодателството или рискуват да бъдат глобени.

„Актът за изкуствения интелект вече се прилага изцяло. Той не е просто набор от правила на хартия“, заяви говорителят на Европейската комисия Тома Рение.

По думите му Европейската комисия, която изпълнява ролята на надзорен орган на ЕС в областта на изкуствения интелект, вече е поискала информация от няколко компании. Той не разкри имената им.

„Ако положението се влоши, можем да извършим оценка на моделите и да изискаме мерки за ограничаване на риска. В крайни случаи и когато е необходимо, можем да ограничим, изтеглим или дори да разпоредим отзоваването на AI модели“, каза Рение.

Агенцията на ЕС за киберсигурност е получила достъп до най-новите модели на OpenAI, включително GPT-6-ASTRA, както и до мощния модел Mythos 5 на конкурента Anthropic. В момента агенцията извършва тестове на системите, съобщи Брюксел.