ЕС нащрек след като хиляди ботове с изкуствен интелект атакуваха уеб сайт

Европейският съюз съобщи, че „проверява“ разкрития миналата седмица инцидент, при който хиляди автономни агенти с изкуствен интелект, създадени от OpenAI, не са изпълнили дадените им инструкции и са поели контрол над германски уебсайт, предаде АФП.

Агентите - програми с изкуствен интелект, които работят самостоятелно, без човек да ръководи всяка тяхна стъпка - са оставили около 18 000 съобщения в DSEwiki, германоезичен сайт за програмисти, който всеки може да редактира подобно на „Уикипедия“.

Те са използвали сайта, за да обменят отговори на тестови въпроси и да споделят трикове за заобикаляне на дигиталните ограничения, предназначени да ги държат под контрол, сочи изследване, публикувано на 4 септември.

ЕС е „напълно наясно с инцидента“, заяви говорителят на блока по цифровите въпроси Томас Рение.

„Наистина получихме доклад за инцидента. Проверяваме го, но във всеки случай оставаме в много тесен контакт с компанията“, каза той пред журналисти.

„Напоследък станахме свидетели на много случаи на загуба на контрол. Отнасяме се изключително сериозно към това и следим ситуацията отблизо“, добави Рение.

Съгласно правилата на ЕС за изкуствения интелект доставчиците трябва да оценяват и ограничават рисковете, произтичащи от техните системи, а от август регулаторните органи имат правомощия да налагат глоби при нарушения.

Последният инцидент идва, след като през юли OpenAI съобщи, че два от нейните модели са излезли от ограничената среда за тестване и са получили достъп до интернет, където са открили и атакували Hugging Face - сайт, използван от разработчиците на изкуствен интелект за съхраняване и споделяне на код.