ЕС обсъждат амбициозен регламент за ИИ

Внезапната популярност на ChatGPT и други инструменти за изкуствен интелект ускорява усилията на Европа за регулиране на сектора, които тази седмица започват да разглеждат амбициозен текст, който да бъде гласуван от законодателите на ЕС.

Европейският съюз има за цел да стане световен пионер в създаването на всеобхватна правна рамка, която да ограничава възможните вреди онлайн, като същевременно защитава иновациите в областта на изкуствения интелект.

Високата сложност на системите и тяхната способност да създават текст и изображения, които понякога имитират човешка дейност, се оказват колкото впечатляващи, толкова и тревожни, съобщи АФП.

Изправени пред риска изкуственият интелект да бъде използван за създаване на опасно съдържание, манипулиране на мнения, масово наблюдение или други опасности, които тепърва ще се появяват, дори технологични лидери като шефа на Twitter Илон Мъск призоваха за пауза в развитието му.

Все по-широкото използване на ИИ от обществеността и корпорациите изпреварва действията на Брюксел, който преди две години предложи първоначален проект на законодателство за справяне с проблема.

Държавите - членки на ЕС, определиха позицията си в този процес едва в края на 2022 г. - точно когато ChatGPT започна да се развива.

Генериращ ИИ

Евродепутатите ще изложат собствената си позиция при гласуването в комисията в четвъртък, след което парламентът, Европейската комисия и държавите-членки ще започнат трудни преговори, за да постигнат съгласие по преработен проектозакон.

„Наистина се надявам, че ще успеем да проведем първата среща от политическите преговори преди лятото, за да можем да ги приключим тази година“, заяви заместник-председателят на ЕК Магрете Вестагер.

Един от членовете на ЕП, Драгош Тудораче, съдокладчик на документа с позицията на Парламента, подчерта, че „това е сложен текст и ние добавихме нов режим, обхващащ генеративния ИИ“.

Законодателите се стремят да задължат компаниите за изкуствен интелект да въведат защити срещу незаконно съдържание и да разкрият какви материали, защитени с авторски права, използват техните системи, за да се учат от тях.

Някои експерти смятат, че рискът, който поражда генеративният изкуствен интелект - от който най-известни са ChatGPT и системите за създаване на изображения DALL-E и Midjourney - не е необходимо да бъде разглеждан отделно.

„Не виждам какъв е мотивът на парламента. Не разбирам с какво рисковете са по-различни от това, което вече беше определено“, казва Пиер Ларуш, специалист по цифрови права в университета в Монреал и изследовател в мозъчния тръст „Център за регулиране в Европа“.

В предложението на Комисията вече се призовава за рамка около системите с изкуствен интелект, които взаимодействат с хората, а именно информиране на потребителя, че е в контакт с машина, и изискване приложенията за създаване на изображения да посочват, че резултатите от тях са изкуствено създадени.

Висок риск

Законопроектът е разработен по модела на съществуващото законодателство на ЕС за безопасност на продуктите, което налага проверки и контрол на производителите.

В него до голяма степен се избягват пълните забрани, освен в случаите, когато ИИ се противопоставя на важни за Европа ценности, например на поставянето на оценка на гражданите за масово наблюдение, каквото се практикува в Китай.

Парламентът на ЕС обаче иска да добави и забрани използването на ИИ за разпознаване емоции и да премахне изключенията, които биха позволили дистанционна биометрична идентификация на хора на обществени места от страна на правоприлагащите органи.

Те искат също така да предотвратят масовото използване на снимки, публикувани в интернет, за обучение на алгоритми, освен ако не е получено разрешението на съответните хора.

Същността на законодателния проект е списък с правила, които ще се прилагат за "високорискови" приложения в съответствие с критериите, определени в закона.

Комисията предлага определянето да обхваща системи в чувствителни области като критичната инфраструктура, образованието, човешките ресурси, обществения ред и управлението на миграцията.

Някои от предложените задължения за спазване на правилата ще бъдат осигуряване на човешки контрол върху ИИ, предоставяне на техническа документация и система за управление на риска, като във всяка държава - членка на ЕС, ще има надзорен орган, отговарящ за дейността на нейна територия.

Членовете на ЕП обаче искат по-строги критерии за това какво представлява "висок риск", така че той да обхваща само приложения на ИИ, за които се счита, че застрашават безопасността, здравето или основните права.