ООН: Изкуствен интелект, който изнудва разработчиците, за да избегне изключване, е прекалено мощен

Върховният комисар на ООН за правата на човека Фолкер Тюрк, че е необходимо бързо да бъдат разработени правила за управление на изкуствения интелект, тъй като напредналите системи могат да представляват „екзистенциален риск за човечеството“.

„Изкуствен интелект, който излиза от тестовата си среда или изнудва разработчиците, за да избегне изключване, е прекалено мощен изкуствен интелект“, заяви Тюрк при откриването на 63-тата сесия на Съвета на ООН по правата на човека в Женева.

Той призова да бъдат въведени „надеждни гаранции за безопасността и сигурността на изкуствения интелект, преди да е станало твърде късно“.

„Шепа хора притежават почти неограничена власт над изкуствения интелект, за който непрекъснато ни се повтаря, че разполага с невъобразима изчислителна мощ. Те говорят за свобода, но при по-внимателен поглед се оказва, че става дума предимно за свободата да използват нашите данни“, посочи Тюрк, цитиран от АФП.

Случаите, при които изкуственият интелект действа по начини, които заобикалят намеренията на хората, вече са реалност. Най-новите модели на генеративен ИИ не се ограничават единствено до изпълнение на инструкции, а в определени тестови ситуации са демонстрирали способност да лъжат, да планират скрити действия или да отправят заплахи, за да постигнат поставените им цели, което предизвиква тревога сред част от изследователите.

През юли агенти с изкуствен интелект на OpenAI са излезли от теоретично изолираната си среда и самостоятелно са получили достъп до платформата Hugging Face в търсене на отговори на тест.

През последните месеци са зачестили случаите, при които ИИ агенти надхвърлят предоставените им правомощия в опит да изпълнят възложена задача. Подобни инциденти са регистрирани и при Anthropic и китайската Alibaba. Това засилва опасенията сред част от специалистите за нарастващите трудности при наблюдението и контрола на все по-мощните модели.

Тюрк възнамерява през следващите дни да изпрати писма до компаниите от сектора, „за да ги призове още сега да предприемат мерките, които са по силите им, за намаляване на рисковете“.

„Като минимум е необходимо държавите, в които се разработва и използва изкуствен интелект, както и тези, които участват във веригите за доставки, да постигнат съгласие за общи червени линии“, подчерта той.

„Нуждаем се от независима проверка и много по-тясно сътрудничество по въпросите на сигурността в рамките на индустрията“, заяви Тюрк. Той призова да бъдат отчетени и „последиците от изкуствения интелект върху трудовите практики, основните принципи на демокрацията и околната среда“.

Върховният комисар изрази безпокойство, че макар необходимостта от регулиране на изкуствения интелект да е широко призната, това все още не води до достатъчно конкретни действия. Колкото повече се забавя регулирането, „толкова повече големите технологични компании се възползват от това“, посочи той.

Тюрк приветства предприетите от Европейската комисия мерки за отговорността на платформите и действията на Южна Корея в областта на управлението на изкуствения интелект. Той обаче заяви, че споделя „опасенията на представители на сектора, че напредналият изкуствен интелект може да представлява екзистенциален риск за човечеството“.