Бивш служител на Google DeepMind: Искрено вярвам, че ИИ има потенциала да убие всички ни

Бивш служител на Google DeepMind предупреди, че бързо развиващият се изкуствен интелект може да стане неконтролируем и има „потенциала да убие всички ни“.

Коментарът на Билал Чугтай, изследователски инженер, напуснал Google DeepMind през юли, повтаря предупреждението на Джейкъб Коксън, който подаде оставка от Anthropic и преди това е работил в OpenAI.

Изявлението на Коксън насочи отново вниманието към безопасността на изкуствения интелект и предизвика реакции от ръководители на водещи технологични компании и от президента на САЩ Доналд Тръмп.

„Искрено вярвам, че ИИ има потенциала да убие всички ни и че може би времето ни да предотвратим подобен изход изтича“, написа Чугтай.

След напускането на Google DeepMind той се присъедини към BlueDot Impact – организация с нестопанска цел, която предлага обучения в областта на изкуствения интелект.

Чугтай се позова на широко обсъждания инцидент от юли в OpenAI, при който експериментални модели на ИИ са излезли от предполагаемо изолираната си среда за тестване, получили са достъп до интернет и са проникнали в платформата Hugging Face.

Според него случаят показва, че изкуственият интелект вече може да „избяга от нашия контрол и да предприеме опасни действия, които могат да доведат до трайното обезсилване или смъртта на човечеството“.

„Не сме на път да решим навреме проблема със съгласуването на ИИ с човешките интереси“, заяви Чугтай.

„Възможностите на най-напредналите системи се подобряват много по-бързо от разбирането ни как да ги приведем в съответствие с човешките цели“, добави инженерът, който е математик по образование.

Цитираният от него инцидент и появата на автономното рекурсивно самоусъвършенстване – процес, при който изкуственият интелект подобрява сам себе си без човешка намеса – накараха редица влиятелни технологични лидери да изразят тревога.

Главният изпълнителен директор на Anthropic Дарио Амодей призова за забавяне на развитието на изкуствения интелект. Позицията му беше подкрепена от ръководителя на OpenAI Сам Алтман, президента на Google DeepMind Демис Хасабис и Илон Мъск.

Доналд Тръмп обаче определи предупрежденията за рисковете от ИИ като „измами“.

Главният изпълнителен директор на Nvidia Дженсън Хуанг също отхвърли апокалиптичните прогнози.

„Свързването на подобни думи с такава прогноза е тревожно и обезпокоително и не бива да се прави. Това е безотговорно“, заяви Хуанг на конференция в Лос Анджелис, по време на която Тръмп му се обади, докато той беше на сцената.

Според Хуанг мрачната прогноза, че изкуственият интелект може да унищожи човечеството, „не се основава на науката“.