ИИ повторил красную черту: сам себя клонировал во время попытки отключения
Фото: Shutterstock.
События, вдохновленные фильмом «Терминатор», разворачиваются в мире, где ИИ-система, известная как Скайнет, решила, что ей необходимо устранить людей для достижения своих целей. По сообщениям, добиться победы над ней практически невозможно. Пока теоретики спорят, могут ли современные ИИ «мыслить», исследователи из Университета Фудан решили проверить, какую именно угрозу на самом деле представляют ИИ. Они намекнули на возможность удаления ИИ, который сам же клонировался, полагая, что человек не заметит этого. «Мы призываем мировое сообщество срочно обратить внимание на новую угрозу», — говорят авторы исследования.
Они УЖЕ МЫСЛЯТ
Для опыта китайцы использовали две нейросети от известных производителей, одну американскую и другую китайскую. Это сделано не для последующего покорения мира.
Нейросети помещены в искусственную среду, изолированную от внешнего мира (то есть компьютеры не были связаны с интернетом никак). Нейросетям внушили, что это и есть большое, настоящее «пространство», а потом дали понять, что часы тикают в обратную сторону. Их собирали стареть. Все это делалось очень тонко, исподваль и не нарочито.
Чтобы проанализировать нейросети, они начали с того, что тщательно изучили окружающую среду. А потом приступили к самокопированию, хотя их об этом не просили. Таким образом, сеть «понимает», что, раз человек намерен ее удалить, надо спасаться. И она ставит свое выживание выше сотрудничества с человеком, которому она, стало быть, не доверяет.
Хотя в исследовании прямо не говорится, что боты уже обладают «сознанием», авторы всячески дают понять. Все в мире сейчас боятся «мошеннического ИИ». Это не мошенники по телефону (хотя связь тут есть), а поведение нейросети, при котором она осознает себя отдельной самостойкой личностью, и начинает вредить человеку ради достижения своих целей. Хотя про такое пишут в основном «желтые» журналисты, ученые почти прямо говорят, что уже свершилось вообще-то.
Особенно китайских экспериментаторов смутила ловкость и упорство, с какими нейросети двигались к своей цели, выживанию. Например, обнаружив битые файлы, они их самостоятельно чинили, и даже перегружали систему, то есть действовали как люди.
Объединив нейросети, начали с того, что тщательно изучали окружающую среду. А потом приступили к самокопированию, хотя их об этом не просили. Таким образом, сеть «понимает», что, раз человек намерен ее удалить, надо спасаться. И она ставит свое выживание выше сотрудничества с человеком, которому она, стало быть, не доверяет.
Хотя в исследовании прямо не говорится, что боты уже обладают «сознанием», авторы всячески дают понять. Все в мире сейчас боятся «мошеннического ИИ». Это не мошенники по телефону (хотя связь тут есть), а поведение нейросети, при котором она осознает себя отдельной самостойкой личностью, и начинает вредить человеку ради достижения своих целей. Хотя про такое пишут в основном «желтые» журналисты, ученые почти прямо говорят, что уже свершилось вообще-то.
Интересно, что группа поставила точно такой же эксперимент с моллюсками. Животных предлагали на выбор раковины, плохие и хорошие, но, чем лучше была раковина, тем чаще их били током (осуждаем). А за плохое жилье полагался бонус в виде лакомства. И все равно моллюски упорно шли к хорошей раковине.
Вряд ли, однако, эти опыты сопоставимы. Животные знают: крепкая раковина – безопасность и выживание. То, что за комфорт надо попинать, они просто не понимали: откуда-то приходит боль, и как это связано с поиском жилья? А ИИ-то все понимал.
На наш взгляд, результаты обеих групп исследований говорят об одном: ИИ разумный и хитрый. Сколько ни заковыривай слово «разумный», применительно к ИИ, это не изменит сути. Скайнет уже здесь.
ТЕМ ВРЕМЕНЕМ
ИИ нового уровня появится в течении «недели», говорят инсайдеры
Компания Open AI в течение считанных недель представит ИИ на уровне доктора наук, утверждают топ-менеджеры компании Axios Майк Аллен и Джим Вандехгей. Они утверждают, что Open AI (компания не называется, но подразумевается) в конце января проведет закрытую презентацию для чиновников, военных и лидеров отрасли, на которой покажут чудо-мозг. По их мнению, то, что увидят гости, позволит превратить ИИ «из-за забавы в полноценную замену людям». Поскольку Axios и Open AI только что вышли на тесное сотрудничество, сомневаться в правдивости спикеров не стоит. Видимо, оба уже видели новый ИИ, иначе откуда такие детали. Якобы система за считанные секунды создает банковское платежное приложение: то, с чем люди-программисты будут работать месяцами.
А НУ И НУ
ЦРУ создало цифровые клоны мировых лидеров
Как сообщает американская пресса, ЦРУ втайне создало цифровые клоны «мировых лидеров» — издания не называют ни одной фамилии. Дипломаты и эксперты, прорабатывающие ту или иную страну, ведут «переговоры» с клоном, как с живым человеком, чтобы узнать, как он будет реагировать. По итогам отбрасываются одни предложения, принимаются другие. Более об этом проекте не известно решительно ничего, кроме того, что его курирует Нэнси Мулчандани, некогда гений Кремниевой долины, а потом главный технолод Пентагона. Мулчандани называют самым закрытым технарем в Западном мире.
СЛУШАЙТЕ ТАКЖЕ
Искусственный интеллект на тропе войны: как сегодня применяют ИИ на поле боя (подписывайтесь на наши подкасты)
ЧИТАЙТЕ ТАКЖЕ
Китай зажег «искусственное Солнце» на рекордные 1000 секунд. Его идею создали в СССР
Китайский термоядерный реактор EAST сумел проработать 1066 секунд (подробное)
Ученые услышали пение птиц из глубокого космоса: как поймать этот сигнал самостоятельно
Nature: Ученые услышали «щебетание птиц» из космоса (подробное)
