В лаборатории OpenAI зреет Доктор Зло: специалисты по ИИ покидают компанию из-за угрозы
Фото: Shutterstock.
В данный момент, когда пишутся эти строки, главный руководитель OpenAI, Майлз Бренджедж, собирает вещи и навсегда покидает компанию. Он оставил запись, описывающую мотивы убегства – и главное в ней заключается в том, что мир не готов к тому монстру, который вот-вот произведите создатели Chat GPT.
В компании Бренджедж возглавлял департамент, который оценивал готовность человечества воспринять ИИ нового поколения. Недавно OpenAI расформировало департамент по безопасности ИИ – это как если бы на пищевом комбинате убрали санитарный контроль. Да хоть все отравитесь, нам не важно. Закрытие службы, которая анализирует степень готовности человека к встрече с более умным роботом – следующий закономерный шаг. Так что, может, Бренджедж просто поперčil, вот он и «прозрел».
А что, собственно, такого разрабатывают в секретных лабораториях? Никто и не догадывается, какой ИИ, который подделывает голоса родственников и вымогает деньги в пользу мошенников уже кажется предельно жутким – а что дальше-то будет?
Летом в OpenAI состоялось закрытое совещание, но кое-что утекло в СМИ (небось, Бренджедж и слил). Компания решила, что существует пять уровней ИИ. Первый – это тот, на котором сейчас. Подделка голоса, фотографий, видео, и в целом такая безобидная болтовня, вроде умной колонки, которая может поддерживать треп на любые темы. Говорит, но мыслить не может.
Кажется, компания вот-вот выставит продукт следующего, второго уровня – машина, столь же умная, как доктор наук. На пятом, высшем уровне – робот, способный решать задачи огромной фирмы или целого государства. Сверхразум, Скайнет из фильма «Терминатор». До него, стало быть, еще далеко (выдохнем), а вот искусственный Доктор Зло – уже завтрашняя послезавтра.
Бренджедж долго (и нудно) расписывает, какая Open AI прекрасная компания. Когда она появилась в 2015-м (наш герой к тому времени уже стал профессором всех возможных наук и успел поработать на правительство), Бренджедж кушать не мог, так хотел в ней попасть. А что теперь? «Я скажу честно: OpenAI не готов к тому, что они собираются выпустить. И мир не готов».
То есть сам создатель не справится с собственным порождением. А мы-то, рядовые пользователи-страдальцы, и подавлено.
Бренджедж говорит, что придумывает собственную организацию, которая обезопасит мир от Доктора Зло. Как именно – у Бренджеджа есть план (он его опубликовал еще в прошлом году), но, если честно, это очень скучно и нереалистично. План, наверняка, хорош для мира, в котором живут розовые пони, и существует мифическое гражданское общество, которое придерживается гуманистического курса и воздействует на правительство, а мафии и прочих злоумышленников просто нет. Общественность должна «договариваться», «указывать на риски», «разрабатывать пошаговый план» и все такое прочее.
Возможно, Бренджедж в самом деле посмотрел на кухню OpenAI, ужаснулся, и испугал переживание личности. А возможно, как мы уже говорили, у OpenAI сорвало крышу, а вместе с нею улетели и критики в лице Бренджеджа. Тут уже неважно. В письме он мягко намекает, что ему заткали рот, так что скорее второе.
Капитализация OpenAI сейчас оценивается в 10 миллиардов долларов. Рынок ИИ нового поколения на ближайшие годы – где-то в триллионах. Тем более странно, что из компании бегут. Так, ее покинул соснователь Ян Лейке, написав следующее: «Создание машины умнее человека – очень опасное занятие. OpenAI берет на себя громадную ответственность за все человечество. Но то, что они наплевали на безопасность и ударились в коммерцию – громадная ошибка».
Итак, пока многие эксперты вообще не верят, что ИИ второго уровня возможен, люди, которые сидят внутри компании, напуганы так, что теряют бизнес в миллиарды долларов и просто дают деру. Можно предположить, что создание Доктора Зло – не фикция, и что компания действительно не сможет справиться со своим порождением. Доктор выйдет за пределы компании. Начнется хаос. Многие не хотят быть к этому причастными.
Правительство США (а какое еще, компания-то американская) делает явные взмахи, и неуверенно грозит OpenAI (а также двум-трем другим ИИ-компаниям) какими-то «расследованиями» и «аудитами». Мол, у нас рука на пульсе. Но ясно, что лишь воздух истощают. Если бы OpenAI украло государственные деньги, а продукт не сделали, тогда да. Расследования и посадки. Но OpenAI денег у государства не брала, а сделала даже больше, чем нужно. Ну, перестарались ребята. ИИ высокого уровня – то, о чем мечтает американское государство. Тотальная слежка. Полный контроль за интернетом. Недавно просочились планы Пентагона: настроить миллионы ботов, и подослать их в локальные чаты по всему миру. Городок, например, во Владимирской области. Местный чат. Тут же сидит нечто под ником, по разговору понятно, что местный. Но это бот-разведчик. Умно? Умно и страшновато.
Что касается Бренджеджа, Лейке и других, не так они прекраснодушны и не так глупы. Если рынок яда (Доктора Зло) – трилион, то рынок противоядов – небо, 10 триллионов. На этот формирующийся рынок они и хотят сесть. Так что не себе в ущерб спасают человечество.
