Илон Маск планирует перевести свою социальную сеть X из Сан-Франциско в Техас в свете нового законодательства Калифорнии, запрещающего школам информировать родителей, если их дети выбирают идентифицировать себя с другим полом. Этот недавний шаг охарактеризован как «последняя капля», ведь Маск также намерен перенести SpaceX из Калифорнии. Ранее он перенёс штаб-квартиру Tesla в Техас в 2021 году, высказав недовольство по поводу локдаунов из-за COVID-19, отметив: «Если команда побеждает слишком долго, они начинают чувствовать себя немного самодовольно.»
В неожиданном повороте событий Маск выразил поддержку прогрессивному законопроекту о безопасности искусственного интеллекта (ИИ) в Калифорнии, который губернатор Гэвин Ньюсом должен подписать до 30 сентября. Маск заявил: «Если всё учитывать, я думаю, что Калифорния, вероятно, должна принять законопроект о безопасности ИИ», подчеркнув свою многолетнюю поддержку регулирования ИИ, аналогичного тому, которое применимо к другим технологиям, представляющим потенциальные риски.
Предлагаемое законодательство обязывает разработчиков интегрировать «аварийный выключатель» в свои системы, создать регулирующий орган по ИИ и проводить регулярные независимые аудиты. Компании могут столкнуться с существенными штрафами, если их технологии ИИ станут угрозой общественной безопасности, включая содействие созданию оружия массового разрушения и кибернетическим атакам.
Критики законопроекта, включая Сэма Олтмана, главу OpenAI, предупреждают, что такое регулирование может помешать технологическому прогрессу, утверждая, что законопроект основан на нереалистичных сценариях. Лидер группы ИИ в Meta, Ян Лекун, поддержал эти мнения, утверждая, что законопроект может задушить инновации.
Реакция со стороны лидеров отрасли особенно примечательна, поскольку всего год назад многие, включая Олтмана, искали регуляторные рамки для обеспечения безопасного развертывания ИИ, даже обращались в Конгресс за предварительными одобрениями для новых моделей. С быстрым ростом OpenAI после запуска ChatGPT, повествование резко изменилось.
Инвестор Билл Гурли отметил, что требования к регулированию часто отражают желание действующих игроков установить правила, благоприятствующие их положению. «Уровень лоббирования беспрецедентен,» отметил он в прошлом году.
Скотт Уинер, демократический автор законопроекта, описал его как «легкий» каркас, который кодифицирует существующие добровольные обязательства крупных компаний по ИИ. Влияние диалогов с отраслью привело к значительным изменениям, включая исключение возможности генерального прокурора подавать иски за небрежность до происшествий. Законопроект нацелен на модели ИИ с затратами на обучение, превышающими 100 миллионов долларов, при этом позволяя многим стартапам работать без ограничений, но при этом охватывая тех, кто инвестирует значительные суммы в системы других компаний.
На фоне этих событий сектор ИИ переживает бум, подобный тем временам, когда зарождался интернет. Сообщается, что OpenAI нацелена на привлечение финансирования, которое может оценить её в колоссальные 100 миллиардов долларов. Маск недавно собрал 6 миллиардов долларов для разработки суперкомпьютерного кластера для своего проекта по ИИ. Он назвал ИИ «самой разрушительной силой в истории.»
Конкуренция в области ИИ острая, что приводит к повышению зарплат инженеров до семизначных значений и быстрому появлению новых функций и услуг.
Если закон будет принят, он создаст прецедент как первый в своем роде в Соединенных Штатах, возможно, оказав влияние на регулирование в других странах. Примечательно, что премьер-министр Великобритании Риши Сунак созвал Саммит по безопасности ИИ в Блетчли-парке, что привело к добровольному соглашению между ведущими разработчиками о прохождении испытаний в Институте безопасности ИИ, хотя это обязательство в значительной степени было проигнорировано.
Несмотря на сопротивление усилиям Калифорнии, OpenAI и её конкурент Anthropic недавно согласились поделиться своими передовыми моделями с вновь созданным Институтом безопасности ИИ — прямой инициативой администрации президента Байдена, направленной на контроль мер безопасности ИИ.
Джефф Хинтон, часто называемый «крестным отцом ИИ», публично поддержал законодательство Калифорнии. Он отмечает: «Сорок лет назад, когда я обучал первую версию алгоритмов ИИ, никто не предполагал, как далеко зайдёт ИИ. Мощные системы ИИ предлагают невероятные возможности, но связанные с ними риски необходимо воспринимать всерьез.»
