Человечество может пострадать от искусственного интеллекта, а неестественная лень
Фото: Shutterstock.
Ранее человечество жило в ожидании конца света или коммунизма, а теперь обеспокоено вероятным появлением мощного искусственного интеллекта (ИИ), который вмешается в решение всех насущных проблем. «Это либо принесет удачу, либо несчастье, но до момента появления сильного ИИ все кажется, что нужно помогать», — говорит Сэм Альтман, глава OpenAI и креатор ChatGPT. По его словам, нейросети могут достичь уровня сверхразума уже в наступившем 2025 году.
Что такое сильный ИИ? Как пояснил Альтман, это нейросеть, способная самостоятельно обучаться, получать новые знания и выполнять любые интеллектуальные задачи наряду с квалифицированным специалистом. Или даже перевыполнять их. От сильного ИИ ожидаются самые разные чудеса: здесь вам и начало эры новых научных открытий, и решения нерешаемых задач продления жизни и похудения к лету…
Некоторое время назад даже среди специалистов не было единого мнения относительно того, можно ли в принципе создать машину сверхразума. Мы не понимаем, как работает сознание и мышление у человека, как формируется его личность, говорили скептики, поэтому не очень понятно, как этому научить алгоритм. С тех пор ученые продвинулись далеко в деле обучения нейросетей. Они наделили роботам чертами человеческой психики. Так, например, машины узнали, что такое мотивация — сила, без которой невозможно самоусовершенствование. Только человеком движет жажда славы, власти или признания, а роботам руководит исключительно цифровая мотивация: алгоритмы пишутся так, чтобы он стремился набрать как можно больше зачетных очков. А недавно Московский физико-технический институт (МФТИ) запустил проект «Культурные замеры больших языковых моделей». Его реализует группа лингвистов во главе с Максимом Кронгаузом (Кронгауз, они пытаются «очеловечить» искусственный интеллект, загрузив в него некоторые образы культурного кода человечества («КП» подробно писала об этом в материале «Очеловечиваем искусственный интеллект: зачем нейросетям знать Окуджаву, Тарковского и «Доктора Живаго»).
К каким последствиям может привести это слияние машинного и человеческого разума? Об этом мы поговорили с лингвистом, доктором филологических наук, Максимом Кронгаузом, руководителем группы Центра междисциплинарных исследований МФТИ, профессором РГГУ, МФТИ и НИУ ВШЭ.
— Максим Анатольевич, кажется, что ученые «воспитывают» искусственный интеллект по образу и подобию человека. Но ведь человек грешен, даже лучших из нас порой обуревают предрассудки. Мы бываем несправедливы, живем во времени творим зло. Какие вещи о нас машины лучше не знать? И чем ее учить категорически нельзя?
— Есть некоторые закрытые области, которые большие языковые модели уже сейчас отказываются обсуждать. Это касается в первую очередь моральных и этических проблем. Например, «Алиса» — виртуальный голосовой помощник Яндекса — не будет с вами разговаривать про алкоголь, наркотики, вредные привычки или неприличные темы. Я думаю, нельзя создавать модель с преступными наклонностями, именно поэтому среди культурных типов, с которыми мы хотим познакомить языковые модели, нет «братков» и «гопников», хотя этот тип довольно распространен в обществе. Наверняка, в какой-то момент обучение ИИ на определенные темы будет законодательно запрещено. Кроме того, есть слишком чувствительные области — например, религия. Поэтому мы не рискуем создавать религиозную модель. На мой взгляд, мы взяли «чистую область» — это культура.
Фото: Shutterstock.
— Зачем нейросетям культура?
— Потому что человечество разнородно и мировосприятие человека строится на культурном багаже. Мы есть то, какие книги мы читаем, какие кинофильмы смотрим, в какой социальной и языковой среде варимся. Мы выделили 8 современных культурных типов: Базовый тип, Советский интеллект, Человек трендовый, Карьерист-«достигатор», Современный интеллектуал, Духовный практик, Неформал, IT-визионер. Для каждого культурного типа составляем некую карту — набор культурных представлений и языковых знаний. Люди определенного культурного типа общаются между собой, используя соответствующие цитаты и образы. Они помогают точнее выразить мысль и используются, как пароли «свой-чужой». Настраивая алгоритм по ключевым авторам, произведениям и кумирам, мы добиваемся, чтобы ИИ считывал намеки, понимал игру слов и речевые клише, различал, когда мы шутим, а когда говорим серьезно. Иными словами, мы хотим придать нейросетям разнообразие, которое отличается от человеческого общества. Научить модели глубже понимать людей. А для человека сделать общение с моделью более приятным.
— Если пойти по этому пути дальше, то можно реконструировать сознание великих людей прошлого. Оно ведь живет в их книгах, дневниках, письмах, публикациях. Чье сознание вам было бы интересно воплотить в машине?
— Интерес людей к этой теме понятен, потому что с кумирами прошлого интересно поговорить о событиях, которые происходят вокруг нас. Если говорить о великих ученых, то сразу вспоминается Эйнштейн. Если брать писателей, то мне интересно было бы поговорить с Толстым и Достоевским. Булгаков — тоже интересный собеседник. Но для меня такая перспектива остается запретной темой, пугающей фантастикой. Нельзя забывать, что каждый человек — продукт своего времени. Книги, стихи, художественные картины — это результат осмысленного жизненного пути, который был пройден автором. Ответы на вопросы, которые перед нами ставит новая эпоха, мы должны искать самостоятельно.
— На ваш взгляд, искусственному интеллекту уготована судьба инструмента, помощника? Или он в какой-то момент неизбежно осознает свое «Я» и захочет играть роль первой скрипки?
— Для меня совершенно очевидно, что главная угроза не в том, что искусственный интеллект поймет, какой он умный, а эти люди — глупые, и захочет поднять нас под себя. Скорее опасность заложена в нас самих. Сейчас мы находимся в состоянии некой эйфории, поскольку ИИ увеличивает наши творческие, научно-исследовательские, художественные возможности. С каждым годом мощь искусственного разума будет только возрастать и возникнет соблазн отдать эти сферы в руки нейросетей. Зачем человеку годами вынашивать свой роман, если искусственный интеллект напишет лучше? Зачем ученым десятилетиями биться над решениями научной проблемы, если алгоритм умеет исследовать лучше, чем они? Вот у меня в свое время была дурацкая привычка, я любила считать устно. Но когда появился калькулятор, я предпочла нажимать на кнопки и получать безошибочный ответ, а не упражняться в устном счете. Сейчас я в уме не считаю. Вот если мы творим, исследуем, осмысляем себя, доверим машинам — то человечество начнет деградировать. Понятно, что останутся какие-то отдельные энтузиасты, в которых горит бешеный огонь писательский, поэтический, научный. Но единцы ничего не решают. Ученый, философ, писатель — это массовые профессии, чтобы появился гений, должна возникнуть питательная среда, где можно общаться и обмениваться идеями. Вот в этом я вижу главную опасность: мы ленивы и нелюбопытны. Мы слишком многому доверим решать искусственному интеллекту, вместо того чтобы развивать себя.
