ChatGPT не прошел испытание на «детекторе лжи»: когда лопнет мыльный пузырь искусственного интеллекта
Фото: EAST NEWS.
В обсуждениях о самозванцах в мире технологий все чаще звучат аналогии с классиками кино, когда происходит сравнение с фильмом «Иван Васильевич меняет профессию». В частности, фраза: «Говорят, что царь — ненастоящий!». Такие аналогии часто приводятся в контексте ChatGPT, мощной языковой модели, работающей на алгоритмах искусственного интеллекта (AI).
Ожидания от нейросетей высоки, и многие верят, что они принесут революцию в общество. Но что на практике? AI часто генерирует несуразные ответы: от банальных шуток до бессмысленных фраз. Недавно исследователи разрабатывали новый инструмент, который получит название SimpleQA, чтобы проверить правдивость ответов медиа и чатов на основе ChatGPT. Данных было довольно много, и результаты показывают, что подобные модели генерируют 20-40% ложных ответов! Например, простые запросы типа «Что? Где? Когда?» получали нереальные ответы, такие как детская игра, про которую никто уже не помнит.
Разработчики ChatGPT из OpenAI создали свой уникальный «детектор лжи» для выявления ошибок и отклонений в ответах. Данная модель называется SimpleQA и, как выяснилось, действительно выдает много ложной информации. Это подчеркивает, что языковые модели, генерирующие ответы, могут подводить даже в вопросах вроде, «Под каким номером в топе Billboard Digital World Songs находилась песня Babymetal Road of Resistance?» По сути, ChatGPT, как показывает практика, не может дать адекватный ответ по всем критериям.
Дискуссии о том, является ли искусственный интеллект настоящим прорывом или мыльным пузырем, продолжаются. Мы побеседовали с Александром Асланянцем, ведущим изначального проекта создания простого AI, чтобы обсудить, чего ожидать от технологий в будущем.
ХАЙП Вокруг ChatGPT вредит Искусственному Интеллекту
— Асланянц считает, что такой хайп создаёт реальную угрозу для технологий. По его мнению, разного рода энтузиасты акцентируют внимание только на позитивных моментах, не учитывая, что естественные языковые модели все еще далеки от совершенства.
— Нужно отметить, что никто из ученых не утверждал, что они найдут ответы с 100% точностью, — подчеркивает он. — Наша задача заключается не в том, чтобы создать идеальную систему, а в возможности ее применения в разных областях.
ChatGPT действительно может давать ошибочные ответы, особенно в сложных вопросах, и требует постоянного обучения и адаптации к новой информации. В этом контексте его использование должно быть корректно интегрировано с дополнительными системами управления.
Промышленный Искусственный Интеллект vs Будущее
— По словам экспертов, важно помнить, что законы машинного обучения не являются универсальными. AI, как литература или музыка, развивается, и однозначно идеального продукта не существует. Поэтому рабочие места могут измениться, и различия в подходах к использованию ИИ могут появиться.
Несмотря на то, что многие верят в успех технологий, необходимо учесть, что предстоящие разработки должны быть основаны на анализе и понимании, что даже лучшие алгоритмы могут быть несовершенными, поэтому некоторый из вопросов о доверии AI остаются открытыми. Так, грамотная интеграция технологий использования AI быстро возрастает.
Вопросы к искусству, которое будет стоять перед ИИ, можно было бы обсудить еще долго, что подтверждает способность AI зависеть от массы информации и коррупционных рисков. Этого не следует допускать, иначе это создаст все условия для проблемы-муьчительного пузыря со временем.
Фото: Shutterstock.
Половина Искусственного Интеллекта или Программный Кризис
— Наблюдая за новыми трендами, можно с уверенностью сказать, что мир технологий резко меняется. Однако лишь время покажет, имеет ли это будущее. Каждый технологический шаг требует научных расчетов и заметного общественного мнения. Исходя из этого, легко предположить, что инвесторы задумываются о том, как избежать потерь и не допустить потенциального краха в будущем.
Таким образом, можно ожидать, что на горизонте появятся новые инициативы от меньшинства людей к системам с искусственным интеллектом, и это приведет к результатам, которые могут существенно повлиять на индустрию.
