Q: Мы собираемся расширить нашу клиентскую базу во Франции, в основном через взаимодействие нашего веб-сайта. Учитывая, что мы полагаемся на различные сторонние инструменты искусственного интеллекта, как Закон Европейского Союза об искусственном интеллекте повлияет на нас?
A: Подготовка к закону до расширения на рынок Франции крайне важна. Закон имеет две основные составляющие, которые влияют на ваши требования к каждому инструменту искусственного интеллекта, который вы используете.
Первый аспект — ваша роль в области искусственного интеллекта: являетесь ли вы поставщиком, внедренцем, дистрибьютором или импортером. Второе относится к уровню «риска» использования вами искусственного интеллекта: запрещен ли он, относится ли к высокому риску, ограниченному риску или общестроительной модели искусственного интеллекта?
Исходя из вашего описания, вы, вероятно, попадаете под категорию внедренцев, что означает, что вы используете систему искусственного интеллекта «под своим контролем», интегрируя ее в свой веб-сайт.
Ваши следующие шаги включают проведение ревизии каждого инструмента искусственного интеллекта, сосредоточившись на трех ключевых аспектах. Определите, не входит ли какой-либо инструмент искусственного интеллекта в восемь запрещенных категорий. Проверьте, не относится ли какой-либо из них к искусственному интеллекту высокого риска или компонентам безопасности. Наконец, убедитесь, что они подпадают под следующие категории: искусственный интеллект, который взаимодействует с людьми; искусственный интеллект, создающий синтетический звук, изображения, видео или текст; искусственный интеллект, вовлеченный в распознавание эмоций или биометрическую классификацию; и искусственный интеллект, создающий «глубокие фейки».
Некоторые из ваших инструментов искусственного интеллекта, ориентированных на розничную торговлю, могут попадать в эту третью категорию. Примеры включают чат-ботов для обслуживания клиентов, инструменты, генерирующие контент, демонстрирующий продукт в окружении клиента, и функциональности веселья на веб-сайте (например, обмен лицами). В зависимости от их функционирования они могут относиться к высокому риску.
Основываясь на ваших выводах, вам необходимо документировать обоснованное и законное решение относительно использования вашего искусственного интеллекта (с учетом персональных данных, интеллектуальной собственности, предвзятости, точности и т.д.) и соответствовать требованиям прозрачности (уведомляя пользователей о вашем использовании искусственного интеллекта аналогично тому, как вы информируете о использовании персональных данных).
Если какой-либо искусственный интеллект на веб-сайте признан высоким риском, ваши обязательства по соответствию будут более строгими, чем в рамках GDPR. Закон обязывает вас: использовать искусственный интеллект в соответствии с указаниями поставщика; контролировать его использование; обеспечивать человеческий контроль; проверять, что входные данные являются актуальными и репрезентативными; и вести ведение журналов в течение шести месяцев.
В случае серьезного инцидента, сбоя или потенциального ущерба, вам необходимо уведомить поставщика и власти и прекратить использование искусственного интеллекта. Вашему бизнесу также потребуется продемонстрировать соответствие всем этим требованиям.
Важно учитывать Закон об искусственном интеллекте наряду с существующим соблюдением GDPR из-за многочисленных перекрывающихся аспектов. Заметным перекрестком являются правила GDPR о профилировании, распространенные в розничном маркетинге.
Закон вводит режим штрафов, более суровый, чем (и дополнительно к) GDPR, с штрафами до 35 миллионов евро или 7% от оборота, в зависимости от того, что выше. Однако стоит больше обращать внимание на потенциальные доходы и влияние на репутацию, чем на штрафы. Раннее начало подготовки разумно, так как многие компании откладывали соблюдение GDPR. Еще есть время (положения закона вступают в силу в течение 36 месяцев), но разумно начать уже сейчас.
Ванесса Барнетт — партнер Keystone Law
