Следите за нашими новостями в удобном формате Есть новость? Присылайте! Разработчики систем искусственного интеллекта (ИИ) будут обязаны сообщать их пользователям о недопустимости использования нейросетей для манипулирования поведением и эксплуатации уязвимостей человека. Это следует из законопроекта об искусственном интеллекте, который разработан Минцифры и сейчас проходит межведомственное согласование. «Известия» ознакомились с документом.
Под эксплуатацией уязвимостей в законе понимается использования тех или иных состояний человека (возрастных, социально-экономических, психологических и других) для «целенаправленного воздействия на поведение, принятия решений или несанкционированного доступа к информации».
«Запрет распространяется прежде всего на операторов и разработчиков систем ИИ — то есть, на организации и компании, которые внедряют такие системы в сервисы, приложения или продукты. По сути, «объяснить» это роботу можно так: система ИИ не должна проектироваться или использоваться таким образом, чтобы сознательно подталкивать человека к решениям, которые он бы не принял без скрытого давления или манипуляции», — полагает ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов.
По словам эксперта, ИИ способен влиять на поведение человека через анализ данных о нем и персонализацию контента — например, подбирая сообщения, рекомендации или интерфейсы, которые повышают вероятность нужного действия. Такие технологии могут использоваться в рекламе, политических коммуникациях, рекомендательных системах или чат-ботах для усиления доверия, срочности или эмоциональной реакции, утверждает Селиверстов.