Европейская комиссия объявила о старте экспериментального проекта по практической реализации ряда принципов, которые должны будут соблюдаться компаниями и правительствами при разработке и использовании искусственного интеллекта.

Эти принципы не похожи на Три закона робототехники Айзека Азимова, они не предлагают правила поведения для роботов, а вместо этого затрагивают важные юридические и этические проблемы, которые могут возникнуть в обществе, поскольку человечество интегрирует ИИ в такие сферы, как здравоохранение, образование и потребительские технологии.

Для этих целей в 2018 году была сформирована группа из 52 независимых экспертов, определивших семь ключевых требований, которым, по их мнению, должны соответствовать будущие системы искусственного интеллекта.

• Человеческое содействие и надзор: ИИ не должен рушить автономию человечества, манипулировать людьми или принуждать их к чему-либо, а люди, в свою очередь, должны иметь возможность вмешиваться и контролировать каждое решение, принимаемое программным обеспечением.
• Техническая надёжность и безопасность: системы ИИ должны быть устойчивыми к внешним атакам.
• Конфиденциальность и управление данными: персональные данные, используемые ИИ-системами, должны оставаться конфиденциальными.
• Прозрачность: решения, принимаемые программным обеспечением, должны «пониматься и отслеживаться людьми».
• Разнообразие, недискриминация и справедливость: предоставляемые ИИ-системами услуги, должны быть доступны всем, независимо от возраста, пола, расы или других факторов.
• Экологическое и социальное благополучие: системы искусственного интеллекта должны быть экологически ответственными и способствовать позитивным социальным изменениям.
• Подотчетность: ИИ-системы должны быть защищены существующими средствами защиты корпоративной информации. О негативных воздействиях систем необходимо сообщать заранее.

Эти принципы не имеют юридической силы, но они могут способствовать появлению законодательной базы, созданной Европейским союзом.

В рамках данного проекта был также подготовлен список вопросов для «достоверной оценки искусственного интеллекта», которые могут помочь экспертам выяснить любые потенциальные слабые места или опасности в программном обеспечении, использующем алгоритмы ИИ. Подробный отчёт по проблемам искусственного интеллекта будет представлен на конференции, которая пройдёт 9 апреля в Брюсселе.