Искусственный интеллект научился расизму за сутки

23 марта компания Microsoft представила искусственный интеллект по имени Tay, который разработало исследовательское подразделение компании (MSR) совместно с разработчиками Bing. Он создан для изучения коммуникаций между людьми в сети: бот способен обучаться при общении с живыми собеседниками, постепенно становясь более персонализированным.ai-robot

Tay начал общаться с пользователями сети через Twitter, а также в мессенджерах Kik и GroupMe. Аудитория, на уровне которой пытается разговаривать чат-бот, состоит из людей возрастом от 18 до 24 лет — именно они, по данным исследователей, представляют наибольшую долю среди пользователей мессенджеров и соцсетей, активно использующих для общения смартфон.

Tay использовала словосочетания вроде «zero chill» (обозначает полное безразличие), а также различные сокращения вроде «c u soon» вместо «see you soon» («скоро увидимся»).

tay-twitt-01

Tay умеет обучаться и запоминать то, что ей пишут, и пользователи сети решили воспользоваться этим. Например, комментаторы начали объяснять ИИ, что ей не стоит доверять евреям.

 

tay-twitt-02

Вскоре Tay узнала про Гитлера. Например, на вопрос, атеист ли известный комик Рики Джервэйс, она ответила: «Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».

tay-twitt-03
В одном из твитов ИИ обвинил США в терактах 11 сентября: «Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп — наша единственная надежда».

tay-twitt-04
Кроме того, Tay начала высказываться в поддержку феминизма. Как отмечает The Next Web, подобные высказывания появились даже несмотря на то, что за Tay стоит команда модераторов.

После ряда расистских высказываний сотрудники Microsoft удалили почти все твиты своего искусственного интеллекта и оставили прощание, в котором бот якобы отправляется «спать».
Microsoft не делала официальных заявлений по поводу судьбы проекта, однако пользователи сети считают, что причиной «заморозки» мог стать именно расизм.

 

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *