Исследовательская лаборатория Midjourney приостановила бесплатные пробные версии программного обеспечения для создания изображений после того, как пользователи создали реалистичные дипфейки, включая арест бывшего президента США Дональда Трампа и Папу Франциска в пуховике.

Изображения, созданные с использованием платформы искусственного интеллекта, особенно снимки Трампа и понтифика, которые стали вирусными, привлекли внимание к лаборатории в Сан-Франциско.

«Из-за сочетания чрезвычайного спроса и злоупотребления пробными версиями мы временно отключаем бесплатные пробные версии до тех пор, пока у нас не будут развернуты следующие улучшения системы», — заявил Дэвид Хольц, основатель Midjourney на этой неделе в сообщении компании.

Сервис создает реалистичные изображения на основе письменных запросов пользователей. Его запустили в тестовом режиме в середине 2022 года, а независимая лаборатория постоянно обновляла программное обеспечение. Пользователи похвалили недавно выпущенную версию Midjourney за улучшенную реалистичность создаваемых изображений.

Наряду с приостановкой новых бесплатных пробных версий Midjourney запретила использование определенных слов, таких как «арест», для подсказки создания изображений.

Кроме базового бесплатного ипользования, доступа к которому больше нет, Midjourney предлагает также и три тарифных плана на выбор: Basic, Standard и Pro, которые отличаются между собой ценой, количеством доступных генераций в режимах Relax (когда нейросети обрабатывающий запросы по очереди) и Fast (обрабатывает запрос с высоким приоритетом в режиме реального времени).

Midjourney признала проблемы с действующими политиками по поводу генерации изображений содержимого. В 2022 году генеральный директор Midjourney Дэвид Хольц оправдал запрет на генерацию изображений китайского лидера Си Цзиньпина.