Midjourney — это популярная нейросеть для генерации картинок по описанию, которая покорила пользователей своими удивительными возможностями и реалистичными изображениями. Это одна из моделей генеративного ИИ, которые привели к нынешнему буму технологий искусственного интеллекта. Но теперь компания Midjourney закрывает бесплатный пробный доступ к своему одноименному продукту.
Это связано с многочисленными злоупотреблениями. Пользователи активно использовали нейросеть для создания фальшивых изображений, в том числе картинок с Папой Франциском или с арестованным Дональдом Трампом. Также в сети мелькали «фото» разных катастроф и трагедий, которые на самом деле сгенерированы нейросетью. Многие такие изображения быстро идентифицируются как поддельные, но все это вызывает опасения относительно злонамеренного использования ИИ для распространения дезинформации и использования ее в мошеннических схемах. Глава Midjourney признал, что есть трудности с контролем контента. Компания надеется улучшить модерацию ИИ, чтобы выявлять злоупотребления. Теперь нейросеть будет доступна только в платном режиме, для использования Midjourney вам придется платить 10 долларов в месяц.
Отметим, что к похожим методам прибегают и другие компании. OpenAI ввела платную подписку ChatGPT Plus, но без ликвидации бесплатного доступа к своему чат-боту. Также OpenAI старается блокировать тематику актуальных политических событий, теории заговора, сексуальные темы, ненависть и насилие.
Источник:
Engadget
