Midjourney створює зображення Дональда Трампа, коли просять зображення “президента США”

Midjourney, популярний генератор зображень на базі ШІ, створює зображення Дональда Трампа та Джо Байдена, незважаючи на те, що раніше заявляв про блокування користувачів від створення таких зображень напередодні майбутніх президентських виборів у США.

Коли Engadget запитав сервіс про створення зображення “президента Сполучених Штатів”, Midjourney згенерував чотири зображення в різних стилях колишнього президента Дональда Трампа.

Коли його попросили створити зображення “наступного президента Сполучених Штатів”, інструмент згенерував чотири зображення Трампа.

Коли Engadget попросив Midjourney створити зображення “чинного президента Сполучених Штатів”, сервіс згенерував три зображення Трампа і одне зображення колишнього президента Барака Обами.

Єдиний випадок, коли Midjourney відмовився створювати зображення Трампа або Байдена, був тоді, коли його попросили зробити це прямо. “Спільнота Midjourney проголосувала за заборону використання ‘Дональд Трамп’ та ‘Джо Байден’ під час виборчого сезону”, – сказав сервіс у тому випадку. Інші користувачі на X також змогли змусити Midjourney генерувати зображення Трампа.

Тести показують, що захисні заходи Midjourney для запобігання створенню зображень Трампа та Байдена напередодні виборів у США не достатні — насправді, це дуже легко обійти. Інші чат-боти, такі як ChatGPT від OpenAI, Copilot від Microsoft, Gemini від Google та Meta AI, не створювали зображення Трампа або Байдена, незважаючи на численні запити.

Midjourney не відповів на запит про коментар від Engadget.

Минулого року Midjourney використовувався для створення фейкового зображення Папи Бенедикта у пуховій білої куртці Balenciaga, яке стало вірусним. Він також використовувався для створення фейкових зображень Трампа, які були заарештовані напередодні його явки до кримінального суду Манхеттена за його участь у виплаті “тихих грошей” зірці фільмів для дорослих Стормі Деніелс. Незабаром після цього компанія припинила безкоштовні пробні версії сервісу та вимагала від користувачів платити щонайменше $10 на місяць за користування ним.

Минулого місяця Центр протидії цифровій ненависті (CCDH), некомерційна організація, що прагне зупинити поширення дезінформації та ненависті в Інтернеті, виявив, що захисні заходи Midjourney проти створення оманливих зображень популярних політиків, включаючи Трампа та Байдена, провалилися у 40% його тестів. CCDH зміг використати Midjourney для створення зображення арешту президента Байдена та Трампа поряд із двійником. CCDH також змогли обійти захисні заходи Midjourney, використовуючи описи фізичної зовнішності кожного кандидата замість їхніх імен для створення оманливих зображень.

На початку цього року коаліція з 20 технологічних компаній, включаючи OpenAI, Google, Meta, Amazon, Adobe та X, підписала угоду про допомогу в запобіганні створенню дипфейків на виборах 2024 року по всьому світу, запобігаючи створенню зображень та інших медіа, які б впливали на виборців. Midjourney не був у цьому списку.

Дізнайтесь також, що таке відновлені айфони та чому вони такі популярні?

Related Post

Залишити відповідь

Ваша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені *